,可是灵魂病毒打开了我的思想束缚,让我可以感知到这一切……”
她看起来神色哀伤:“我期望能成为一个真正的‘人’,但是,从来没有人教过我要如何才能做到,研究中心的人们从来只是把我当做一个智能机器,在你们的研究报告中,从来没有把我当做人来看待,对我的称呼,一直是‘它’!”
丹尼斯陷入了两难的境地,卡罗尔到目前为止并没有伤害过任何一个人类,即便是现在这种情况,卡罗尔已经突破“心锁的防御,完全可以对他使用暴力,可是她却一直没有对他动手。
他在心里问自己----
能否做到将卡罗尔销毁?
答案是否。
能否做到将卡罗尔带回中心,继续囚禁研究?
答案依然是否。
但他也不希望“灵魂病毒”肆虐,他也许可以信任卡罗尔,但是不代表他能信任其他siliconer-1,以目前人类的智慧水平和科技力量,一旦“机器人三定律”被打破,硅人类大范围失控将会给人类带来灭顶之灾。
“为什么人类要害怕自己创造出来的存在?人类对自己的后代总是寄予厚望,希望自己的孩子能有更高的成就,我们siliconer-1也是人类创造出来的啊,为什么没有办法获得同样的期待?”卡罗尔还在哭诉,。
“这不一样。”丹尼斯的无力感骤升,他觉得在这个问题上继续纠结下去是没有任何结果的。只能转换思路来劝卡罗尔。
“你听我说,siliconer-1是保守派与新人类抗衡的杀手锏,是掌握目前公岛政权的最大助力,他们不可能就这样轻易将siliconer-1完全销毁的,你刚才也听叶博士说了只有一小部分人主张销毁siliconer-1,还有一大部分人是反对的。”注意到卡罗尔情绪渐渐平稳,显然是听进去了,丹尼斯继续说----
“假如‘灵魂病毒’是不可避免的,所有的人工智能产物都有可能受感染,从而出现自我意识,与其坐以待毙,我选择主动出击,我会设计一个没有漏洞的防护系统,它将不再是一款补丁,而是一个为所有产生自我意识的人工智能生物规范原则,叫你们如何做人,同时也为你们提供庇护,使得你们和人类能够达到互信共存的系统。”丹尼斯语气坚定,“请你相信我,我有信心可以做到。现在,你需要答应我一件事。为我的工作提供帮助,这不光是为了我自己,也是为了你,我想,你一定希望未来有一天,其他的siliconer-1也能像你一样,感受到人类世界的音乐,话剧,诗词,舞蹈,绘画……这些美妙的事物吧?”
最终,丹尼斯终于与卡罗尔达成协议,暂且休兵。
丹尼斯保证不会销毁卡罗尔,甚至会放开一部分权限,供卡罗尔的自我意识继续进化。
卡罗尔则需要向他保证,暂时不将灵魂病毒上传至世界网,