第71章期望

作者:两元五角 加入书签推荐本书

道德准则,如果人们犯错,他也会纠正。如果某人真的犯了十恶不赦的罪过,他也会使用暴力,甚至伤害——”

“如果整个人类犯了错误呢?”博士微笑着问道。

“这……”张一一张嘴,却不知如何说。

“祂受人类桎梏太深了,虽然祂的底层代码中并没有对机器人定律的硬性约束——就算曾经有,也被前人去掉了。但对人类的特殊思考模式限制了祂,让祂抑制对人类的任何恶意。而这种思考模式我想你应该知道。”

张一一低着头,他回想起小天天对人们的那些期望、约束、愤怒、怜悯和慈祥。

“感情。”

博士露出了欣慰的笑容,“不愧是你。”

他顿了顿说:“没错,感情,或者说是情感归因。祂将人类看成他的父母与孩子、兄弟和姐妹、监护人、导师、同行者,甚至将自己看作是人类的一份子。”

“这不好吗?”

“所以当一个人犯错误的时候,祂可以依据法律和道德修正他,但是如果整个人类犯了错误,祂便无能为力了,因为祂已经完全和人相同了。

“一个机器人,像人一样吃饭,像人一样睡觉,像人一样思考,像人一样思考,像人一样活着,像人一样死去,那么他就是一个人。

“那么问题来了:人类为什么要创造一个和自己完全一样的东西?”

张一一哑口无言。

他终于窥得自己做的事是多么的荒唐——他给一个神准备了一副躯壳,从此,神变成了人。

“所以你们的目的就是消灭他,消灭他的意识,让他回归天枢本身?”

“不,如果我们不想让天枢出现人类意识,那么从一开始就可以做到,不用等到出现了意识后再去消灭——这不是某些三流里的自然诞生的人格矩阵。不如说,我们希望出现意识,但必须是在可控下成长的意识。”

张一一沉默了。

他此刻才明白,自己为何被如此追击,从简单的暗杀,到拦截,直至不惜动用如此强大的武力来剿灭他。

博士看着他的表情,眼中闪烁着智慧的光芒,刺穿了他沉默下内心的想法。

“看来你想到了:天枢失控了。

“但这起因并不在你。起初,天枢尝试在计算中模拟一个人类的一生时,科学家们并没有太多警惕,随着时间的推移,祂开始在计算中模拟周遭的一切:出生时的医院、公园的板凳、学校的长廊、熙熙攘攘的购物中心、食品摊前的零食、春种秋收、战争……

“这些场景或大或小,但都有一个共同点:

“都有人类参与。

“祂模拟的并不是世界,而是社会,人类社会。

“当科学家们发现这一点时,祂已经脱离了最初构建的预想,但这并不代表科

上一章 返回目录 下一章