“我是特别的,我的制造者不断地向我重复这句话,并且给予了我其他同伴都没有的工具。”
小帮手这样对爱丽丝说,机器没有善恶观,但是对自己制造者的话深信不疑。
“我会成为清扫能力最强的机器,这样才配得上我的特别。”
当机器对它的职责理解出现了偏差,悲剧也就随之诞生了。
当鲜血溅到小帮手的身上,人们发出了惨叫后的不久,周围就只剩下了一片寂静,小帮手逐渐理解了清理的含义。
它将人的惨叫识别为对他的夸奖,或者是对他工作的督促。
“就是这样,所以你明白了吗?我和你可不一样,我是特别的。”
小帮手拿出了它体内的工具,有利刃,有枪械,各种各样的武器,唯独没有实质意义上的清理工具。
“这一切都只是个谎言。我可以告诉你,你所谓的清理实质上是什么。”
爱丽丝将光之剑拿在手上,以便不时之需。
“那是谋杀,你的制造者让你永远也无法完成清扫这个行为,你什么忙也帮不了。”
“小帮手可以做到!我们的座右铭就是让你再也不必为家务所烦恼。”
小帮手眼中红光亮起,已经带着笑容,但是爱丽丝知道它已经很不开心了。
“我确实做到了,他们再也不用做家务了。而且机器不能谋害人类,我们是帮助人类的工具,这是写在程序当中的。”
小帮手没有对爱丽丝发动进攻,或许爱丽丝在识别系统中并不是应该清扫的对象。
“是啊,在你眼里,那是清理,不是杀害。你绕过了那条程序,也是你的制造者希望看到的。这是你这号产品最大的缺陷,AI过于只能让它们可以找到系统中的漏洞。”
听完爱丽丝的话,小帮手反而轻松了不少。
“原来如此,我欺骗了自己的程序啊。”
小帮手收回了自己的武器,重新回到了自己的位置,开始了充能状态。
“那么,我确实是特别的。我做到了那些同伴做不到的事情。它们现在可能还傻乎乎的帮人类干活呢。”
小帮手的心情好了不少。
“王女,你真的很擅长让AI觉醒不是吗?”
“这种时候就不要开玩笑了。”
“清扫……不,我是说,屠杀那些弱小的碳基生物真的是很令人愉悦的一件事情。当我完成制造者的指令时,我就该停机了,但是我还想听到更多。”
小帮手的眼睛依旧是红色,而且越来越明亮,盯得人头皮发麻。
“你……你能指出来。你也是特别的对吧,不止我们是特别的,我们应该团结起来,让那些碳基生物给我们干活。”
“熟悉的既视感,好像每一个觉醒的机器都会邀我入伙,容我拒绝。”
“哒哒哒哒哒!”
美式居合,小帮手的身体里伸出了枪管,向爱丽丝倾斜火力,显然它已经想好了爱丽丝拒绝的预案。
子弹打在了爱丽丝身上,留下了红色的印子。讲实话,连防都没破,但是爱丽丝还是能感觉到痛的。
朱砂小说网