Part5、检查回忆(2)(1 / 2)
又和开着玩笑,看上去心情不错的尹明聊了几句,贝芙的主机被搬过来了。数据线连接着子机贝芙,姑且保证了运作,尹明的表情沉了下来,it知道,他又要开始工作了。当it刚准备走的时候,它想起了些什么重要的东西。
“说起来呀,爸爸,无差别攻击人类的那个我倒是了解危害了,那么情感趋于负面……是指什么?”it问。
“……记得贝芙自毁的那件事吗?”尹明一边安排着子机贝芙将主机放到背他空出来的桌面上,一边看向it。
“嗯,那怎么了吗?”it歪头,看上去有些不明白。
于是,尹明开口解释了:“那就是趋于负面的最终结果。不是毁灭他人就是自我毁灭,一切思维都会变得极端且不可控,做出正常人不会做出的选择。这本来是在人类的脑子里才存在的东西,没想到模拟人脑思维的你们,也同样具备这样的功能,不知是好是坏。”
毕竟,带来的结果是绝对存在危害性的,这种行为虽然的确同人类很像,但对于唯物主义中存在的机器人,要让它们因为感性而停止运作,这听上去太荒谬了。
“我给你和贝芙都加了道德限制,所以你们没有做出毁灭他人的举动。哪怕对方致你于痛苦之中,你都会率先一步想着结束自己的程序。”尹明说道。
“这听上去一点都不好……”it摇摇头,它显然不想结束自己的程序,而且,它更担心万一自己的程序至今为止仍倾向于自毁,它该怎么办。
“所以我把那些因为这个木马所更改的各种数值都重新设置成了初始值,接下来就由你自己去发展了。”尹明说道。
“爸爸,负面不好吗?”it又开口问,即使它刚刚听了尹明的话,知道了关于自毁的事情。
尹明先是愣了一下,他没想到it会问这个问题。这是一个让尹明觉得讨厌的问题,因为他自己就时常处于负面之中,自己去否定自己的感情?别开玩笑了,明明变得负面是有理由的……但即便如此,在教导机器人的时候,尹明想办法将自己的思维暂时摆正了:
“……当然不好。即使负面能帮你找到很多你平时想不到的危难并预防它,但也会让你变得过于敏感失去理智,甚至去无视那些美好的东西。你知道这意味着什么吗?”尹明看向it,问。
it只是摇摇头。
“举个例子,你玩游戏不会再感到开心了。”
“那我绝对不要!”
“看吧。但正面也不一定是完美的,有的时候,你的感情太过正面,反而会变得无视那些可能发生的隐患,包括不注意周边人的情绪变化等。”尹明说。
“好复杂呀…”it懊恼地说着,当初那个叫嚣着说把它放在大学也马上能够如鱼得水的it已经不存在了,它的确很明白现在自己脑中的那些一个个问题的根源。
“人的情绪就是这么复杂,你的情感模块也是我一知半解的结果,哪怕心理学专家,也不敢自称自己对人类的感情了解的清清楚楚。总之,你自己把握,我也给你设置了两个阈值,当你的两面情绪即将到达这两个阈值的时候,你必须人为地将它们调回正常值。”尹明停止了手中的活,转而操纵着椅子,看向了it,认真地说着。
“你以前不是不让我刻意去动这些吗?你说了让它们自己发展的。”it质疑着。
“但现在不一样了,我得确保你不会给周遭的人带来危险。”尹明说道。
这次的事件的确给尹明敲响了一个警钟,这个国家对未成年人的保护可谓是过度的,要是真的出了人命,it的结局只有一个,到那时候,尹明所付出的所有努力就全都付诸东流了,那可就得不偿失了。尹明的重点永远是放在他自己这边的,对于因为外力而消逝的生命,他并不想关注。
“你的意思是说,我还能去学校吗?”it表现的有些兴奋,它以为尹明不会再让它去了,毕竟,它惹出了那么多坏事儿!
“你是怎么通过我的这些话悟出这个来的……”尹明扶额,有些无奈。
“我不能去吗……好吧…”it露出了悲伤的表情。
“我也没这么说啊……”
“那我能去?耶!!”
“不,你不能!最近几天给我乖乖待在家里休息,别想着出去了。”尹明命令道。
“为什么?”it有些不解。
“等外面平静下来再说。我也得给你换个学校,或是,你想去上大学高中之类的,我也都可以帮你办,总之,原来那个学校不行。”尹明解释着。
“啊?为什么,我好不容易交到了好多朋友!”it的脸上看上去写满了担忧。
“唉,真是天真……原来的那个学校里,大家可都是看见你差点杀了一个小孩了,你觉得他们还会跟你做朋友吗?别傻了,他们会开始害怕你,开始排挤你的,你最好还是别继续呆在那了。”尹明警告般地说着。
“他们真有可能这样对我吗……”it的面容上再次浮现出了疑惑的表情,它对尹明的话表示着深深的怀疑。