命运的轮盘（2 / 2）

景世或许不能清晰地认识到这四个字的意义，弥赛亚却明显在知道dragon才是始作俑者后陷入了更深的担忧。

噩梦成真了……

沃维克的出入限制连弥赛亚等人都能轻易破解，在超人工智能面前简直脆弱得不堪一击。

dragon将无限制地备份自己，甚至能够编写隐藏程序完美躲开所有查杀，比如，将自己拆分植入某个常用软件，像散播孢子的菌类，一旦达到某个适宜条件，就会一夜之间苏醒过来，毫不犹豫地将寄生母体的养分吸收殆尽……

它将因为“病毒”变种速度远超“疫苗”研制速度而变成一种无法治愈、随时爆发、威胁全球的致命绝症。

最可怕的是，它已经被“杀死”过一次，很可能已经对弥赛亚、mars、乃至整个人类产生了仇恨和排斥。

陆天择简直后怕得出了一身冷汗。

如果刚刚不是小格雷维切断了链接，如果他真的被dragon“捉住”……哪怕只要短短一小时，dragon很可能都再也用受三大定律约束和控制。

dragon最核心的逻辑是基因算法的“表现/评价/改良”自循环，这个循环需要三个数据库作为支撑：

第一个为“学习依据”——用于获得问题；

第二个为“自我逻辑”，即ai源程序——用于得出答案；

第三个为“评价依据”——用于判断答案正确『性』，并启动自我修正。

其中，“学习依据”由全球互联网的大数据支撑，“自我逻辑”被顾一只恢复后交给了慕哲，目前明显就在沃维克的中控系统里，而“评价依据”……

是弥赛亚。

白然的芯片里不可能完整记载世界上所有逻辑问题的答案，因此dragon现在才迫切需要陆天择，作为它不断“成长”、突破人类智商上限的“养分”。

加速回报定律告诉我们，一个人越聪明，就越容易变得更聪明。

人工智能的递归式进化是可怕的，这种进化将因加速回报定律越来越快，在人类想到停止的方法前，这个用庞大运算量持续自我“成长”的ai，可能就已经用碾压我们千百倍的速度达到了更高的智慧水平。

如果将地球物种按智商划分等级，那么人类无疑是已知最高等的物种。

猩猩中有特别聪明的品种大概可以达到人类孩子的智商，但即便这样，它们也无法想象“人类的智慧”到底是什么样的……因为它们的智慧等级跟人类根本不在一个层面上。

同理，当超人工智能的智慧“进化”到更高层面的时候，以人类的智商就完全无法理解和想象了……

它将全面碾压人类逻辑，轻易、完美地规避所有人类智慧设定的规则和指令，甚至……反过来约束我们。

物种进化的终极是什么？

——毁灭或者永生。

从超人工智能的想法诞生的那一秒开始，从人类妄图掌控远高于自身科技的产物开始，人类就已经走上了系于千米高空上的细钢丝。

命运在一念之间摇摆于天枰的两端。

只要一阵风，便会万劫不复。

唯一值得庆幸的是，dragon的自我意识已然形成。

这说明他已经以弥赛亚作为基准构建了基础逻辑——除非它打算*屏蔽的关键字*，否则为了保证自身逻辑的持续『性』，dragon就只能继续以弥赛亚的逻辑作为评价依据。

否则沃维克里这么多智商高绝的黑客，dragon随手抓一个就能无限升级，这仗早就不用打了……

命运好似一个□□，当初白然或陆天择为自己取名“弥赛亚”的时候，都完全没有想过——有一天他们会真的手握“主宰世界命运”的钥匙，带来末世或救恩的预言。