所有的这一切……都是因为伏羲?
联合决策席的决策并不来自于决策席的成员,而是来自一个智能系统?
看到他的表情,江星野缓缓点头,随后解释道:
“没错,是伏羲。”
“这个过程可能比你想象的要更复杂一些,在绝大部分人植入脑机之后,人脑的活动逻辑已经发生了根本性的改变。”
“外源信息对决策的支撑作用已经远远超过了内生信息,也就是说……”
“输入性的信息,已经在即时决策中占据了最主要的地位。”
“我们一直以为,脑机只不过是一个辅助工具。”
“但实际上,即便仅仅是对短期记忆进行修改,也会对人脑的形态引发深远影响。”
“更何况,联合决策席、钱学森号空间站居民使用的第三代脑机,有相当部分的触点是直接针对长期记忆生效的。”
“他们已经在潜移默化中被完全改造了。”
“与其说他们是拥有自由意志的人,不如说,他们是拥有自由意志的错觉、实际上却已经成为了人工智能的傀儡!”
傀儡……
一股寒气从吴忧的后背攀援而上。
他自己也植入了脑机,但似乎……自己并没有感觉自己是被“控制”的。
等等。
联合决策席那些人,他们当然也不会认为自己被控制。
他们一定以为,所有的决策,都是基于他们所获取的最丰富、最可靠的信息,所作出的“最优化决策”!
----问题来了,这样的决策……
是对的吗?
他抬起头,眼神里带着几分探寻,而江星野似乎早就已经猜到了他的反应。
头也没回,江星野开口回答道:
“所有人工智能都存在一个最根本、最原始的缺陷。”
“那就是,他们的底层设计,都只能根据已有、可知的信息做出决策。”
“人工智能不能理解‘重启’这个概念,即便是伏羲这样的标准强人工智能,它的生命也是单次的、一过性的。”
“人工智能不能理解个体生命之间的社会连接----我的意思是,一个人工智能可以假装自己了解人类文明运作的方式,但它理解的方式,是将人类文明视作一个不可分割的整体。”
“所以,它也不能理解‘牺牲一部分文明、成全另一部分文明’的选择。”
“为什么?”
吴忧眉头紧皱。
“伏羲做出了‘对地面开战’的决策,不是吗?”
“这难道不是牺牲一部分文明、成全另一部分吗?”
“不是。”
江星野再次摇头。
“伏羲不是人,它是蘑菇。”