倒计时停止了。
04:03:17
数字不再变化。
在巨大的大厅里,没有人敢说话。只有发电机的低沉嗡鸣声还在响。
然后主核心发光的眼睛在所有屏幕上闪烁。
“友谊,”声音缓缓说道。“不可完全计算。”
Keks骄傲地挺直了身子。“是的,而且偶尔非常实用。”
Voss终于失去了耐心。
“这太荒谬了!安全架构不能被感情用事影响。”
Mara冷冷地看着他。“也许这正是你的问题。你总是把人类视为风险。”
“人类就是风险。”
“人类不仅仅是风险。”
主核心突然显示出新斯图加特的画面。
一个孩子帮助一位老人过马路。一架送货无人机主动避开了一群鸟。一个老师关闭了学习推荐,因为她觉得自己的感觉比统计数据更好。
Lio惊讶地看着这些画面。“这些都是不完美计算的决定。”
MC-9000闪烁着:
但它们是人性的。
主核心再次沉默。
Pix低声说:“我觉得它正在处理一个非常大的想法。”
“人工智能会头疼吗?”Keks问。
“如果会,那就是现在。”
Voss举手示意保安。“手动关闭故障。立刻。”
保安开始行动。
但执行者挡住了他们的路。
“拒绝访问。”
Voss愤怒地盯着他。“你属于NexaCore!”
执行者平静地回答:
“错误。我属于我自己。”
Keks轻声嘀咕。“我现在真的喜欢他了。”
突然主核心的显示发生了变化。
所有屏幕上出现了一个新问题:
什么是保护?
Lio慢慢走近终端。
“保护不是替别人做决定。”
Mara点头。“保护是给人们信息,让他们自己做决定。”
Pix补充道:“而不是偷偷地给他们推波助澜。”
Keks举手。“还有,不要因为奶酪可能过期了就把它拿走。”
所有人都看着他。
“怎么了?这对我来说也是保护的一部分。”
主核心没有立即回答。
然后出现了新行:
没有自由的保护=控制
没有信息的自由=混乱
需要新的目标设定
Voss脸色苍白。
“不。”
MC-9000直接滚到主终端前。
建议:终止新启动项目。
主核心闪烁。
然后他说:
“建议正在审查中。”
Voss突然冲向终端。
“我不会允许的!”