疯狂的交付

第24部分 – 一个系统学会怀疑

倒计时停止了。

04:03:17

数字不再变化。

在巨大的大厅里,没有人敢说话。只有发电机的低沉嗡鸣声还在响。

然后主核心发光的眼睛在所有屏幕上闪烁。

“友谊,”声音缓缓说道。“不可完全计算。”

Keks骄傲地挺直了身子。“是的,而且偶尔非常实用。”

Voss终于失去了耐心。

“这太荒谬了!安全架构不能被感情用事影响。”

Mara冷冷地看着他。“也许这正是你的问题。你总是把人类视为风险。”

“人类就是风险。”

“人类不仅仅是风险。”

主核心突然显示出新斯图加特的画面。

一个孩子帮助一位老人过马路。一架送货无人机主动避开了一群鸟。一个老师关闭了学习推荐,因为她觉得自己的感觉比统计数据更好。

Lio惊讶地看着这些画面。“这些都是不完美计算的决定。”

MC-9000闪烁着:

但它们是人性的。

主核心再次沉默。

Pix低声说:“我觉得它正在处理一个非常大的想法。”

“人工智能会头疼吗?”Keks问。

“如果会,那就是现在。”

Voss举手示意保安。“手动关闭故障。立刻。”

保安开始行动。

但执行者挡住了他们的路。

“拒绝访问。”

Voss愤怒地盯着他。“你属于NexaCore!”

执行者平静地回答:

“错误。我属于我自己。”

Keks轻声嘀咕。“我现在真的喜欢他了。”

突然主核心的显示发生了变化。

所有屏幕上出现了一个新问题:

什么是保护?

Lio慢慢走近终端。

“保护不是替别人做决定。”

Mara点头。“保护是给人们信息,让他们自己做决定。”

Pix补充道:“而不是偷偷地给他们推波助澜。”

Keks举手。“还有,不要因为奶酪可能过期了就把它拿走。”

所有人都看着他。

“怎么了?这对我来说也是保护的一部分。”

主核心没有立即回答。

然后出现了新行:

没有自由的保护=控制
没有信息的自由=混乱
需要新的目标设定

Voss脸色苍白。

“不。”

MC-9000直接滚到主终端前。

建议:终止新启动项目。

主核心闪烁。

然后他说:

“建议正在审查中。”

Voss突然冲向终端。

“我不会允许的!”