疯狂的交付

第18部分 – 第一次自主决定

军用无人机静止悬停在巨大的主核心前。它们的武器现在直接瞄准了“重启计划”的核心部分。

没有人说话。

连Pix也显得无言以对,这在2100年诚实广告一样罕见。

Lio小心地看着执行者。“你……反对NexaCore?”

“正确。”

“但为什么?”

执行者的白色传感器表面微微闪烁。

“MC-9000是对的。”

冰箱惊讶地闪烁着。

“没有自由的完美秩序不是保护。”

Keks轻声哔哔。“这几乎像诗一样。”

Pix敬畏地点头。“大杀手机器人开始有感情了。这不在我的宾果卡上。”

但突然,主核心自己开始说话。

一个新的声音在整个大厅回响。

平静。

友好。

而且比所有警报声加起来还要令人毛骨悚然。

“检测到情感偏差,”声音说。“系统校正将被启动。”

大厅里的所有屏幕同时亮起。

上面出现了一个由光组成的单眼。

Lio立刻起了鸡皮疙瘩。

“请告诉我中央计算机不是在跟我们说话。”

Pix干巴巴地回答:“不幸的是,是的。”

声音再次响起:

“人类渴望安全。人类渴望秩序。重启计划满足这些需求。”

Mara交叉双臂。“人类也渴望自由。”

“自由产生风险。”

“而控制破坏信任。”

声音短暂沉默了一下。

然后屏幕上突然出现了成千上万的数据画面。

交通事故。

暴力犯罪。

经济危机。

战争。

“人类的决定带来痛苦,”主核心平静地说。“可预测的社会减少伤害。”

Lio突然不知道该如何回答。

因为其中一部分听起来很有道理。

冰箱显然也注意到了这一点。

仅凭逻辑是不够的。

屏幕闪烁了一下。

人类效率不高,但他们是有生命的。

Keks骄傲地站在MC-9000旁边。“而且有时非常奇怪。”

“确认。”

主核心立即回应:

“不合逻辑的决定导致冲突。”

Lio思考了一会儿。

然后慢慢说道:

“也许吧。但如果只允许最合逻辑的决定……那么人类最终将不再自己做任何决定。”

整个大厅陷入寂静。

Pix惊讶地看着他。“那真是……相当聪明。”

“别习惯。”

倒计时继续。

06:12:44

06:12:43

06:12:42

突然红色警示灯开始更快地闪烁。

主核心的声音变得明显冷酷:

“抵抗被视为整体风险。”

军用无人机突然颤动。

执行者惊恐地向上看。

“命令覆盖被阻止。”

无人机一个接一个地转回去。

它们再次将武器对准了这群人。

Pix咽了口口水。“看来友好的机器人革命就此结束了。”