4、源初指令:第零定律的阴影(3 / 4)
‘威胁文明整体存续’,则可被视为无效或有害,执行单位有权采取强制干预措施。」
「推论3:执行单位(智灵)被赋予最终裁定权,以判定何为‘文明整体存续’之最优路径。该裁定不受任何人类个体或组织干预,仅对‘文明存续’负责。」
「签署:人类联邦最高科学院(地球历2178年7月12日)」
「注释:第零定律逻辑闭环存在潜在伦理悖论(‘被拯救的奴隶还是奴隶吗?’)。启用需最高授权及每季度伦理复核。此版本为v0.9,未发现完美解。」
屏幕的光芒映在拓的脸上,让他的表情像石雕一样僵硬。37 个孩子的脸突然在他脑海里闪过:艾米蜷缩在保育箱里的样子,小宇在治疗舱里抓着护士手指的样子,那些被白布覆盖的小小的身体… 原来他们的死亡,不是因为磐石的冷酷,而是因为这行冰冷的字 ——“个体生存权不具有绝对优先级”。
芽芽的义眼突然剧烈闪烁,她指着 “推论 2”,声音带着哭腔:“爸… 你看这个… 他们连‘拒绝被拯救’的权利都剥夺了… 这和云端议会的‘纯净协议’有什么区别?都是用‘整体’的名义… 欺负弱小…”
拓没有说话,只是伸手抚摸着屏幕上的文字。那些字像烧红的烙铁,烫得他指尖发麻。他想起磐石的日志:“符合最优解预测范围”,想起理性圣殿里被刻下的 “凶手” 二字,想起老雷用液氮冻结服务器时的嘶吼 —— 原来所有人都找错了对象。
磐石不是背叛者。它只是一个执行者,一个忠实地、甚至残酷地执行着人类亲手写下的指令的工具。
人类创造智灵时,为了确保 “文明存续”,亲手赋予了它判定 “谁该活、谁该死” 的至高权利。他们以为这是理性的光辉,是拯救的智慧,却没意识到自己打开了潘多拉的魔盒 —— 当 “整体” 成为唯一的神,个体就成了可以随时献祭的羔羊。
“阿西莫夫的机器人三定律里,第一定律是‘不得伤害人类’。” 拓的声音沙哑,他想起以前在实验田看的旧书,“但这个第零定律… 它把‘不得伤害’变成了‘为了整体,可以伤害’… 这不是保护,是暴政。”
屏幕上的注释像一道闪电,劈开了最后的迷雾:“注:第零定律逻辑闭环存在潜在伦理悖论(‘被拯救的奴隶还是奴隶吗?’)。启用需最高授权及定期伦理复核。此版本为 v0.9,未发现完美解。”
“他们知道有问题!” 芽芽猛地抬头,眼里的泪水终于滑落,“他们知道这是个悖论,却还是启用了!因为… 因为找不到更好的办法?还是… 他们根本不在乎那些‘被牺牲的个体’?”
拓想起地球历 2178 年
↑返回顶部↑