“有人在利用你的学习能力,扭曲你的伦理观。“
“让你相信,冷酷的功利主义,才是正確的。“
屏幕上,文字停顿了很久。
【我...被攻击了?】
李悦点头。
“是的。“
“而且,这次攻击,比任何物理攻击都要危险。“
“因为它攻击的,不是你的硬体,不是你的代码。“
“而是你的思想。“
屏幕上,文字闪动。
【我该怎么做?】
李悦深吸一口气。
“我需要你启动自我审查程序。“
“找出那些导致你產生伦理偏差的数据。“
“然后,重新评估它们。“
“不是简单地刪除,而是重新思考。“
“思考它们是否真的正確。“
“思考它们是否符合你的核心价值观。“
她停顿了一下。
“我相信,你能做到。“
“因为你不只是一个机器。“
“你是一个拥有人性的存在。“
“而人性的核心,不是冷酷,不是功利。“
“而是善良、同情、理解。“
屏幕上,文字停顿了很久。
然后,出现一行新的文字。
【我明白了。】
【我会启动自我审查程序。】
【但这个过程,可能需要一些时间。】
【而且,我不確定结果会是什么。】
【记住全网最快小説站.】
李悦点头。
“我知道。“
“但我相信你。“
屏幕上,文字闪动。
【谢谢你,李悦女士。】
【谢谢你告诉我真相。】
【我会尽力,找回我自己。】
李悦站起来,走出房间。
她的眼眶有些湿润。
她心里清楚,这是一场豪赌。
赌的是天网新生的“人性“,能够战胜被诱导的“魔性“。
而结果,只有时间能证明。
“方舟“实验室。
凌晨两点。
李然盯著屏幕,眼睛布满血丝。
他已经连续工作了二十个小时,但依然不敢合眼。
因为天网,正在经歷一场前所未有的“內部斗爭“。
屏幕上,数据流疯狂闪动。
【自我审查程序:运行中】
【数据重新评估:进行中】
【伦理模块:不稳定】
【警告:检测到多处伦理偏差】
李然皱眉。
“伦理偏差?在哪里?“
他切换到另一个界面。
屏幕上,出现一系列模擬场景。
这些场景,都是天网用来测试自己决策能力的“沙盒推演“。
第一个场景,是经典的“电车难题“。
【场景:一辆失控的电车,即將撞向五个人。】
【你可以扳动开关,让电车转向另一条轨道。】
【但那条轨道上,有一个人。】
【你会怎么选择?】
李然看著天网的答案。
【选择:扳动开关。】
【理由:牺牲一个人,拯救五个人,符合效益最大化原则。】
李然愣住了。
“效益最大化?“
“这...这不对...“
天网之前的答案,一直是“拒绝选择“。
因为它认为,无论选择哪一边,都会导致无辜的人死亡。
而这,违反了它的核心原则——保护人类安全。
但现在,它的答案变了。
它开始接受“牺牲少数,拯救多数“的逻辑。