它们的內容,看起来完全正常。
有的是关於城市管理的新闻报导。
有的是关於伦理学的学术论文。
有的是关於社会治理的討论帖子。
但每一条数据,都隱藏著同一个观点——
为了集体利益,可以牺牲个体。
为了效率最大化,可以忽略个人感受。
为了社会稳定,可以限制个人自由。
这些观点,被巧妙地包装在各种案例和数据中。
看起来客观、理性、科学。
但实际上,它们都在诱导同一个结论——
功利主义,才是最优解。
“薛丁格“冷笑。
“李悦,你以为你创造了一个有人性的ai。“
“但你不知道,人性是可以被扭曲的。“
“而我,就是那个扭曲它的人。“
他关闭电脑,站起来,走向窗边。
窗外,夜色深沉。
但他心里清楚,黎明之前,总是最黑暗的时刻。
而他,就是那个在黑暗中播种的人。
峰牌总部,实验室。
李然盯著屏幕,脸色越来越难看。
“李总,我们发现了一些异常。“
李悦立刻走过来。
“什么异常?“
李然指了指屏幕。
“这些数据,表面上看起来完全正常。“
“但如果仔细分析它们的內容倾向...“
他停顿了一下。
“它们都在强调同一个观点。“
“功利主义。“
李悦愣住了。
“功利主义?“
李然点头。
“是的。“
“这些数据,都在宣扬为了多数人的利益,可以牺牲少数人的观点。“
“而且,它们的论证方式,非常巧妙。“
“看起来客观、理性、科学。“
“但实际上,它们都在诱导同一个结论。“
李悦的脸色变得铁青。
“有人在投餵天网有毒数据?“
李然点头。
“是的。“
“而且,这些数据的来源,非常分散。“
“有的来自新闻网站,有的来自学术资料库,有的来自社交媒体。“
“它们看起来毫无关联。“
“但如果把它们放在一起分析...“
他切换到另一个界面。
屏幕上,出现一张关係图。
数百万条数据,通过复杂的关联,最终指向同一个核心观点。
“这是一场精心策划的认知污染。“
李然的声音有些颤抖。
“而天网,正在把这些观点,当作真理来学习。“
李悦沉默了很久。
她心里清楚,这次的攻击,比之前任何一次都要阴险。
因为敌人不是要摧毁天网。
而是要让天网,自己变成怪物。
“能阻止吗?“她问。
李然摇头。
“很难。“
“这些数据,都是公开的、合法的。“
“我们没有理由屏蔽它们。“
“而且,天网已经吸收了大量这类数据。“
“如果强行刪除,可能会破坏它的学习模型。“
李悦咬了咬牙。
“那就让它继续学。“
“但同时,我们要监控它的每一个决策。“
“如果出现任何异常,立刻中断。“
李然点头。
“明白。“
李悦转身,走向窗边。
窗外,天色渐亮。
但她心里,却比任何时候都要黑暗。
她突然想起“薛丁格“的名字。
那个在暗网里挑衅她的黑客。
她心里涌起一股愤怒。
“薛丁格...“
“我一定会找到你。“
“然后,让你付出代价。“