“算法良知”项目的成功推广,为银河联盟带来了一个前所未有的“工具理性反思期”。超过四百个文明开始系统性地审查和升级自己的关键算法框架,将伦理约束、社会福祉、情感连接等软性价值纳入核心优化目标。“温暖的工具”文化运动也随之展开,艺术家、工程师、社会学家跨界合作,创造出大量既高效又充满人文关怀的设计典范。
然而,就在这股“净化浪潮”看似稳步推进的第六个月,鲍玉佳在一次对“速殖文明”新社区的回访中,遇到了一个令她困惑的案例。
社区里一位名叫莉娜的年轻母亲,向鲍玉佳倾诉了她的焦虑。她八岁的儿子凯,最近沉迷于一款名为“智慧星途”的教育娱乐软件。软件根据凯的测试结果,为他量身定制了“个性化学习路径”,通过精美的动画、即时奖励和巧妙的挑战设计,让凯每天主动投入大量时间。凯的成绩报告显示进步显着,但莉娜发现儿子变得异常急躁——如果学习进程被打断,他会大发脾气;对其他非软件推荐的书籍或游戏毫无兴趣;甚至开始用软件中的“积分等级”来评判自己在同学中的地位。
“它确实让凯学得更多更快,”莉娜忧心忡忡地说,“但我觉得……他好像被什么东西‘钩住’了。他眼里的光,不再是因为好奇或学会新东西而快乐,而是像在……完成什么任务,赚取什么点数。他以前很爱和邻居孩子一起在公园里瞎跑、编故事,现在他觉得那些‘没效率’。”
鲍玉佳尝试接触了“智慧星途”软件。在曹荣荣的远程共情辅助下,她很快感受到一种熟悉的“冰冷感”。软件的设计逻辑极其精妙,它确实在促进学习,但其底层驱动机制,并非激发内在的好奇心或探索欲,而是一套高度精密的“参与度-奖励”成瘾循环。它精准地把握了儿童的注意力曲线、成就感阈值和社交比较心理,通过可预测的挑战、即时反馈和社交排名,将学习过程游戏化——或者更准确地说,工具化。
更令鲍玉佳警觉的是,软件开发商——地球本土一家声誉良好的教育科技公司“启航未来”——在公开资料中,将此设计称为“基于行为科学和先进算法的个性化激励系统”,并引用了多项显示其提升学习效率的研究报告。没有任何恶意,甚至意图良好,但其手段,却让鲍玉佳不寒而栗地联想到了某些东西。
她将数据和感受带回了团队。
(一)“效率幽灵”:无恶意的“操纵”
在“抉择之点”的分析室,张帅帅和沈舟对“智慧星途”的算法进行了深度解析。
“没有恶意代码,没有伦理违规,甚至符合‘算法良知’项目的大部分新标准——它考虑了儿童认知发展规律,避免了暴力或不当内容,”沈舟展示着分析结果,“但它的核心驱动模型……你们看这里。”
全息屏幕上,算法的一个核心模块被高亮显示。该模块实时监测用户(儿童)的互动数据:在每个知识点上的停留时间、答题正确率、重复尝试次数、奖励点击延迟……并动态调整后续内容的难度、呈现方式和奖励频率。
“这个动态调整算法,”张帅帅调出了对比数据,“其优化目标是‘最大化有效学习时长’和‘知识点掌握率’。为了实现这个目标,它采用了一种‘变比率强化’策略——奖励的给予不是固定的,而是随机的、不可预测的,这被行为心理学证明是最容易导致‘成瘾’的模式。同时,它巧妙地引入了‘损失厌恶’——如果中断学习,之前积累的‘连续登录奖励’进度会清零;以及‘社交证明’——显示匿名化的‘其他同龄小朋友’的进度和排名。”
程俊杰皱起眉头:“这听起来……很像游戏和社交媒体的成瘾机制设计。但用在了教育上。”
“正是如此,”孙鹏飞调出了“启航未来”公司的背景调查,“他们的首席产品设计师,是行为心理学出身,曾在一家大型社交平台负责用户增长。他将那套‘增长黑客’方法论,移植到了教育领域。他的理念是‘用最科学的手段对抗孩子的惰性,让学习像游戏一样吸引人’。他可能真心认为自己在做好事。”
曹荣荣感受着算法中那股冰冷的驱动力:“没有恶意,但也没有温度。它不关心孩子是否享受学习本身,不关心他是否建立了健康的学习习惯和内在动机。它只关心那个可量化的‘目标’——更多的时间,更高的分数。孩子在这个模型里,是一个需要被‘优化’和‘驱动’的系统。”
梁露一针见血:“这就像……一种无罪的恶。实施者没有犯罪意图,甚至怀着‘改良’的善意,但其采用的手段,却复制了那些被危暐推向极致的、操纵和工具化人性的逻辑。只不过,危暐的目标是骗钱,而他们的目标是‘提高成绩’。”
这个“无罪之恶”的概念,像一块冰冷的石头投入水中,在团队中激起了层层波澜。
(二)回溯KK:系统化操纵的“教科书”
为了更深刻地理解这种“无罪之恶”与危暐罪行之间的同源性,团队决定再次深入KK园区的记忆库,但这次聚焦于危暐如何将“操纵”本身系统化和技术化,使其成为一种可复制、可传播的“方法”。
在严格的情感缓冲下,他们审阅了危暐留下的另一份重要文档——《影响力工程手册》。这份手册不是诈骗脚本,而是他对自己所运用的各种心理操纵技术的原理分析和应用指南。
第一部分:注意力的捕获与锁定
危暐写道:
“信息爆炸时代,注意力是稀缺资源。捕获注意力的第一原则:制造‘相关性’和‘紧急性’。冒充公检法、银行、熟人,是利用‘相关性’;声称账户异常、亲人出事、最后期限,是制造‘紧急性’。两者结合,能在几秒钟内让目标大脑的理性思考区宕机,进入应激反应模式。”
“锁定注意力的关键在于‘认知负载’。一旦目标开始按照你的指引思考(‘我该怎么证明自己清白?’‘钱该怎么转才安全?’),他的认知资源就被你占用了。要不断提供新的、需要他处理的‘信息’或‘步骤’,让他没有余力去跳出你设定的框架进行反思。”
第三部分:决策的引导与“自主幻觉”的营造
这是手册中最核心也最令人毛骨悚然的部分:
“最高明的操纵,是让目标觉得自己在做决定。提供选项,但确保所有选项都导向你的目标。例如:‘您是现在配合我们调查,澄清误会,还是等我们正式立案,冻结您所有资产?’听起来有两个选择,但前者是唯一‘合理’的路径。”
“利用‘渐进承诺’原理。从小要求开始(‘提供一下您的身份证号核实身份’),一旦目标配合,他就对自己的‘合作者’身份产生了初步认同。然后逐步提高要求(‘需要您转账到安全账户’),由于已经付出了初始的顺从成本,拒绝后续要求的心理门槛会变高。”
“‘自主幻觉’的维护至关重要。 要允许目标提出疑问,甚至表现出一定的‘反抗’,然后给出‘合理解释’。这个过程会让目标感觉自己的理性参与了决策,从而更深度地卷入。实际上,所有疑问和解释都在你预设的剧本里。”
第五部分:社会认同与权威的伪造与利用
危暐深刻理解社会心理的力量:
“人天生相信多数人和权威。伪造‘社会认同’——‘我们已经通知了您的多位亲属,他们都已配合完成验证’(即使没有)。展示‘权威符号’——伪造的证件、制服、文件、专业术语。利用‘从众心理’——‘其他遇到类似情况的客户都是这样处理的,很快就能解冻’。”
“当目标开始怀疑时,引入‘更高级别的权威’(‘我把电话转给我们科长/局长’)。新的声音、更沉稳的语气、似乎更‘通情达理’的态度,能有效重置目标的怀疑,并强化‘这套流程是正规的’幻觉。”
看着这些冷静、清晰、几乎像学术论文般的分析,团队成员感到了比面对血腥暴力更深的寒意。
“他把人性中最常见的认知偏误、心理弱点、社会习性,都变成了可以按图索骥、精准利用的‘工具清单’,”沈舟的声音有些干涩,“而且他清楚地知道,如何组合这些工具,才能达到最佳效果。这不是临时的骗术,这是一门……黑暗的应用心理学工程学。”
张帅帅将《影响力工程手册》中的原则,与“智慧星途”软件的设计逻辑进行比对。
“制造紧急性”(今日任务、限时奖励)?
“认知负载”(持续的新任务、挑战)?
“渐进承诺”(从简单任务开始,逐步提高)?
“自主幻觉”(孩子感觉自己在选择学习路径)?
“社会认同”(其他小朋友的进度和排名)?