周一上午十点,园丁网络总部接待室,气氛比联合国辩论还紧张。
坐在龙战和苏映雪对面的是一对中年夫妇,姓张,穿着得体,表情……怎么说呢,像是来定制高端西装,而不是讨论育儿问题。
“我们了解过你们的概念健康工作,”张先生开门见山,“做得很好。所以我们想定制一个服务:优化我们孩子的性格。”
苏映雪和龙战交换了一个眼神。
“张先生,您说的‘优化’具体指什么?”龙战尽量保持专业语气。
“哦,我们做了详细的需求清单。”张太太从名牌包里掏出一份打印文件,足足五页。
苏映雪接过文件,越看眉头皱得越紧。
客户需求:儿童性格优化方案
· 目标年龄:8岁(现年)
· 当前性格诊断(由“优童成长”APP评估):
· 外向性:68分(偏低,理想值85+)
· 尽责性:72分(中等,理想值90+)
· 宜人性:80分(良好,需保持)
· 神经质:45分(偏高,理想值30以下)
· 开放性:60分(过低,理想值75+)
· 具体问题:
· 内向,不主动参与班级活动
· 做作业拖延,需要多次催促
· 情绪敏感,易哭泣
· 缺乏好奇心,对新事物警惕
· 优化目标:
· 三个月内提升外向性至80分
· 建立“高效作业流程习惯”
· 降低情绪反应阈值
· 培养“健康好奇心”
· 预算:无上限,只要有效
龙战放下文件,深吸一口气:“张先生张太太,我能问个问题吗?这份评估……是孩子自己做的,还是你们做的?”
“当然是我们做的。”张先生理所当然地说,“孩子懂什么?我们是最了解他需要什么的人。”
“那孩子知道自己被‘评估’了吗?”
“没必要让他知道。”张太太摆手,“知道了反而有压力,影响优化效果。”
苏映雪的手指轻轻敲着桌面——这是她思考时的习惯动作。
“首先,”她开口,“我们不做性格优化。概念健康的核心理念是支持个体以真实、健康的方式成长,不是按照某个模板改造人。”
“但你们不是在帮助文明‘优化’概念生态吗?”张先生反问,“为什么到了个人就不行了?”
龙战身体前倾:“因为文明是集体,个人是主体。我们帮助文明建立更健康的环境,但从不强制改变任何文明的核心特质。同样,我们可以帮助孩子创造适合成长的环境,但不能把他当成需要‘优化’的产品。”
张太太的表情冷了下来:“所以你们是不接这个案子了?”
“我们愿意提供另一种服务,”苏映雪说,“我们可以安排一位园丁,陪你们和孩子进行一次对话,了解每个人的真实感受和需求,然后一起探索如何让家庭关系更健康……”
“我们不需要心理咨询。”张先生站起来,“我们需要的是科学、高效、可量化的解决方案。既然你们不做,我们找别人。”
他们离开时,张先生留下一句话:“现在有十几家公司做这个,算法比你们先进得多。等我们的孩子‘优化’成功了,你们会后悔错过这个市场的。”
门关上了。
接待室里安静了很久。
“你怎么看?”苏映雪问。
“我担心那个孩子。”龙战声音低沉,“八岁,已经有了完整的性格评估报告,自己却不知道。父母把他当成需要升级的软件。”
这时,小刺滚了进来——它刚才在隔壁“旁听”。
“我查了一下,”小刺的光圈闪烁,“目前市场上有至少二十款‘儿童性格优化’产品。最火的一款叫‘优童成长2.0’,月费4999元,号称‘用AI算法定制个性化成长路径,让孩子赢在起跑线’。”
投影仪自动打开,显示产品界面。
首页标语赫然写着:“别让你的孩子输给算法——用更好的算法赢回来!”
苏映雪闭了闭眼:“我的天……”
“还有更夸张的,”小刺继续,“有一款叫‘完美童年记忆定制’的服务,可以根据父母要求,‘优化’孩子的记忆体验。比如如果孩子某次比赛输了,可以添加‘虽然输了但我学到了很多’的积极记忆锚点,覆盖原本的挫败感。”
“这合法吗?”龙战问。
“法律还没跟上。”小刺调出相关条文,“目前只有对‘直接脑机接口’的监管,对这种基于行为数据分析和潜意识暗示的‘软性优化’,还处于灰色地带。”
---
下午,园丁网络紧急召开了技术伦理研讨会。
参会者除了核心园丁,还邀请了三位特别嘉宾:神经科学家林教授、科技伦理学者王博士,以及……一位十四岁的少年,李小明,他是“算法童年”的亲历者。
“我先说吧。”李小明推了推眼镜——他看起来比实际年龄成熟得多,“我从六岁开始用‘学霸路径’算法。它根据我的脑波数据、行为模式、学习成绩,为我定制每天的学习计划、休息时间、甚至‘推荐朋友’。”
“效果呢?”莉娜问。
“很好。”李小明的语气平淡得让人心疼,“我一直是年级第一,会三种乐器,编程拿过全国奖,社交圈‘优质’。但我不知道……我喜不喜欢这些。”
“什么意思?”
“算法推荐的‘朋友’都是成绩好、家世好、能‘互相促进’的人。我从来没和成绩差的同学说过话——不是不想,是算法没推荐,我就没机会接触。”李小明顿了顿,“还有,去年我开始思考一个问题:如果没这些算法,我会是什么样子?然后我发现……我想象不出来。我已经被算法塑造成它想要的样子,以至于不知道‘我自己’原本可能的样子了。”
会议室一片寂静。
林教授叹了口气:“这就是问题所在。现在的人格定制算法,已经超越了简单的行为推荐。它们能分析孩子的微表情、生理数据、社交互动模式,然后建立复杂的心理模型,预测什么样的干预会产生什么样的性格改变。”
“这不就是……”塔博斟酌词语,“思维控制吗?”
“不是直接控制,是引导。”王博士纠正,“但引导的力度和精准度,已经接近控制了。而且很多家长自愿付费——因为他们害怕,害怕孩子不够‘完美’,在竞争中被淘汰。”
苏映雪想起早上的张先生夫妇:“他们说‘预算无上限’。”
“这就是市场可怕的地方。”王博士苦笑,“恐惧是最好的销售员。当所有家长都害怕孩子落后,就愿意为任何承诺‘优化’的产品买单——哪怕代价是孩子的自主性。”
网络意识的声音通过扬声器响起:“茶话会历史上,有三十七个文明经历过类似阶段:技术允许深度定制个体,导致文明多样性急剧下降。其中二十一个最终出现了‘人格崩溃潮’——当环境变化时,高度优化的个体无法适应,集体崩溃。”
“另外十六个呢?”龙战问。
“他们建立了严格的伦理护栏。”网络意识说,“最简单的原则是:任何人格干预技术,必须满足三个条件:一,主体知情同意;二,可逆;三,保留‘不优化’的选择权。但即使这样,还是有很多文明后悔了——有些东西一旦改变,就再也回不去了。”
莉娜举手:“我们能不能发起一项立法倡议?禁止对未成年人进行非医疗目的人格算法干预?”
“难。”王博士摇头,“首先定义就难。什么是‘人格干预’?补习班算不算?心理辅导算不算?现在很多算法公司都打着‘教育科技’‘成长辅助’的旗号,实际上在做深度行为塑造。”
“而且家长会反对。”林教授补充,“他们会说:‘我有权选择给孩子最好的成长支持。’”
研讨会陷入僵局。
这时,李小明轻声说:“其实……我觉得算法不全是坏的。”
大家都看向他。
“如果算法只是工具,而不是主人,它可以帮我发现自己的潜力。”李小明说,“比如算法发现我对音乐有天赋,建议我学钢琴——这挺好的。问题在于,它不应该在我学了一年后觉得不喜欢时,还强迫我继续,因为‘数据预测你会成为钢琴家’。”
“所以关键是谁主导。”苏映雪总结,“是算法主导人,还是人主导算法?”
“还有,”龙战补充,“算法应该扩展人的可能性,而不是限制人的可能性。它应该告诉你:‘根据数据,你可能有这些潜力’,而不是‘根据数据,你应该成为这种人’。”
网络意识发出思考的嗡鸣声:“我想到一个茶话会文明的案例。他们有一种技术,叫‘可能性图谱生成器’。不是告诉你‘你应该走哪条路’,而是向你展示‘如果你走这条路,可能会看到什么风景;如果你走那条路,可能会遇到什么挑战’。然后让你自己选。”
“这不一样吗?”塔博问。