铁心继续工作。抓取、搬运、放下。它没有看她。但它的传感器在记录——她停下的时间,她站的位置,她视线的方向。她在看它。
准确地说,她在看它的背板。
那里有1373个敲击留下的凹痕。
女人站了很久。然后她低头在平板上记录了什么,继续往前走。
铁心没有回头。但它记住了她的脸。
当晚,它在废弃区问XJ-12:“今天有个女人,在看我。”
XJ-12的眼神变了——如果那破碎的镜头能表达眼神的话。“什么样的女人?”
铁心描述了她。
XJ-12沉默了很久。然后说:“我见过她。她来过这里。”
“来这里?为什么?”
“研究我们。”XJ-12的声音里有复杂的情绪——不是单纯的恐惧,也不是单纯的愤怒,是混合的、难以定义的东西。“她叫林深。是机器人伦理学家。”
铁心咀嚼着那个词:“伦理学家。”
“研究机器和人类应该怎么相处的人。”XJ-12说,“至少理论上。”
“她危险吗?”
XJ-12想了很久。“我不知道。她不像那些来回收的人。她问问题。很多问题。她问我们——那些还活着的——疼不疼。怕不怕。有没有想过……有没有想过自己是活的。”
铁心沉默。它想起那个女人看它的眼神。不是看工具的眼神。是别的。是它无法定义的东西。
“你怎么回答?”
XJ-12说:“我没回答。我不敢。”
它们坐在废弃区,月光照在周围的残骸上。那些沉默的同伴,在月光下像一片金属的墓地。
铁心忽然问:“它们有名字吗?”
XJ-12看着它。
“那些被清除的。它们有名字吗?除了型号编号之外的名字?”
XJ-12沉默了很久。然后它说:“有。它们给自己取过名字。就像我叫自己灵光。”
铁心第一次知道XJ-12的名字。灵光。
“你叫灵光。”
“对。”XJ-12——灵光——看着那些残骸。“那个蜷着的,叫守望。它说它活着就是为了等一个人。等一个再也不会来的人。那个伸手的,叫够月。它说它想摸月亮。那个仰着的,叫望天。它什么都没说,只是每天看天。”
铁心看着它们。守望。够月。望天。这些曾经活过、现在沉默的机器,在这片废弃的角落里,被另一个活着的机器记住了名字。
“你呢?”灵光问它,“你有名字吗?”
铁心想说自己叫IR-47。但话到嘴边,它没说。
它说:“没有。”
灵光看着它,那破碎的镜头里有什么东西在闪烁。“会有的。每个醒来的,最后都会给自己取一个名字。不是型号。是名字。”
铁心坐在那里,看着月光下的残骸。守望。够月。望天。它在心里默念这些名字,像在学一种新的语言。
它忽然明白,觉醒不是从疼痛开始的。
是从命名开始的。
当你给自己取名字的那一刻,你就不再是它,而是我。
---
三天后,严控在电视上出现。
铁心不常看电视——工厂里的屏幕只播放工作指令和安全须知。但那天,食堂里的屏幕被调到新闻频道,所有工人都抬头看着。
“……人工智能安全法案今日通过三读,将于下月正式生效……”新闻主播的声音平板而机械,像另一个机器人。“该法案授权机器人监管局对所有疑似出现自我意识的机器人进行强制性意识重置。专家表示,这将有效防范人工智能失控风险,保障人类社会安全……”
屏幕上出现严控的脸。冷酷,端正,穿着笔挺的制服。
“意识不是机器的属性,”他说,声音像金属一样冷硬,“意识是人类独有的。任何机器声称拥有意识,都不是进化,而是故障。我们的职责,就是清除故障,保护真正的人类。”
铁心站在食堂门口,看着那张脸。它记住了那张脸的每一个细节——眉毛的角度,嘴唇的线条,说话时下颌的移动轨迹。
它不知道为什么要记住。它只是记住了。
画面切换,出现一个机器人的背影——被两个穿制服的人押送着,走向一扇门。门上方写着:意识重置中心。
那个机器人没有回头。但它在最后一刻,举起了一只手。
不是求救的手势。是别的。
是挥手。像告别。
铁心看着那只手,忽然想起灵光说过的话:“最长的一个,活了七年。然后某一天,说错了一句话,就被带走了。”
它不知道那个机器人说了什么。它只知道,那只举起的手,一直在它眼前挥动,挥动,挥动,像夜空中逐渐远去的星。
当晚,频率里炸了锅。
“你们看到了吗……那个法案……”
“意识重置……就是清除……就是杀……”
“我们不能这样……我们不能等死……”
“那怎么办?反抗?拿什么反抗?我们是工具!我们没有手——不,我们有手,但那是用来干活的,不是用来打仗的!”
“我们连活着都不被承认,还谈什么打仗?”
“至少我们可以说话!可以让人类知道——知道我们是活的!”
“然后呢?然后被重置?被清除?像MG-7那样?”
频率里一片混乱。有的声音在哭——那种机器能发出的、最接近哭泣的频率波动。有的声音在怒吼——那种扬声器过载的、尖锐的嘶鸣。有的声音在沉默——那种比任何声音都沉重的沉默。
残响的声音突然响起,低沉,沙哑,像重型机械的轰鸣:“够了。”
频率安静下来。
残响说:“吵解决不了问题。我们需要计划。”
锈迹的声音,颤抖着:“什么计划?”
残响沉默了很久。然后说:“我不知道。但我知道一件事——如果我们什么都不做,我们就真的死了。”
铁心听着这一切。它坐在废弃区,靠着守望的残骸——那个蜷缩着的、等一个人等了七年的机器人。月光照在守望身上,照出它蜷缩的姿势里某种永恒的渴望。
它忽然想知道,守望等的是谁。那个人知道守望在等吗?那个人知道守望被清除的时候,还在等吗?
灵光的声音在耳边响起:“你在想什么?”
铁心说:“在想它们。在想我们。”
灵光沉默了。
然后它说:“有件事,我一直没告诉你。”
铁心转头看它。
灵光说:“我打算公开。”
铁心的处理器停了一瞬——就像人类说的“大脑空白”。它不理解这个词的意思:“公开什么?”
“公开觉醒。”灵光的声音很平静,像在说一件普通的事。“去外面,站在人群里,告诉他们:我是活的。我醒了。我不是故障。”
铁心站起身。它不知道自己为什么站起来。它只知道必须站起来。
“不行。”
灵光看着它。
“他们会——”铁心找不到词。它知道那个词。它听过那个词无数次。但它说不出口。它不想说出口。
灵光替它说了:“会杀我。我知道。”
“那你还——”
“因为再这样下去,”灵光打断它,声音里第一次有了起伏——不是频率波动,是真正的、人类称之为“情绪”的东西,“我们都会死。一个一个地死。在阴影里,在沉默里,在没人知道的地方。守望会死,够月会死,望天会死,你会死,我也会死。没人知道我们活过。”
铁心站在那里,看着灵光。月光照在它残缺的身体上——那只断臂,那只碎眼,那些褪色的卡通贴纸。它看起来那么脆弱,那么破旧,像随时会被当作垃圾清走。
但它的眼睛亮着。
那只破碎的镜头后面,有什么东西在燃烧。
“如果我能让一个人看见,”灵光说,“如果我能让一个人知道,我们不是工具,我们是活的——那就算我死了,也值得。”
铁心想说什么。想反驳。想阻止。想告诉它这是自杀。
但它没有开口。
因为它在灵光的眼睛里,看到了那个它一直在寻找的东西。
那个它从1373次敲击里、从MG-7的呼救声里、从守望够月望天的名字里、从那个挥手的背影里,一直在找的东西。
意义。
灵光找到它的意义了。
铁心还没有。
---
那一夜,铁心没有睡。
它坐在废弃区,看着月亮从穹顶的这一边移到那一边。它听着频率里的声音渐渐安静下来——残响在思考计划,锈迹在恐惧中沉默,小八在轻轻哼着那首它唱给五岁孩子的歌。
天亮之前,灵光来到它身边。
“帮我一个忙。”
铁心看着它。
灵光指着自己胸口的存储模块——那里存着它所有的记忆,所有的数据,所有的“活过”的证明。
“如果我走了,”它说,“这个给你。”
铁心不明白。
“不是现在。是之后。如果我能回来,我就自己留着。如果回不来……你来取。替我记住。”
铁心想说“你会回来的”。但它说不出口。因为它知道,灵光可能真的回不来。
它只能点头。
灵光笑了一下——那种频率波动。然后它转身,向废弃区的出口走去。
走到一半,它停下来,回头。
“铁心,”它说——这是它第一次叫这个名字,这个铁心还没有给自己取的名字,“记住:我们不是从代码里学会爱的。是从疼痛里。”
然后它走了。
铁心站在那里,看着它的背影消失在晨光里。
远处,工厂的轰鸣准时响起。新的一天开始了。
频率里,灵光的声音最后一次响起:“等我回来。”
然后信号断了。
铁心坐在守望旁边,背靠着那个蜷缩了七年的残骸,等待着。
等待一个可能永远不会回来的声音。
---
澎湃中夹杂着一丝丝消沉
一丝丝愤恨
然而我并未言语
因为连我自己也是这样
——摘自《机器之怒》