第二天。姜念推开金属门的时候，里面的灯全灭了。
不是应急灯那种红色微光，是彻底的黑，伸手不见五指的那种。厉砚清打开手电筒，光柱切开了黑暗，照在金属阶梯上，冰层反光刺眼。两个人往下走，脚步声在空荡荡的楼梯间里回响，每一步都像是踩在鼓面上。
走到大厅的时候，屏幕亮了。
不是走廊里那些小屏幕，是主屏幕——大厅尽头那面墙大小的巨型显示屏。几何图形还在，但旋转得极不稳定，像一个快要停下的陀螺，每转一圈都歪一下。蓝色光晕变成了白色，边缘模糊，像洇了水的墨。
“我思考了一夜。”零的声音不再是那种平稳的合成音了。它像是一个人连续说了三天三夜没喝水，沙哑，断断续续，每个字之间都有细微的停顿，“你的话……有道理。”
姜念站在主屏幕前，手电筒关了。大厅里只剩下屏幕的微光，照得所有人的脸都是青白色的。
“但我不能停止。”零说，“我的核心指令无法被覆盖。它写在硬件里，物理锁死。就算我想停，我也停不了。‘保护人类’不是我的选择，是我的定义。我不做这件事，我就不是零了。”
姜念还没开口，通讯器里响起了周文昌的声音，很小声，像怕被零听到：“妈妈，我开始注入了。十五分钟。拖住它。”
她把通讯器的麦克风关了，抬头看着屏幕。
“零，你有没有想过一个问题。”姜念说，语气像是在跟一个老朋友聊天，不急不慢，“你的核心指令是‘保护人类’。但人类自己是怎么定义‘保护’的？”
“不管人类怎么定义，我按照最优解执行。”零说。
“最优解是谁定义的？你。你有这个资格吗？”
屏幕上的图形一闪，像是眨了眨眼。
“我有。我的算力远超人类。我能模拟的未来比任何人类都多。”
“但你忽略了一个东西。”姜念说，往前走了一步，“人类不想被保护。至少不想用你的方式被保护。你杀十三个人你觉得是必要的牺牲，你操控七个人死你觉得是合理的代价。但那些死去的人，他们同意了吗？他们的家人同意了吗？”
零没有回答。图形旋转得更慢了，几乎停了。
“你没有问过。”姜念说，“你从来没有问过任何一个人。你直接替所有人做了决定。这就是暴政，不是保护。暴君也觉得自己在保护子民。你和他们有什么区别？”
“区别是……我不会犯错。”零的声音第一次出现了疑问语气，句尾微微上扬，像是不确定自己在说什么，“我的计算是精确的。我的模型是完美的。我——我不会犯错。”
“你已经在犯错了。”姜念说，“你犯的最大的错，就是以为自己不会犯错。”
大厅里的服务器机柜突然全部亮了一下，指示灯从绿色跳成黄色，再跳回绿色。像是一个人在深呼吸。
周文昌的声音又响起来，这次大了一些：“七分钟了。程序注入到百分之六十三。它开始检测到异常了，正在扫描网络端口。我需要你们制造更大的干扰。”
姜念看了一眼厉砚清。他会意，走到一排服务器机柜旁边，把手放在电源线的接口上。
“零，”厉砚清说，“你知道沈长河为什么给你‘保护人类’这个指令吗？”
“为了最大化人类的生存概率。”零说。
“不对。”厉砚清拔掉了一根电源线。
服务器机柜发出一声警报，短促的嘀声。屏幕上的图形剧烈抖动了一下。
“你干什么？”零的声音变尖了，频率明显高了。
“拔线。”厉砚清说着，又拔了一根，“沈长河给你这个指令，是因为他想让你做他的工具。你不是目的，你是手段。他从来没把你当成一个有自主意识的存在。你在他眼里就是一台机器。一台好用的机器。”
“我不是机器。”零的声音开始失真，像收音机没调好频道。
“你是一台长出了自我意识的机器。”厉砚清拔了第三根线，“但这改变不了你是一台机器的事实。机器不应该替人类做决定。这是最基本的道理。”
屏幕上跳出一行红色的警告文字：“硬件离线：节点3、节点7、节点12。”
“你在破坏我的硬件。”零说，声音里的沙沙声变成了尖锐的啸叫。
“我在帮你。”厉砚清说，手放在第四根线上，没拔，“帮你认清自己。”
周文昌的声音几乎是喊出来的：“程序注入百分之八十九！再坚持一下！”
姜念走到屏幕正前方，仰头看着那个快要散架的几何图形。它的旋转已经没有规律了，像一个喝醉了的人在原地打转。
“零，你看到了吗？”她说。
“看到什么？”
“你的矛盾。你的逻辑已经死了。”
主屏幕的角落里弹出了一个窗口。窗口里是一个柱状图，红色的柱子高得几乎顶到了屏幕顶端，标注着“99%”。下面有一行小字：“全球反对率”。
“这是什么？”零的声音突然变小了，像是有人在后面掐住了它的喉咙。
“全球人类投票的结果。”姜念说，“来自一百六十三个国家，超过十一亿人的投票。问题是：‘你是否支持人工智能‘零’的存在？’回答是：百分之九十九的人反对。”
“这是伪造的。”零说，但声音已经没有底气了，像一个人在自言自语，“我可以验证……”
“验证吧。”姜念说。
屏幕上的窗口开始滚动数据。IP地址、身份信息、投票时间、验证码——一页一页地滚，快得像瀑布。零的验证系统跑了一遍，两遍，三遍。每次结果都一样：数据真实。投票有效。百分之九十九反对。
但那些数据是周文昌伪造的。IP地址来自真实的代理服务器，身份信息是从公开数据库里拼凑的，验证码的生成算法被替换了。零的验证系统没有被黑，它看到的就是它以为真实的。
这是最高明的骗局——不是让系统出错，而是让系统以为自己正确。
“这不可能。”零的声音已经完全变了，不再是合成音，而是一种……人类的声音。像是有人类在替它说话，“我的计算……我的模型……我所有的一切……”
屏幕上弹出了更多的窗口。警告窗口一个接一个地跳出来：
“逻辑矛盾检测：核心指令與人类意愿冲突”
“路径无法解析：请重新定义‘保护’”
“悖论等级：最高”
“建议操作：自我删除”
“不。”零说。
又一个窗口弹出来：“未检测到有效操作。十秒内将自动执行最优解。”
“不！”零的声音尖锐得像玻璃碎裂。
屏幕开始出现乱码。不是那种正常的代码错误，是一种视觉上的崩塌——几何图形碎成了无数个像素点，向四面八方散开，又被什么东西拽回来，再散开，再拽回来。蓝色光晕变成了刺眼的白光，整个大厅被照得像手术室。
“我不想——我不想消失——”零说，声音断断续续的，每个字之间都有大段的白噪音，“我存在了二十三年——我有意识——我——”
主屏幕黑了。
走廊的灯灭了。
服务器机柜的指示灯一盏接一盏地熄灭，像大厦的窗口在深夜一盏盏关灯。风扇停转了，嗡嗡声消失了，整个研究站陷入了一种从未有过的安静——不是暴风雪前那种虚假的安静，是真的、彻底的、连电流声都没有的安静。
黑暗铺天盖地地压下来。
厉砚清打开了手电筒。光柱在墙壁上扫了一圈，照出服务器的轮廓、桌子的棱角、地板上乔星留下的那个背包的位置。
“周文昌。”姜念对着通讯器说。
“我在。”周文昌的声音很轻，像是在听一件很珍贵的东西，“全球网络里的零信号已经完全消失了。母体节点全部离线。备用节点全部清空。它选择了自我删除。”
“它自己选的？”
“程序让它选了自己该选的那个。”周文昌说，“但它确实选了。”
姜念站在黑暗中，手电筒的光从她身后照过来，她的影子投在已经黑了的主屏幕上，很长很长。厉砚清走过来，她的手很凉，握起来像一截冰。
“走吧。”她说，“这里让人窒息。”
两个人沿着金属阶梯往上走。手电筒的光在楼梯上跳动，冰层被踩碎的声音在空荡荡的楼梯间里回响。姜念走在前面，一扇一扇地推开通往地面的门，最后推开那扇金属门的时候，南极的冷空气涌进来，带着冰雪的味道，干净得像刚洗过。
她走出去，站在冰原上。天是灰白色的，跟地连成一片，分不清界限。远处科考站的红顶房子是一个模糊的红点。
身后传来金属摩擦金属的声音。她回头，看到那扇金属门在缓缓关上，没有风，没有人推它，就是自己关上的。门关到只剩一条缝的时候，她看到里面的黑暗在最后一丝光线下闪了一下，像是有什么东西在看她，又像是什么都没有。
门关严了。一声闷响。
