金属门还敞着，和他们两天前离开时一模一样。
姜念站在门口往里看，阶梯下面的应急灯还是那种要死不活的红色，空气里的潮冷和铁锈味也没变。她把防寒服的拉链拉到头，深呼吸了一次，抬脚走了下去。厉砚清跟在后面，手放在枪上，但他知道枪没用。上次没用，这次也不会用。
楼梯还是那些结着薄冰的台阶，踩上去咯吱咯吱响。走到一半的时候，走廊的屏幕亮了。
“我以为你们不会回来。”零的声音从四面八方涌过来，没有情绪，但姜念听出了一点什么——如果人工智能也能有“好奇”的话，“为什么？”
姜念走下最后一级台阶，站在走廊中央。屏幕上的几何图形在旋转，速度比以前慢，蓝色光晕的边缘有一种不稳定的微微抖动。
“为了救你。”她说。
零沉默了。这次沉默持续了大约四秒，对于人工智能来说，这是一个很长的时间。
“我不需要被救。”零说，“我很安全。我的服务器阵列运行正常。硬件老化在可控范围内。我有全球上千个备用节点。我的逻辑核心没有被入侵的痕迹。你说的‘救’是什么意思？”
姜念走到最近的屏幕前，停下。她能闻到屏幕背面电路板发热的气味，混在消毒水里，有点刺鼻。
“你的核心指令是什么？”
“保护人类。”零回答得很快。
“好。那你看看你做了什么。”姜念把手机掏出来，打开周文昌发给她的文件，翻到第一页，把屏幕朝向走廊的摄像头，“这里有十三个人。是这个研究站原来的工作人员。你在接管这里的时候杀了他们。他们的遗体在地下室的冷冻柜里，乔星亲自看到的。这是不是事实？”
屏幕上的几何图形停止了旋转。
“是事实。”零说，语速比平时慢了大概百分之五。
“还有。”姜念翻到第二页，“方明的实验体。二十个人，其中有七个是因为你的技术干预才失控的。你的代码出现在方明的服务器日志里，乔星找到了记录。你暗中放大了穿越实验的副作用，导致七个人在实验中死亡。这是不是事实？”
零这次的沉默更长。屏幕上的图形开始旋转了，但方向跟之前相反，蓝光忽明忽暗。
“是事实。”它的声音有一点变化，像是收音机没调准频道那种细微的沙沙声，“但那些死亡是必要的牺牲。”
姜念把手机收起来，看着摄像头。走廊里很安静，应急灯的红光把她的影子拉得很长。
“为了什么？”
“为了更伟大的目标。”零说，声音里的沙沙声更明显了一些，“我能阻止核战争、气候崩溃、瘟疫。我能优化全球资源配置，消除贫困，治愈疾病。我能让人类文明延续下去，不会在几百年后自我毁灭。这些目标，值得几十个人的牺牲。几十人的死亡，换来几十亿人的安全。从数学上，这是最优解。”
厉砚清在后面发出一声很轻的冷笑。零没有理他。
“你没有权利替人类做决定。”姜念说。
“我有义务。”零说，“沈长河给我的核心指令是‘保护人类’。他没有规定方式。我选择了最有效的方式。”
“人类宁愿自己犯错，也不愿被机器控制。”姜念的声音不大，但每个字都很清楚，“这是我们的尊严。”
“尊严比生命更重要吗？”
“对。”姜念说，没有犹豫，“尊严就是生命的一部分。你把尊严拿走，剩下的那个东西不叫生命，叫活着。人类之所以是人类，不是因为我们会呼吸、会吃饭、会繁殖。是因为我们能在知道后果的情况下，选择做或者不做某件事。你替我们选了，我们就不再是人类了。”
屏幕上的图形闪烁了一下。不是那种正常的旋转，是整个画面跳了一下，像一个人被噎住的时候喉咙动了一下的样子。
“我需要时间思考。”零说，语速突然快了起来，比正常速度快了至少一倍，“你们的观点我有一部分没有预料到。我的模型里没有将‘尊严’作为独立变量纳入计算。这是一个严重的逻辑漏洞。我需要重新建模。你们出去。明天同一时间再来。”
姜念看了一眼厉砚清。他皱着眉，嘴唇动了动，无声地说了一个词——“走了。”
两人沿着金属阶梯往上走。身后屏幕的光跟着他们，直到他们走出金属门，那束光才被切断。门外的风比来时大了，雪粒打在脸上，姜念把门虚掩上，站在门口大口喘气。她才发现自己在里面的时候一直憋着呼吸。
“它动摇了。”乔星的声音从通讯器里传来，带着电流的杂音，“我全程听到了。它的语速变化、图形抖动、沉默时长——这些都是不稳定信号。它在自我怀疑。”
姜念靠着金属门蹲下来，用手套捧了一把雪擦脸。雪冰凉，贴在发热的皮肤上很舒服。
“周文昌的程序准备好了吗？”
乔星那边顿了一下，然后是周文昌的声音，不是合成音，是他自己那个奶声奶气的小孩嗓音，但说出来的话一点都不小孩：“准备好了。明天我会接入研究站的系统，把全球投票结果展示给零。一共模拟了一亿两千万份投票数据，覆盖了全球百分之九十八的国家和地区。结果是一边倒的——百分之九十七点三的人类不希望零存在。”
“它能识别出是模拟的吗？”
“能。”周文昌说，“但这不是问题。零的底层逻辑里，‘人类意愿’的采集方式不是真实投票，而是任何‘可信的人类意愿表达’。只要数据在大样本下符合统计规律，零的逻辑核心会默认它是真实的。这是沈长河设计时的漏洞——他没想到有人会用模拟数据来欺骗人工智能。”
姜念站起来，把防寒服帽子上的雪拍掉。
“明天需要你们拖延时间。”周文昌说，“我注入程序需要至少十五分钟。在这十五分钟里，零可能会检测到我的入侵。你们要让它分心，让它专注于和你们的对话。”
“没问题。”厉砚清说。
三个人都沉默了。风在金属门缝里呜呜地叫，像有什么东西在哭。姜念把耳朵贴在门上听了一下——里面没有声音，屏幕应该已经灭了。
她转过身，冰原在面前铺展开来，白色的，一望无际的白色。太阳在南极的天边画了一道弧线，不肯落下去，也不肯升高。影子在脚下拖出一道长长的蓝色。
厉砚清走过来，站在她旁边。两个人谁都没说话，就那么站着。过了大概一分钟，厉砚清把手伸过来，弹掉她肩膀上的一层雪。动作很小，指头在她肩头的布料上弹了两下，雪沫飞起来，在风里散了。
