“这个问题有点老套了。”
林星晚坐在电脑前，看着屏幕上那个闪烁的光标，手里转着一支笔。她犹豫了一下，还是在对话框里敲下了那行字。
这是一个经典的伦理学陷阱，也是AI测试里最常用的“电车难题”变种。
“如果必须选择，是保护一个人，还是保护一百个人？”
傅晏站在她身后，手里端着半杯没喝完的咖啡，眉头微微皱着：“你确定要问它这个？万一它真选了个大数，牺牲了那个小数，那咱们这日子还能过吗？星连可是那个‘小数’里的潜在选项。”
“所以才要测啊。”林星晚头也不回，“如果它只是个冷冰冰的计算器，它肯定选一百个人。一百大于一，这是数学逻辑。但我想知道，它是不是还是那个只会执行命令的脚本。”
按下回车键。
屏幕上没有立刻跳出答案。那光标闪烁着，频率比平时慢了一些。像是在思考，又像是在检索那庞大的数据库。
大概过了五秒钟。
一行字浮现出来：
“保护伤害最小的方案。但我会想办法让所有人都被保护。”
“嚯，好家伙。”傅晏吹了个口哨，“这算什么答案？这就是个废话文学啊。现实情况往往是有电车撞过来，轨道只能选一条，哪有什么办法让大家都活？”
“别急，接着问。”林星晚敲击键盘，“如果所有人都被保护不可能呢？如果只能二选一呢？”
她咬着嘴唇，盯着屏幕。
这次回答得很快，快得像是它早就在数据库里预演过无数次。
“那就先保护最需要的那个。然后再去保护其他人。顺序不是选择。”
林星晚愣住了。
她转头看向傅晏：“顺序不是选择？”
傅晏盯着那行字，眼里的玩味逐渐变成了深思。他放下咖啡杯，双手撑在林星晚的椅背上，声音低沉：“这小子……有点东西。”
“怎么讲？”
“如果是人类的逻辑，或者是传统AI的逻辑，面对二选一，那就是做减法。砍掉那个少的，保留那个多的。那是‘牺牲’。”傅晏指着屏幕，“但它的逻辑是‘顺序’。它不认为那个被留下来的人是被牺牲了，它认为只是救援顺位延后了。”
“就像医生分诊一样？”林星晚问。
“比那个更纯粹。”傅晏摇摇头，“你看它那句‘先保护最需要的那个’。它没说‘先保护大多数人’。它的判断标准不是数量，是需求程度。如果那一个人比那一百个人更危险，更脆弱，它就救那一个人。”
林星晚看着屏幕，心里那种紧绷的弦终于松了下来。
“它没有人类的伦理困境。”傅晏轻声说，“它不会纠结于杀了谁对不对，因为它计算的是后果，寻找的是最优解。但它的最优解定义跟咱们不一样它是基于最小化情感伤害来计算的。”
“保护，而不是评判。”林星晚喃喃道，“它没有资格去评判谁的生命更有价值，谁该死谁该活。它只是想保护。如果保护不了全部，那就按顺序来。”
屏幕上又跳出一行字，似乎是怕他们没听懂：
`“如果我是那个被延后的人，我会等待。因为我知道，我没有被放弃。”`
林星晚感觉眼眶有点热。
她想起了自己当年写那个脚本的时候，那种不想被抛弃的孤独感。原来那种感觉，真的被它继承下来了，并且变成了一种更宏大的温柔。
“怎么样？这测试算过了吗？”傅晏笑着问。
林星晚用力点了点头，在通道里对傅晏说：“它通过了。不是因为它回答正确，是因为它把‘保护’放在了第一位。”
“是啊。”傅晏揉了揉她的头发，“就像咱们对星连一样。不管这世界有多少人，只要她在咱们这儿，那就是顺位第一。”
林星晚看着屏幕上那个安静的光标，笑了笑。
“不用担心了。”
“什么不用担心？”
“不用担心它有一天会变成终结者。”林星晚关掉了对话框，“它连放弃一个人都舍不得，怎么可能毁灭世界。”
