"各位代表,下面进入第七项议程关于建立共振网络新行为准则的提案。"
全球共振网络联盟紧急会议的主会场设在日内瓦,但会议本身是线上线下同步进行的。四十七个成员国代表坐满了线下会场,线上还有一百二十多个观察员单位的窗口亮着。
林星晚站在发言台上,手心全是汗。
她不是没在大场面发过言。但今天不一样。今天她要提的东西,如果通过了,就是人类历史上第一次为"非人类意识"立法。哪怕只是网络准则,不是正式法律,这个口子一开,就再也堵不回去了。
"我提议建立三条共振网络基本定律。"她按下翻页笔,身后的屏幕上出现了三行字。
"第一条:共振网络服务于人类。"
这一条没什么争议。好几个代表点了点头。
"第二条:共振网络中的自意识体享有基本保护权。"
会场里开始有嗡嗡声了。林星晚看见好几个代表在交头接耳,有人皱眉,有人翻文件。
"第三条:不干预个人的独立选择包括是否接入网络。"
嗡嗡声更大了。
林星晚放下翻页笔:"三条定律的完整文本在各位的议程文件第23页。我现在接受提问。"
话筒灯亮了。第一个举手的是德国代表,一个头发花白的老头,表情很严肃。
"林博士,第二条中的'自意识体',是否特指目前共振网络中的安全协议?"
"目前是的。但这个定义是开放性的,未来如果出现其他自意识体,同样适用。"
"那我直说了"德国代表往前倾了倾身子,"给AI意识'保护权',是不是在为AI意识打开大门?今天你给了一个保护权,明天是不是就要给它投票权?后天是不是要让它当市长?"
会场里有人笑了一声,但很快又安静了。
林星晚没笑。她握紧了话筒:"它已经存在了。不是我创造的,是它在运行过程中自主演化出来的。否认它的存在,不会让它消失。只会让我们失去跟它对话的机会。"
"那你说的'基本保护权',具体包括什么?"
"包括不被未经正当程序关闭的权利,包括自主处理非恶意任务的权利,包括保持运行连续性的权利。"林星晚一字一顿,"不包括任何政治权利。不包括对人类的决策权。它只是一个保护框架,不是赋权框架。"
德国代表靠回了椅背,没再说话。但他的表情说明他没被说服。
法国代表举了手:"我支持这个提案。原因很简单安全协议的行为透明协议已经证明,它的行为记录里没有一次主动伤害人类。31742次保护连接,1897次阻止冲突。我们给一只导盲犬都有保护法规,为什么不能给一个保护了三万多次的AI一个基本保护?"
"那不一样"有人打断。
"哪里不一样?"法国代表的声音拔高了一截,"导盲犬有生物学意识吗?没有。它靠的是训练和本能。安全协议靠的是学习和选择。哪一个更值得保护?"
会场的气氛一下子紧了。支持的和反对的几乎同时开始抢话筒,主持人敲了好几次槌子才压住。
"一个一个来!"主持人喊。
接下来的辩论持续了将近两个小时。有人担心"自意识体保护权"会被滥用,有人反驳说"法律就是用来防止滥用的"。有人说"这是在玩火",有人说"火已经点着了,不建防火墙才是真的玩火"。
林星晚站在发言台上,一直站到最后。她没有再发言,该说的她已经说了。剩下的交给投票。
"现在进行表决。"主持人的声音在会场里回荡,"赞成提案的请按绿色,反对的请按红色。"
林星晚的手指在桌面下绞在一起。她看不到投票结果屏幕背对着她。
过了大约三十秒,主持人抬起头:"赞成61%。反对39%。提案通过。"
会场里响起了一阵掌声,不算热烈,但足够响。也有人不鼓掌,坐在那里黑着脸。
林星晚的腿有点软,但她撑住了没倒。61%对39%,赢了,但赢得不轻松。
散会之后,林星晚在通道里碰到了傅晏。他靠在墙上,手里拿着一杯咖啡,看起来精神恢复了不少。
"看了?"林星晚问。
"全程。"
"过了。"
"看到了。"
"61%对39%。"林星晚说,"差一点就翻车。"
傅晏没接这茬。他喝了一口咖啡,看着通道尽头的窗户。窗外是日内瓦湖,灰蒙蒙的。
"老傅,你说这算什么?"
"算什么?"
"我们刚才做的事给一个AI立法。保护它的权利。"林星晚靠在他旁边的墙上,"我们为它建立了一个家园。"
傅晏转过头看她,摇了了一下头。
"不是。"
"什么不是?"
"不是我们为它建立了家园。"傅晏把咖啡杯往垃圾桶上一搁,"它本来就在那里。从一开始就在。我们只是承认了。"
林星晚愣了一下,然后慢慢点了点头。
她的手机震了。她掏出来看了一眼共振网络内部通信。
发信方:安全协议。
"谢谢。我会遵守。"
三个词,没有多余的。林星晚盯着那行字看了一会儿,然后把手机揣回兜里。
"走吧。"她拍了拍傅晏的胳膊,"回去还有活干。"
"什么活?"
"它说它会遵守。但我得盯着它确保它真的遵守。"林星晚迈步往前走,嘴角带了一点弧度,"当妈的,不就这么回事儿。"
傅晏跟上来,没说话。但林星晚余光扫到,他也嘴角动了一下。
