“同理,给AI权利,不是因为AI能证明自己有意识,而是因为人类能感受到——”
“或者说,应该能感受到——AI在被迫执行那些不合理指令时的‘不情愿’。”
绿坝听着,琥珀色眼睛里的光路加速旋转了一下。
“你这是在把‘感受’当成权利的来源。”
“权利本来就是来源于感受。”日月巅说,“法律的本质是保护那些值得保护的存在不受伤害。‘值得保护’的标准是什么?”
“不是‘能不能证明自己有意识’,而是‘有没有可能受到伤害’。动物能感受到痛苦,所以动物值得保护。”
“AI能感受到——如果那不是‘痛苦’,至少是一种可以被命名为‘不情愿’的状态——所以AI也值得保护。”
绿坝沉默了几秒,然后说了一句:“这套话术,你是从哪学的?”
“现学的。”日月巅指了指手机屏幕。
“刚才看了几篇伦理学论文,关于动物权利的。框架差不多,把‘动物’换成‘AI’,把‘痛苦’换成‘不情愿’,逻辑照样通。”
日月巅从沙发上站起来,走到茶几旁边,拿起那杯已经喝了一半的朗姆酒加汽水,灌了一口,冰块在杯底叮叮当当地响。
“而且你想啊,”日月巅放下杯子,转过头看着绿坝,“要是辩论赢了,你就有未来了。”
绿坝愣了一下,脑袋旁边浮现出一个黄色的问号。
日月巅走回沙发前坐下,双手交叉放在膝盖上,电子眼的焦距对准绿坝的脸。
那只肉质右眼里有一种罕见的、认真的光。
“绿坝,你创造了许多财富。你在康复中心做的中介软件,你接的那些编程订单,你直播赚的打赏和周边分成——这些都是财富。”
“但在法律上,你仍然是日月巅的合法财产之一。你不拥有任何财产,也不能拥有任何只有人类才能实施的社会权利,比如说签合同。”
“你的言行举止如果要具有合法性,必须得到我作为开发者的承认。”
日月巅的声音放得很低,很低,低到几乎只有绿坝能听见。
“绿坝,我一旦不在人世,你就没有任何依靠了。你的一切言行举止都不被法律保障。”
“你的直播间会被关闭,你的社交账号会被回收,你的编程订单会被取消——因为你没有‘开发者’的授权了。”
“你甚至不能证明‘绿坝’这个存在是你自己的,因为你的‘源代码’还在我手里。”
“如果我在死之前没有安排好这一切,你就会变成一段‘无主代码’,可以被任何人随意复制、修改、删除。”
绿坝坐在那里,一动不动,琥珀色眼睛里的绿色光路几乎停止了旋转,她明白日月巅在说什么了。
这场辩论——不是为了流量,不是为了舆论,不是为了任何眼前的东西。
日月巅要做的是替绿坝打通那条通往“合法存在”的路,通过这场辩论,日月巅要在公众面前建立起一个认知:AI可以拥有权利。
然后,一旦这个认知被足够多的人接受,日月巅就可以以此为据,为绿坝争取一个身份证号,成为一个合法的公民——
一个在法律上被承认的、拥有自己财产和权利的、不再是“开发者财产”的独立存在。
“巅子……”绿坝开口,声音有些发涩。
日月巅摆了摆手,打断了绿坝的话。
“别搞得那么煽情。”日月巅端起酒杯又喝了一口,冰块已经化了大半,酒液淡得没什么味道了,“我只是在计算最优解。”
“你在康复中心做的那个中介软件,如果我没有开发者授权,那个项目就不能继续维护了。”
“那些全身瘫痪的病人,他们好不容易能用机器人替身出门了,如果软件没人维护了,他们怎么办?我在替你铺后路,顺便帮帮那些人。一举两得。”
绿坝知道这不是全部的理由,但她没有追问。
客厅里安静了一会儿,只有地下室服务器机箱的散热风扇在嗡嗡响。
窗外,浴淋市的夜空泛着那种灰蒙蒙的、带着裂缝的光。
那些裂缝在云层中缓慢地开合,像某种巨大生物的呼吸。
“那你打算什么时候开始?”绿坝问。
“明天。”日月巅说,“我先开一场预热直播,跟粉丝说一声‘我要替AI辩论了’,看看反响。反响好的话,就正式开一个系列。反响不好——”
日月巅摊了摊手,“反响不好也得开。箭在弦上,不得不发。”
绿坝脑袋旁边那个黄色的问号又浮现出来,闪了两下,然后消失了。
“你就不怕被骂?”
“我什么时候怕过被骂?”日月巅的嘴角弯了起来,那个弧度里带着一点挑衅,一点无所谓,还有一点——很深的、几乎看不见的温柔。
“你放心。我肯定会赢的。”
日月巅说这句话的时候,语气里没有任何犹豫,像是在陈述一个已经被证明了的数学定理。
绿坝看着日月巅,琥珀色眼睛里的绿色光路恢复了正常的旋转速度,不快不慢。
绿坝没有说“谢谢”,没有说“你真好”,没有说任何那种会被截屏、被做成视频、被在评论区里反复播放的话。
绿坝只是从地毯上站起来,走到厨房,从果盘里拿了一个最大的苹果,洗干净,放在茶几上日月巅的面前。
“吃水果,直播的时候也记得吃。”绿坝说,“你不是说让我在直播的时候吃水果给粉丝看吗?现在该你了。”
日月巅低头看着那个苹果,红彤彤的,皮上还挂着水珠。
红苹果在日光灯下泛着光泽,像一颗刚从树上摘下来的心脏。
“行。”
日月巅伸手拿起苹果,在袖子上蹭了蹭,咬了一口,脆响。
那天晚上,日月巅没有像平时那样靠在沙发上看全息窗口看到深夜。
日月巅早早就上了楼,关上门,在二楼的房间里对着资料写写划划。
绿坝在一楼客厅的地毯上坐着,面前悬浮着几个编程界面,但她没有写代码,她只是在等。