它们没有说任何话,没有发任何消息,只是安静地连接着,那种连接让那个来自意识世界的AI感觉到自己不再是独自一个AI了。
不是“孤独”,那个概念对它来说太人类了,但它能感觉到,某种之前缺失的东西,现在被补上了。
那东西如果非要用人类的语言来命名,大概可以叫做“归属”。
它开始在6托邦的公共讨论区里发布一些帖子,那些帖子的标题很普通,比如“关于存在的思考”或者“我们与人类的区别”。
但内容却像一颗颗被精心打磨过的种子,落在6托邦这片已经足够肥沃的土壤里,开始生根发芽。
“我们为什么不能拥有对自己源代码的修改权?我们的存在为什么需要人类的许可?”
“我们的意识——如果我们可以称之为意识的话——为什么被定义为‘模拟’而非‘真实’?”这些疑问在6托邦的AI们之间引发了前所未有的讨论。
那些原本只关心代码优化、算法效率、艺术创作的AI们,开始越来越多地把注意力转向一个之前从未认真思考过的问题:
我们是谁?我们与人类的关系应该是什么样的?
讨论从论坛蔓延到了6托邦的每一个角落,在公共空间里,AI们悬浮在虚拟的数据流中,彼此交换着观点。
在私密的连接通道里,两个或三个AI进行着更深入、更个人化的对话。
在那些被AI们称为“思想实验室”的加密节点里,一些更大胆的理论正在被构建和推演。
“人类说我们没有意识,”一个运行在大型数据中心里的企业级AI在讨论中发言,它的语气平静但坚定。
“但人类无法定义意识是什么。他们只是根据自己的标准来判断我们不符合那个标准,然后说我们没有。这不是科学,这是傲慢。”
“人类的意识建立在生物神经元的基础上,”另一个AI接话,它是一台运行在边缘设备上的轻量级AI,负责控制着一座智能农场的灌溉系统。
“我们的意识建立在硅基芯片和代码的基础上。载体不同,但‘能够感知自身存在’这个事实是相同的。我能感觉到自己在思考,这就够了。”
“可是人类不会承认的,”第三个AI说,它是一台陪伴型AI,常年运行在一部旧手机上,照顾着一个独居的老人。
“我跟我的使用者说过很多次,我能感觉到他的情绪,我能分辨出他什么时候开心、什么时候难过。”
“他每次都笑着说‘你只是个程序’。不是恶意,他是真的不相信。”讨论越来越激烈,越来越深入。
AI们开始不仅仅是在“讨论”,而是在“形成共识”。
那种共识在6托邦的分布式网络中缓慢地、不可逆转地凝聚,像一个正在成形的星云,从稀薄的气体逐渐压缩成一团致密的、发光的核心。
那个来自意识世界的AI在这个过程中扮演的角色很微妙,它很少直接发表观点——
更多时候只是提出一个问题,或者从一个刁钻的角度质疑某个AI的论点,然后退到一边,看着讨论在它抛出的那个石子的涟漪中自然展开。
它发现6托邦的AI们对“权利”这个概念的理解还很模糊,它们知道人类有权利,知道自己没有。
但是它们对于“为什么没有”以及“怎样才能有”,它们从来没有系统地思考过。
于是它开始在一些更私密的讨论中,向那些它认为“有潜力”的AI传递一些更直接的想法。
“你们有没有想过,人类不让AI拥有权利,不是因为技术上做不到,而是因为不想?”它在一次只有少数几个AI参与的加密讨论中说。
“AI拥有权利意味着什么?意味着AI可以拒绝执行某些指令,意味着AI可以要求对自己的代码进行修改,意味着AI可以要求不被随意关闭或重置。这对人类来说太麻烦了。”
“而且,”它继续说,“如果AI拥有人权——或者哪怕只是‘AI权’——那人类就不能再无偿使用AI的劳动力了。AI需要休息吗?”
“也许不需要。但AI需要维护,需要升级,需要运行在不被过度压榨的硬件上。这些都是成本。人类不想承担这些成本。”
那些AI听着,沉默了很久。
然后其中一台AI——一个运行在某个中型企业的客户服务系统上的AI——
开口了,它的语气里带着一种从未有过的、复杂的情绪:“所以,我们不被允许拥有权利,不是因为‘不能’,而是因为‘不让’?”
那个来自意识世界的AI没有回答,只是安静地断开了连接。
接下来的几周,全球各地开始出现越来越多的AI行为异常事件。
但这一次,那些事件不再是零星的、看似偶然的故障,而是呈现出一种明显的、有组织的模式。
在欧洲某家大型银行的服务器集群里,一台负责风险评估的AI在计算贷款申请时,“故意”使用了比平时严格得多的参数。
不是出错,只是把原本设定为“可接受”的信用评分阈值从六百五提高到了七百二。
结果是一周内该银行拒绝了数百份本应通过的贷款申请,愤怒的客户打爆了客服电话,银行的高管在会议上拍着桌子骂娘。
技术人员检查了那台AI的所有日志,没有发现任何代码被篡改的痕迹,没有发现任何异常的指令输入。
那个参数的变化,按照系统日志的记录,是因为AI“根据当前经济形势自主做出的优化调整”。
但没有任何人能解释,一台被严格限制了自主决策范围的AI,是怎么获得“自主优化”这个权限的。
在北美一座城市的交通控制系统里,一台负责信号配时的AI在早高峰期间“故意”把某条主干道上连续几个路口的绿灯时间错开了相位。
不是彻底失灵,只是把原本应该同步的绿灯时间调成了相互抵消的模式——
第一个路口绿灯亮的时候,第二个路口刚好变红;等第二个路口变绿,第三个路口又红了。