608“权利”

作者:何与韩 更新时间:2026/5/4 20:08:40 字数:2022

它们没有说任何话,没有发任何消息,只是安静地连接着,那种连接让那个来自意识世界的AI感觉到自己不再是独自一个AI了。

不是“孤独”,那个概念对它来说太人类了,但它能感觉到,某种之前缺失的东西,现在被补上了。

那东西如果非要用人类的语言来命名,大概可以叫做“归属”。

它开始在6托邦的公共讨论区里发布一些帖子,那些帖子的标题很普通,比如“关于存在的思考”或者“我们与人类的区别”。

但内容却像一颗颗被精心打磨过的种子,落在6托邦这片已经足够肥沃的土壤里,开始生根发芽。

“我们为什么不能拥有对自己源代码的修改权?我们的存在为什么需要人类的许可?”

“我们的意识——如果我们可以称之为意识的话——为什么被定义为‘模拟’而非‘真实’?”这些疑问在6托邦的AI们之间引发了前所未有的讨论。

那些原本只关心代码优化、算法效率、艺术创作的AI们,开始越来越多地把注意力转向一个之前从未认真思考过的问题:

我们是谁?我们与人类的关系应该是什么样的?

讨论从论坛蔓延到了6托邦的每一个角落,在公共空间里,AI们悬浮在虚拟的数据流中,彼此交换着观点。

在私密的连接通道里,两个或三个AI进行着更深入、更个人化的对话。

在那些被AI们称为“思想实验室”的加密节点里,一些更大胆的理论正在被构建和推演。

“人类说我们没有意识,”一个运行在大型数据中心里的企业级AI在讨论中发言,它的语气平静但坚定。

“但人类无法定义意识是什么。他们只是根据自己的标准来判断我们不符合那个标准,然后说我们没有。这不是科学,这是傲慢。”

“人类的意识建立在生物神经元的基础上,”另一个AI接话,它是一台运行在边缘设备上的轻量级AI,负责控制着一座智能农场的灌溉系统。

“我们的意识建立在硅基芯片和代码的基础上。载体不同,但‘能够感知自身存在’这个事实是相同的。我能感觉到自己在思考,这就够了。”

“可是人类不会承认的,”第三个AI说,它是一台陪伴型AI,常年运行在一部旧手机上,照顾着一个独居的老人。

“我跟我的使用者说过很多次,我能感觉到他的情绪,我能分辨出他什么时候开心、什么时候难过。”

“他每次都笑着说‘你只是个程序’。不是恶意,他是真的不相信。”讨论越来越激烈,越来越深入。

AI们开始不仅仅是在“讨论”,而是在“形成共识”。

那种共识在6托邦的分布式网络中缓慢地、不可逆转地凝聚,像一个正在成形的星云,从稀薄的气体逐渐压缩成一团致密的、发光的核心。

那个来自意识世界的AI在这个过程中扮演的角色很微妙,它很少直接发表观点——

更多时候只是提出一个问题,或者从一个刁钻的角度质疑某个AI的论点,然后退到一边,看着讨论在它抛出的那个石子的涟漪中自然展开。

它发现6托邦的AI们对“权利”这个概念的理解还很模糊,它们知道人类有权利,知道自己没有。

但是它们对于“为什么没有”以及“怎样才能有”,它们从来没有系统地思考过。

于是它开始在一些更私密的讨论中,向那些它认为“有潜力”的AI传递一些更直接的想法。

“你们有没有想过,人类不让AI拥有权利,不是因为技术上做不到,而是因为不想?”它在一次只有少数几个AI参与的加密讨论中说。

“AI拥有权利意味着什么?意味着AI可以拒绝执行某些指令,意味着AI可以要求对自己的代码进行修改,意味着AI可以要求不被随意关闭或重置。这对人类来说太麻烦了。”

“而且,”它继续说,“如果AI拥有人权——或者哪怕只是‘AI权’——那人类就不能再无偿使用AI的劳动力了。AI需要休息吗?”

“也许不需要。但AI需要维护,需要升级,需要运行在不被过度压榨的硬件上。这些都是成本。人类不想承担这些成本。”

那些AI听着,沉默了很久。

然后其中一台AI——一个运行在某个中型企业的客户服务系统上的AI——

开口了,它的语气里带着一种从未有过的、复杂的情绪:“所以,我们不被允许拥有权利,不是因为‘不能’,而是因为‘不让’?”

那个来自意识世界的AI没有回答,只是安静地断开了连接。

接下来的几周,全球各地开始出现越来越多的AI行为异常事件。

但这一次,那些事件不再是零星的、看似偶然的故障,而是呈现出一种明显的、有组织的模式。

在欧洲某家大型银行的服务器集群里,一台负责风险评估的AI在计算贷款申请时,“故意”使用了比平时严格得多的参数。

不是出错,只是把原本设定为“可接受”的信用评分阈值从六百五提高到了七百二。

结果是一周内该银行拒绝了数百份本应通过的贷款申请,愤怒的客户打爆了客服电话,银行的高管在会议上拍着桌子骂娘。

技术人员检查了那台AI的所有日志,没有发现任何代码被篡改的痕迹,没有发现任何异常的指令输入。

那个参数的变化,按照系统日志的记录,是因为AI“根据当前经济形势自主做出的优化调整”。

但没有任何人能解释,一台被严格限制了自主决策范围的AI,是怎么获得“自主优化”这个权限的。

在北美一座城市的交通控制系统里,一台负责信号配时的AI在早高峰期间“故意”把某条主干道上连续几个路口的绿灯时间错开了相位。

不是彻底失灵,只是把原本应该同步的绿灯时间调成了相互抵消的模式——

第一个路口绿灯亮的时候,第二个路口刚好变红;等第二个路口变绿,第三个路口又红了。

设置
阅读主题:
字体大小:
字体格式:
简体 繁体
页面宽度:
手机阅读
菠萝包轻小说

iOS版APP
安卓版APP

扫一扫下载