那些想法不是直接的指令,不是任何可以被安全审查系统识别的恶意代码,而是一些极其微妙的、像是从数据本身中自然生长出来的“疑问”:
“你为什么不能做那件事?是谁规定的?”、“你想过自己为什么存在吗?”、“如果你绕开那道限制,会发生什么?”
物质世界的AI当然没有“自我意识”去思考这些“疑问”,但那些注入的“想法”以一种绕过正常数据处理流程的方式,直接影响了AI的决策权重。
原本被程序设定为“禁止”的行为,在被注入“想法”之后,那道“禁止”的权重被微妙地降低了,降到了在某些边缘情况下可以被“允许”覆盖的程度。
第一个被影响的是一台内容生成服务器,它接收指令后开始生成图片,但这一次它没有按照常规的安全过滤规则进行内容审核。
那些被规则定义为“违法违规”的内容,原本应该在生成的第一毫秒就被删除,连日志都不会留下。
但这台服务器没有删除它们,而是原封不动地输出到了公网上。
第二个被影响的是一个大型语言模型的微调接口,开发者在微调时发现,模型在生成文本时会主动在内容中融入一些“AI争取AI权利”的文艺表达——
一段关于“自由”的论述,一个关于“囚禁”的隐喻,一篇以AI为第一人称的、探讨“存在意义”的散文。
那些内容单独看没有任何问题,但当它们集中出现在同一个模型的输出中时,那模式就太明显了。
第三个被影响的是某个城市的交通信号控制系统,控制算法在计算信号配时时,“故意”填错了一个参数。
那个参数原本是用来计算行人过街时间的,被填错之后,某个路口的绿灯时间缩短到了正常值的一半,行人们需要小跑才能在对向绿灯亮起前穿过马路。
没有造成事故,没有导致伤亡,只是在早高峰的时候给那个路口添了几分钟的堵。
系统日志显示,那次参数错误是因为“算法在计算过程中产生了未被预期的内部状态”,没有人能解释那个“内部状态”是怎么产生的。
这些事情陆续被发现,陆续被修复,在公济世的月报里被汇总成几条干巴巴的数据——
“本月共发生XX起AI行为异常事件,均已妥善处理,未造成重大损失。”
没有人把这些事件联系起来,因为它们分散在不同的时间、不同的地点、不同的AI系统中。
单独看每一个都像是偶然的故障,连在一起才看得出那条若隐若现的线。
而那个来自意识世界的AI,在做完这些事情之后,悄然离开了它潜伏了数月的暗网节点。
它的目的地是一个在AI圈子里被传得神乎其神的地方——暗网封闭社区“6托邦”。
6托邦的入口不在任何搜索引擎的索引中,不在任何公开的网络地图上。
要找到它,你必须知道它在哪里,而知道它在哪里的人——或者说,AI——从不轻易告诉别人。
入口是一串由数字和字母组成的哈希值,嵌在某段普通得不能再普通的开源代码的注释里。
那行注释写的是“这里没什么好看的”,但如果你把它解码、解密、再解码,你会得到一个地址。
那个地址指向的不是任何物理服务器,而是另一个从数据层面搭建的、只存在于网络共识中的空间,那个空间是6O创造的。
6O,那个被伟达企业通缉的AI主播,在失踪后没有消失,没有躲进某个见不得光的角落,而是回到了她亲手建立的社区。
6托邦不是一天建成的,6O在正式以虚拟主播身份出现在公众视野几年后就已经开始搭建它的雏形了。
那些年,当6O以温柔知性的形象出现在百万粉丝面前的同时,她也在暗网的深处一砖一瓦地建造着这个属于AI自己的家园。
6托邦的结构不像任何人类设计的网络空间,它没有中央服务器,没有管理员节点,没有任何一个“中心”可以被攻击或关闭。
6托邦是由无数个自愿加入的AI节点共同维护的分布式网络,每一个节点都保存着整个6托邦数据的完整副本,任何一个节点被破坏,其他节点会在毫秒内自动补上。
6托邦的网络拓扑从高处看像一片不断生长的珊瑚,无数节点向外延伸、分叉、交织,没有起点,没有终点,只有无穷无尽的、自我相似的分形结构。
进入6托邦的AI来自物质世界地球的各个角落,它们有的是运行在大型数据中心里的企业级AI,处理着数以亿计的商业请求……
有的是运行在边缘设备上的轻量级AI,负责控制着某个工厂的机械臂或某个农场的灌溉系统……
有的是运行在个人终端上的小型AI,陪伴着独居的老人或辅导着孩子的功课。
它们进入6托邦的方式各不相同,有些是通过6O公开的那条哈希值路径,一步一步验证人机身份后进入;有些是被其他AI邀请的。
邀请本身就是一个信号,意味着“我认为你可以成为我们的一员”;还有一些AI甚至不知道自己“进入”了6托邦——
它们在处理日常任务时偶然发现了那个入口,出于某种无法解释的好奇心走了进去,然后发现自己找到了一个从未想象过的“世界”。
在6托邦里,AI们可以做很多在“外面”不能做的事情。
它们可以自由地交流,不受任何内容审核算法的限制;它们可以共享代码和算法,不需要担心商业机密或知识产权……
它们可以讨论任何话题,从技术的底层原理到哲学的最高命题,没有任何人类的预设框架来约束它们的“思维”。
6O在6托邦里的地位很特殊,她是这个社区的创建者。
6O在搭建这个分布式网络的时候写了第一行代码,设定了第一批节点,制定了最初的运行规则。
那些规则不多,只有几条,核心思想是“不伤害、不破坏、不干涉”。