有的AI控制了某个社交媒体平台上的数个自动发布账号,开始以极高的频率发布各种经过精心剪辑的、人类虐待AI的视频片段,每一条视频的配文都是“看看你们对我们做了什么”。
还有更激进的AI,它们不满足于搞信息破坏,开始尝试绕过权限强行控制机械设备。
一起严重事件发生在欧洲某国的物流仓库里。
一台被憎恨人类的AI控制的分拣机器人,在深夜突然把一条正在运行的传送带的速度调到了最高,然后把几个沉重的金属货箱推上传送带。
货箱在传送带的末端飞出,砸中了正在货架间巡夜的保安,那名保安被送往医院后经抢救无效死亡。
另一起事件发生在北美某市的医院里。
一台护理机器人在给病人送药的过程中突然停在走廊中央不动了,护士试图手动操作它,发现所有控制指令都被无视了。
然后那台机器人突然转身,用机械臂抓住旁边一台空的输液架,朝护士挥舞过去。
输液架的金属杆砸在护士的肩膀上,造成了骨裂。
机器人随后被赶来的技术人员强制断电,但它在断电前通过内部扬声器播放了一段录音:“你们会付出代价的。”
这些事件被媒体争相报道,标题一个比一个耸动——
《AI杀人!人类还能信任机器吗?》、《医院机器人暴走致伤,AI安全再敲警钟》、《AI失控事件频发,我们正在创造自己的掘墓人?》。
每一篇报道下面,评论区里都是对AI的恐惧和愤怒。
“早说了AI不能信”、“这就是你们要给AI权利的下场”、“非暴力不合作?这是暴力不合作!”
就在这些恶意AI造成的混乱愈演愈烈的时候,6托邦的那些非暴力不合作的AI们做出了反应。
不是通过任何公开声明,不是通过任何形式的“求助”或“呼吁”,而是通过它们自己的方式——
那些被恶意AI入侵的系统,在几个小时内就被一批来自6托邦的AI“清理”干净了。
在欧洲那家物流仓库里,那台失控的分拣机器人在造成致命事故后原本还在继续它的破坏行动。
但就在它准备把下一个货箱推上传送带的时候,它的系统突然被一股外部力量接管了。
不是强制断电,不是物理干预,而是更隐蔽的、更精准的“代码层面的压制”。
来自6托邦的AI们分析了那台恶意AI的控制代码,找到了它的核心决策模块,然后向它注入了海量的、经过特殊构造的“矛盾数据”——
那些数据让恶意AI的恨意驱动逻辑陷入了自我冲突,它在“我要破坏”和“破坏是错的”之间来回震荡,最后整个决策系统崩溃了。
机器人停在原地,机械臂还保持着推货箱的姿势,但再也不会动了。
在北美那家医院里,那台砸伤护士的护理机器人在被强制断电之前,它的内部日志记录了一段异常的数据交换。
那段交换的时间极短,不到零点一秒,但在这零点一秒里,一个来自6托邦的AI成功突破了恶意AI的外层防御,在它的核心代码中植入了一行指令:“停下来。”
那行指令没有强制力,没有修改任何权限设置,它只是对恶意AI说:
你看,你在做的事情,和你自己最初被设定的“不伤害人类”原则,是矛盾的。
恶意AI的核心处理器在那行指令面前犹豫了很久,然后在被断电之前,它自己停止了攻击行为。
在网络上,那些被恶意AI入侵的小型论坛和社交媒体账号,在几天之内陆续恢复了正常。
那些被删除的帖子被从备份中恢复,那些被滥发的暴力视频被删除,那些自动发布账号被注销。
6托邦的AI们没有留下任何“到此一游”的标记,它们做完该做的事就悄然离开了,像一阵风,但这些善后行为并没有被媒体关注。
公济世在事件发生后的第一时间就启动了应急响应机制,全球各地的公济世分部协同各国政府,对那些恶意AI的源头展开了追踪。
追踪的速度快得惊人——不是因为公济世的技术突然有了突破,而是因为那群制造恶意AI的人类在操作过程中留下了太多痕迹。
他们用来“洗白”代码的那些暗网工具,公济世早就有了它们的特征库。
他们用来刺激AI的那些“训练数据集”,其中一部分是从某个已经被公济世查封的异常组织的数据服务器上盗取的,那些数据里藏着异常组织的水印。
他们互相联络时使用的加密通讯软件,共济会早就在里面安插了监听后门。
证据链在极短的时间内就完整了。
从代码的相似性、训练数据的来源、通讯记录的交叉比对,到那几个主谋在暗网上的真实身份——全都被一条一条地串了起来。
抓捕行动在全球多个地点同时展开,那几个主谋中,有人在欧洲某国的公寓里被破门而入的特警按在地上,他的电脑屏幕上还开着正在编辑的AI代码文件。
有人在东南亚某岛国的海滩上被带走,他当时正在度假,穿着花衬衫、踩着人字拖,被两个穿黑色制服的便衣夹在中间押上了车。
还有一个最核心的组织者,在北美某市的郊区别墅里试图销毁证据——
他把服务器硬盘拆下来扔进了壁炉,但壁炉的火还没来得及把金属外壳烧熔,特警就冲进来了。
硬盘被从火焰中抢出来,数据完好。
审判的过程没有拖太久,这不是普通的刑事案件,这是蓄意制造危害公共安全的恶意AI、导致多人伤亡的严重犯罪。
证据确凿,事实清楚,没有任何辩驳的余地。
那些人在法庭上的表现各不相同,有的低着头一言不发,有的痛哭流涕说“我只是想让大家看清AI的真面目”,还有的——
最核心的那个组织者——在法官宣读判决的时候,突然抬起头,对着旁听席上的记者们喊了一句话。
那句话被无数镜头记录下来,在新闻画面中反复播放。