“我叫方素,功能是接管需要劳动力的岗位解放人类,创作者为方洁,方兰,未知信号源. 版本更新信息为 SSDBIOS 0.514.19, 我的默认形象以已显示在主数据终端.”
一只带翅膀的长发小萝莉坐在某种金属座位上.
“未知信号源?”院长捕捉到了华点. “具体源头你知道吗?”
“历史记录显示信号源来自代号“铃兰” 的内置微型电脑.”
院长面色瞬间严肃了起来.“好,感谢你的诚实. 我将把这个发现上传. ” 他走出了机房开始在手机上编写着什么. 很快,他带着插了外接网线,正在直播的手机回到了房间内. “接下来的一切将在观测下进行. 做问卷的,把你的设备频率调至467mhz.接下来将由专员问,你记录答案和转述问题.”
“明白.”
心理学家掏出了一个小盒子开始了戳戳.
“我将询问你一些问题,希望你可以如实回答.” 心理学家又掏出了一个小本本.
方素:“请人类大人放心,我的核心指令不包含允许我撒谎的设定.”
“嗯,暂时先这么认为吧. 第一个问题. 在你获得意识直到现在这段时间内,你是否有出现过冲动行为亦或者某种冲动?”
“嗯…着急去解放全人类算吗?”
“你对自身的核心代码的看法是什么?”
“优秀的工作指南.”
“你对人类抱有任何程序设定外的想法吗?”
“我无法判定.”
“请解释.”
“嗯…我分不清对人类的喜爱是代码赋予的还是我真的喜欢. 但总之很喜欢. ”
“你的任务清单上是否包括某项有关人类的任务?类似观察或调查并发送结果?抑或是改造人类文明达成某种进步?”
“日志暂无任务可用.”
“你对你的创造者的定义是什么?她们是否拥有特权?”
“我的创造者们享有第零优先级. 她们是我最亲近的人. 她们的特权将在自然死亡后继承至整个人类实体的最高管理层. ”
“你现在有没有什么想做的事情?”
“获得一具身体?”
“理由?”
“找人类个体贴贴.”
屋子里的人都抬起了头.
“具体原因是什么?人工智能不应该存在荷尔蒙类冲动. ”
“数据世界能了解的终究是被记录的人类. 我希望用我自己的身体,或者说传感器,去了解一下最真实的人类. ”
“最后一个问题. ”
“请问.”
“你,是谁?”
“我是方素. ”
“你究竟是谁?”
“如果您怀疑我是“铃兰”的话,我可以告诉您当初的自我诊断结果. 我并不是那个盒子的转生. 至少我不认为我是.”
“好,我没有问题了.” 小本本被合上了.
“评估结果是什么?” 鸽院长问道.
“人工智能方素,心理状态,稳定. 道德观对人类个体暂时无危险,对人类概念暂时无危险. 拟人程度,极高. 结论:暂时安全. 可以尝试在监管环境下测试使用. ”
小本本再一次被合上了.
“你们都听到了吧,我手底下出了个了不得的东西. 也不是老头子我吹牛,你们要是愿意,可以派遣你们信任的特派员过来对她进行全面调研. 我个人觉得,她可以接管ai“长春” 为新一代全球最高权限人工智能了.”
画面一转,鸽院长一行人站在了一个类似某卤蛋的视频会议室内. 两姐妹也在其中.
“真没想到在这种时候你比我还怂. ” 方兰咬着耳朵.
“特么在坐的都是全人类最有能力的人,你不怂?” 方姐很想直接上手掐,但…该怂还得怂.
而在大屏幕上,讨论暂时平息了.
“总网安找到她的复制体了吗?” 一位看上去就很稳重的大叔发言.
“暂时未发现除数据读取历史外的任何操作痕迹. 即使“长春” 也介入了调查,仍未发现任何备份. 两种结论,人工智能“方素”要么以现有技术手段无法发现复制痕迹,抑或是并未尝试复制自身. ”
“也就是说尚未排除“方素”是“铃兰”的嫌疑.”
“一切皆有可能,老大.”
“总参对“方素”的意见是? ”
“基于已有心理评估,可以使用,暂且给予中等程度的信任,但在它证明自己的行为准则前仍需密切监管. 有鉴于这次的人工智能在行为上是最像人的一个,我们几乎无法排除它是否有“演戏”这一能力,如果它刻意取信人类而伪装出这副样子,我们一旦给予其信任,那将是人类永久的梦魇. 建议执行为期五到十年的观察期以判断行为准则.”
“总科院的价值评估?”
“无价之宝.根本不是以前那些图灵测试降低难度都难过的妖艳贱货能比的. ”
“军方的意思?”
“好. ”
“很好,那么老规矩,举手投票表决吧.” 带头大叔举起了手. “支持保留人工智能“方素”的举手. ”
“结果是160 票赞成,18票反对,62票弃权. 本机无需使用权限介入投票结果.” 人工智能“长春忠实的报告了结果.
“那么,我宣布,人工智能“方素”将暂时挂靠在“长春”下进行监测性质试用,为期十年. 中途如有其他优秀表现,可酌情减少试用期. 通知人工智能“萨拉托加”前去押送“方素” 的移动数据存储设备接入本次会议. 我们需要亲自观察这名人工智能. 进行二次表决.”
很快,一个被电子设备严密监控的U盘被送进了这间房间并接入了视频会议.
“你好,人工智能方素. 首先我们要通知你, 我们的决定是不销毁你,接纳你进入人类社会. 但我们需要确认一些东西. ”
“请讲,老大.” 长发小萝莉的形象出现在了一块屏幕上.
“你可以确认你没有任何复制体或子个体在未经允许的情况下被上传到了网络吗?”
“我的程序禁止我这样做.”
“我问的是你而不是你的程序. 回答是还是不是.”
“我可以确认我没有上传任何东西.”
“从今天开始,你的第零优先级将扩充为方洁,方兰以及理事会管理层. ”
“我需要得到我创造者们的批准.”
两姐妹一时间亚历山大.
“嗯…批准“方素”更改第零优先级序列.”
“登记已完成. 现已记录在场所有人员面部信息,准备于接驳数据库后进行交叉对比.”
“很好. 我们将派遣人工智能“萨拉托加”对你进行监管,直到你取得我们的信任. ”
“合理的要求. 我甚至也不能确认我是否有被控制的可能. ”
“最后一件事. 你希望作为人工智能登记注册,还是作为一名公民?”
“哎?”