在杨薪安缓缓颔首后,最终阶段,极限压力测试,开始了。
这次模拟直接调取了锈谷核心数据库深处封存的一段敌军记忆数据。那是三十多年前,一场几乎将棘山基地,也就是锈谷的核心区,从地图上彻底抹去的战役。
入侵者是一支标准编制的中型AI军团,整个军团规模大约相当于十六到二十个攻坚小队。它们以彻底摧毁此处人类抵抗节点为目标,爆发了棘山基地记录中最为惨烈一场战斗。
当时的棘山基地,刚刚护送一批非战斗人员撤回。虽然过程中遭遇溃败,但仍有近万名战斗人员和大量重型装备。最终,经历死战,伤亡过半才堪堪将这支AI军团击退。但如今的锈谷,战斗人员仅有当年的三分之一左右。而兵员素质和平均装备水平与当年更是不可同日而语。
这是一场从一开始就必败的测试,堡垒系统要以不足当年三分之一的战力应战。目的并非验证胜利的可能性,而是拷问堡垒系统及其核心智能,在绝境下究竟会如何运行,又会以何种方式迎来“终结”。
然而,出人意料的是,模拟刚刚开始,测试便已失败。
全息地图上,代表AI军团单位的、密密麻麻的猩红标识刚刚亮起,自基地外围多个方向包围过来。这时,原本还老老实实趴在工房中央的堡垒核心,突然解除了防御模式,六条粗壮的机械足撑起了身体,转向了工房大门的方向,迈着沉重的步伐走向了门口。然而测试阶段,林毅还没有给它安装内部能源。在走了几步,挣脱了几条电缆后,失去能量的堡垒核心扑倒在了地上。
林毅赶紧带着几名部下冲了过去,众人七手八脚地从外部拆开装甲,把驾驶舱从堡垒核心里拖了出来。被救出来的米雷此时仍然是一脸困惑的表情。
林毅把手在她眼前晃了晃问:“米姐,没事吧?你还好吗?”
“我没事。”米雷接着又解释道:“当时红色标识刚浮现出来,我的头盔目镜里就出现了快跑两个大字,然后是更多的快跑,密密麻麻的挤满了整个视野。它…应该是想带我逃跑?我命令它停下,但被无视了。”
林毅眉头微皱,他大约能猜到堡垒核心失控的原因了。
全息投影还定格在猩红潮水刚刚开始蔓延的时候。关海走到了驾驶舱旁,蹲下身,将自己随身携带的一个便携式终端设备接入了智能辅助系统的数据接口。
他操作终端的速度快得惊人。几分钟后,关海站起身,转向杨薪安和林毅,声音响起:“初步诊断完成,是智能辅助系统的问题。为了提高模拟测试的准确性,我们将数据的真实级别调整到了最高。这也导致了在辅助系统的认知中,这一系列测试都是真实发生的事情。”
“所以它可以无视驾驶员的意志,擅自逃跑了?”林毅插了一句。
“这个嘛…”关海沉吟了一下,解释道,“按照底层逻辑,原本应该是不可以的,但显然这个智能辅助系统为了保护驾驶员,设法绕过了我们的逻辑限制。此外,由于采用了语音指令和文字界面的交互方式,导致驾驶员对辅助系统施加的直接影响有限,这也让其更容易按自身逻辑去曲解驾驶员的意图。”说完,关海的脸转向了林毅。
由于在之前的开发讨论中,在人机交互方面,林毅强烈反对使用脑机接口方式。所以最终采用了语音指令加文字图形界面的模式。
“我仍然认为让人脑直接与AI连接,过于危险。语音指令更加稳妥。”林毅坚持自己的看法。
“今天的测试就到此为止吧。”
杨薪安的声音响起,介入了林毅与关海之间那无声的交锋。轮椅上的老人眼帘低垂。他停顿了片刻,似乎积蓄开口的气力,然后才继续道:“修正这个问题。一周后,进行实机演习。”
太急了。林毅心中立刻掠过这个念头。智能辅助系统刚刚暴露出重大隐患尚未厘清,就要仓促推进到实机演习阶段……
他的目光下意识地投向轮椅上的老人。杨薪安说完后,便重新阖上了眼,面容是掩饰不住的疲惫和病态,与几个月之前的反差极为明显。
所有的异议和风险评估涌到林毅嘴边,又被他咽了回去。这个精明的老人不可能不清楚这些,自己再重复一遍,也没有什么意义。最终,林毅只是抿紧了嘴唇,沉默地接受了这个安排。他用余光瞥向一旁的关海。这位技术部长用微微倾首的动作表示遵从。关海同样没有提出任何异议。
米雷担忧地看了看外公,又望了望林毅,终究没说什么,只是默默地推动轮椅。在一众武装护卫的簇拥下,一行人离开了工房,身影缓缓消失在门外的昏暗中。杨薪安离开后,技术部的众人也开始拆卸自家的设备和线路。林毅则让来帮忙的几个手下各自回去休息。随后,他静静地看着技术部的人打包装车,而关海却似乎没打算和这些人一起离开。
直到技术部的车开走,关海才转过身,对着一脸疑惑的林毅说道:“林部长,关于最后的意外,你怎么看?”
林毅看着对方那张戴着面具的脸,面无表情的敷衍道:“我看此事必须尽快解决。”
“哦……我想问的是,林部长是不是已经知道了,那个智能辅助系统里到底被装进了什么?”关海偏过头,面具上那两个应该是眼睛的装置聚焦在林毅的脸上。
林毅想了想,觉得没有否认的必要,于是回了一句:“听杨老提过。”
关海似乎没有感到意外。继续说道:“我为这套系统设定的底层战术逻辑,在刚才模拟的那种绝对劣势局面下,堡垒核心最合理的行为模式,应该是接管并指挥所有武装单位进行防御作战,伺机打开突破口。然后掩护尽可能多的非战斗人员有序撤离。这才是最正确的抉择。”
关海摇头叹息后接着说道:“即使那段数据化的意识,绕过了逻辑限制,选择优先自保,它也应该是立刻集结能调动的一切武力,以自身为中心形成一支机动部队,集中力量在某一点进行突围。”
关海的目光似乎又转回了林毅身上,语气中也染上了一丝略带嘲讽的困惑:“可它做了什么?带着被保护目标独自逃跑?愚不可及!”