夏生:停手—
凯瑟琳:别说蠢话了
凯瑟琳将手臂丢掉。
凯瑟琳:……可你也是我的学生啊
凯瑟琳:不知道你是怎么想出来的……但想要拯救全员只能这样……
凯瑟琳本是不想把ATRI排除掉以绝后患的吧。
是因为她知道,要是ATRI伤害了别人,自己也会被排除掉。
所以让她远离学校。
ATRI:……
ATRI回到这边后,将被打得浑身破破烂烂的安田给拽了起来。
安田:求、求你快住手……
ATRI:就让你如愿以偿吧。不是想把我破坏掉吗?
安田:……可以吗?
ATRI:我可没有权限让你得到我的许可。我是机器人,你是人类
水菜萌:别啊小ATRI!小ATRI不是还想活下去吗?
ATRI:这不是想死或是想活下去。这是以最合理的判断而看,我应该立刻遭到废弃
水菜萌:但是……但是……我才不想这样啊。还想和小ATRI在一起
ATRI:无法理解。我无法回应你的需求
ATRI越过栏杆。而在那后面安田站了起来。
ATRI:来吧,推我下去
安田:……
夏生:快住手!
我晃晃悠悠地站了起来。
ATRI:……
夏生:你是拥有心的
ATRI:是错误。并不是心
夏生:不对,ATRI是有内心的。所以……
安田:闭嘴! 机器人怎么可能有心!
安田吼了起来。
夏生:为什么你会否定
安田:再废物我也是科学家。我可是那个在仿生人领域独树一帜的小西久作老师最后的弟子
夏生:那就代表你就懂仿生人的一切么
安田:我不知道未来如何。但这以前的一切我都知道
是指拥有巨大的知识量和庞大的数据吧。毕竟是出生在人类的科学技术顶峰的人。
而活跃在那个世代的科学家,不是死了就是隐退了。
夏生:那我问你。研究让仿生人拥有心的不正是你的师傅么?
安田:……
夏生:我想起来了啊,小西久作博士。虽然作为研究者来说是有点异端,但也是做出了巨大贡献的人
安田:老师是在进行使AI获得内心的研究。但是,在人生生涯中还是没能完成……因为这家伙的失控(原文中“人生生涯”处写的是“人生生源”)
夏生:AI没有心的原因是什么?看看ATRI,不会有人认为她没有心吧
安田:这是拟态。顶多只是从无数个方案中进行学习、进行疑似感情模拟出来的东西
夏生:人类不也都这样吗。通过成长来学习如何与周围建立联系。并非一切都是天生的
安田:没错,就是这样。但是,这里有个决定性的不同。就是“意识”
安田:AI没有意识。因为没有意识,所以不能自发地做出具有目的的行为。你懂我的意思吗?
夏生:也就是说必须有人类给他们下达指令吧
安田:正是这样。最初的目的,什么都行,扫除也好,搬东西也罢,甚至是发射导弹……
安田:只要给出了目的,就能以这个为出发点进行思考,从过去的积蓄中找到最合适的判断然后采取行动
安田:大多数情况下应该能比人做得更好吧。而要命令“做的笨拙点”的话,也会做得很笨拙
安田:但是,将扫除机器人放在外面、命令它“想怎么活怎么活”会如何?一步都不会动的
夏生:2020年代突然急速发展的AI技术,但为什么又入瓶颈了
夏生:自发地进行选择目的的意识—也就是让AI拥有“内心”的方法碰壁了
安田:……老师做过这方面的研究,本应抓到线索,花费一生来完成的
安田泪流满面,呜咽地说道。
安田:但是,到半途,研究路就被堵死了……明明能在科学史上留名的
夏生:你错了。小西久作博士的研究成功了
安田:……难道说,你还是想坚持说它有心吗?
夏生:ATRI能以自发性的意志,来无视机器人三原则,乃至人类的命令
安田:那只是程序错误。而证据则是同一系列中并没有出现这种问题
夏生:只有ATRI产生了。我不知道契机,同系列中很有可能存在相同的仿生人
安田:……一派胡言。要是能打破三原则,那为什么会要求我推她下去?
安田:为什么会不自己去死?
ATRI:……
夏生:这很简单。因为她还有留恋
夏生:ATRI在剩下的仅仅5天里,有想要做的事情。所以没法自己去死
夏生:是不想死
安田:你有什么根据……这只是你的一厢情愿吧
夏生:根据有根据。在这里面找到了
我将夹在外婆文件里的ATRI的日志递给他看。(原文中“外婆”写成了“祖母”)
安田:……日志么。久作老师执着于让仿生人手写的日志。为了更能接近人类……
安田平淡地看着ATRI的日志。
而在这期间,一直冷笑着。
安田:证据在哪里?不都只是记录了当天发生的事情而已么
夏生:最开始读这个的时候,我也这么想。你看看6月2日的记录
××/06/02
“我有话要说,在那个地方等着”。主人对我下了命令。虽然我按命令等在那里,但主人并没有出现。
原因是主人已经死了。死,对我们来说就是停止机能。没有主人的话,我们的存在就没有价值。
能推断出我是不被需要的存在。缺陷品。制作失败的产物。可以推测毁掉是最好事项。
安田:内容挺感伤的。可也只是我们拥有心才会这么认为
夏生:你是想说这和对东西或动物产生代入感一样吗
安田:没错
夏生:好好看看这里
安田:……?
安田:只是文字渗进去了……这怎么了?
夏生:是眼泪。感受到了主人的死,一边写着记录一边哭着的
安田:说什么蠢话……单纯只是水滴渗进去了而已吧
夏生:不光是这里。好好看看前面的书页
我在车上赶往这里的途中,读了日志。
在那里淡淡地机械性地记述着直到ATRI失去记忆为止所发生的事。
ATRI的经历比我想象中的还要艰辛得多。
但是,从字里行间根本读不出任何的感情,甚至还觉得有一丝冷酷。
直到我看到了那些星星点点的痕迹为止。
安田:这怎么可能! 仿生人是不会哭的!就算能做到模拟感情,但不会流泪!
这是常识。
要问为什么,那就是因为没有搭载这种机能。
夏生:ATRI
ATRI:……嗯
夏生:现在感觉到了什么?
ATRI:……什么都没有
夏生:没必要压制,有什么感情表现出来就好
ATRI:……我没有表达情感的心
夏生:谁都不知道自己的心在哪里。就算我也不知道、也没有证据证明,我的心到底在哪里
所以只能表现出来,靠自己的声音来—
夏生:没必要忍耐!不用装作机器人!
夏生:显现出来吧,表达出你的想法!!
ATRI:--------
ATRI的悲伤冲破了封印,决堤而出。
流下眼泪,脸蛋上哭成了一片花。
ATRI:呜啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊---------啊!!!
ATRI:呜呜……诶呜……呜呜呜呜……啊呜……!
仿佛呼应她的泪水一般,大雨倾盆而至。
ATRI抽噎着,仿佛要将这些年未曾流过的眼泪一口气流干。
ATRI:…………难以相信……我应该是,命令了。命令她别学人类…………
安田:是打破命令了吗……不对但是,到底为了什么……
夏生:理所当然。为了自己
ATRI:呜哇啊啊啊啊啊……呜、呜……呜呜……
ATRI流下的眼泪擦也擦不干。
作为家用仿生人而被出货,30年间经验过的难受的事情,悲伤的事情都给忍住了。
仿佛要流干距离机能停止还有5天的这一辈子的眼泪。
夏生:ATRI说是想了解何为“喜悦”。但是,在那之前她已经获得了一份感情。这就是“悲伤”
我向ATRI伸出手后,她便抽噎着抱进了我的怀里。
ATRI:哇啊啊啊啊啊啊啊啊啊!!!呜、呜……呜呜……诶呜…………!!!
我温柔地抚摸着ATRI的背,问道。
夏生:你主人的名字叫“八千草诗菜”对吧
ATRI:……………是的,没错。诗菜女士……对的,诗菜女士…………
ATRI:诗菜女士…………诗菜女士!!!!
是因为想起了主人的名字,导致所有记忆都复苏了吧。
ATRI持续呼喊那个名字—呼喊我母亲的名字。
××/××/××
苏醒。从购入者那里,收到了“我现在很忙,帮我照看孩子”的命令。
主人9岁,女性。发言为“来做朋友吧!”。推测是友好型态度。我回复“请多指教”。
××/××/××
照顾主人。“嗯~没名字不好叫啊”主人发言道。
卢莉
夏实 萝卜子 佐藤小姐 IronGirl
举了很多例子但难以决定。
我传达出了“萝卜子”是对机器人的蔑视这一信息。“哎~明明挺可爱的”,人类说道。
××/××/××
在与主人外出时,小鸟停在我的肩上。在听觉传感器旁边吵闹很麻烦。小鸟聚集了起来。
另一侧的肩膀也站了小鸟,头上也有。因为给工作带来了困扰,保留了将其逼走的判断,主人笑了。
“还真被喜欢着的呢。是把你当成同伴了吧肯定”
“它们是名为燕雀(Atri)的鸟哦。是为了过冬来到日本的呢。喔……你的名字就是ATRI啦。就这样决定了!”将ATRI这一称呼送给了我。从给予作为物品的我们机器人名字来看,可以推测为被人类所接纳。
而鸟的ATRI们,在我的肩膀和头上玩够了后,不知飞到哪去了。
××/××/××
作为购入者的主人母亲,因为工作很忙不做家务。我则作为其代替。
失败。
失败。失败。
因为提供了难吃的料理让主人的心情欠佳。
但是,给了点心后心情就转变好了。“就算失败了我也会原谅你的。因为我们,是朋友吧?”虽然失败了,但却得到了原谅。
××/××/××
“开心的时候就笑笑吧”主人如此要求道。但是,不知道怎么笑。主人想让我发笑。虽然我尽力笑了笑,但主人不开心。能推测和家务一样,不擅长笑。
××/××/××
主人在学校受伤回来了。脸上和手臂处有挺多淤青。不说原因。推测是在放学路上遭遇了什么。
××/××/××
去学校接主人。我不能进入学校。规则如此。在放学路处等待时,遇到主人带着学友出现了。
主人拿着其他4名学友的东西,被其他学友从后面又推又打。虽然主人笑着,但我判断此为攻击行为并警告了。
“请立即停止对主人的攻击”
“这家伙干啥啊”“是那家伙家的仿生人啊。听说好像是个连家务都不会的废物来着”。
我再度警告。
但主人却,如上强烈地说道,“别警告了,别管我了!”。
其间学友中的一人敲了我一下。我进行了警告。
“对机器人的暴力,是机器人保护法所禁止的。违反会成为处罚对象”。
但是,越是警告,他们就越变本加厉。被放倒,被踹,从上面踩踏。主人放着我自己回家了。
与人不同,我很结实。推测将我放在这里作为牵制是最好的判断。
那之后,我也回家了。
因为主人一脸担心,我就这样回答道。“没问题的。我可结实了”“别做多余的事!”
虽然不知为何让主人不开心了,但如果主人受到我所受到的攻击,会受伤。人类比我们脆弱,更容易被破坏。
我终于为主人派上了用场。
××/××/××
主人又负伤回到了家。因为放学路上没有发生什么,推测可能是在校内受到的攻击。因为我不能进入学校,自然也就无法代受。
该怎么办为好。
××/××/××
今天主人也带伤回来了。当我上去问的时候,主人把我推倒在地。对着倒在地上的我主人这样说道。
“怎么欺负你,都没事的吧?”“是的,没事的”主人以强烈的口吻说道
“是呢,你可没有会受伤的内心嘛”。“要是连开心懊悔生气什么的,都感受不到的话,你才不是我的朋友!”
我和主人不再是朋友了。
××/××/××
主人学会了攻击我。对我施加敲打以及攻击性的话语。推测应该是把在学校里受到的待遇对我进行发泄。
能帮上主人的忙这样也行。我很结实,不会受伤。
××/××/××
“连家务都做不了,这存在着没多大意义吧?”“废物,蠢货”,“快笑啊,光我一个人在笑多尴尬啊!”
等责问的话语一个接一个砸了上来。“要是我笑了,那主人会幸福吗?”
“会的”。
我笑了起来。“……什么啊这是,真恶心”。
能推测出我果然不怎么会笑。想要学习的机会。
××/××/××
回到家的主人关着门在房间里哭了出来。听说是被选为了文化祭中的戏剧的主人公。“这不是挺好的吗。恭喜主人”
“哪里好! 那群家伙想让我成为学校里的笑柄啊”。出演戏剧的只有主人一人。简单概述为,这是一个让主人出丑的陷阱。
“明明什么都不懂,别给我摆出一副同情的态度!”这样叫着向我扔东西。硬物砸上了脑袋。人类的话可能会受伤,但是我不会。(原文中双引号只写了第一个引号)
要是主人能像我一样结实就好了。
××/××/××
主人休学一周。母亲认为她在装病而叱骂主人,但推测这对主人来说是最好的防护手段。
××/××/××
自从不去学校以来,主人的心境变得和善起来。变得经常带着我出去散步了。
将我带到小小的悬崖边能看见大海的位置后,主人说道。
“这里可是我中意的地方”。主人唱起了歌来。我也模仿着唱了起来。(原文中“这里”写成了“这是”)
“这不是唱得挺好吗,来一起唱”主人教着我唱歌,一起唱了。主人开心地笑了。离上一次的笑容已过去35天。我们直到黄昏都唱着歌。
“我的朋友只有你一个”。
我重新成为了主人的朋友。
××/××/××
早上,班主任到家里来了。另一个人,在放学路上看到过的学友也在。班主任说道。
“都怪你不来,给班上的人添麻烦”旁边的学伴笑着说道,“我们不是朋友吗”。
于是二人拽着哭泣呼喊的主人走向学校。考虑到主人会有危险,我走向了学校。
但是,没法进去。
在外面等着的时候发生了骚动。
教学楼房顶上站着人。通过分析视觉情报,判断是主人。主人跨过栏杆,走向外侧。
危险。
危险。
危险。
前脚踏进校园后,身体就凝固住了。
因为将要违反规则,身体被锁住。强行运动会损坏机体。
不过,这样下去主人会很危险。
我是坏了也能修理的机器人,主人是拥有生命的人。
进入学校往楼顶走去。
在大群学校的对面,主人在那。正打算跳下去。掉下来死亡的可能性为97%。
“什么玩意儿,这算什么,你是蠢么”。将主人强行拽来学校的学伴这样说道。“给我适可而止,要给班里添多少麻烦才心安啊你!”
班主任说道。无法理解这发生了什么。
“我真会跳的!”
主人叫道。“敢跳就跳呗。明明没什么胆子”。其他人发出促使主人进行自伤行为的呼声。
一边拍着手,一边说着“快跳! 快跳! 快跳!”进行煽动。
聚集起来的人们也呼应着拍起手。
快跳!
快跳!
快跳!
这能看做是对主人的攻击行为。
这能看做是对主人的攻击行为。
这能看作是对主人的攻击行为。
判断是为了尝试杀害主人。
我走到了人群中间,将拍着手煽动他人的人抓住。
首先为了让她不再拍手将双臂斩掉。非常脆弱。
人类很容易破坏。因为其人接着咒骂,就骑在她的身上继续攻击。手臂之后得将嘴巴也破坏掉。
不过,不管怎么击打脸部还是会想说点什么。
“救救我,是我错了,不会再欺负她了”。不过因为这人的嘴具有攻击性,判断应该破坏掉。用拳头击打牙齿折断血喷了出来。
但是还在说话。需要破坏掉。
破坏。
破坏。
破坏。
要保护主人。
要保护主人。
要保护主人。
突然身体无法动弹。
全身充斥着电流信号,随着强烈的疼痛感关节也被锁住了。尽力抬起眼珠,发现主人正在看着我。一脸铁青地,露出了害怕的神色。
“我可没拜托过你这样做……”。判断可能是主人使用了紧急停止信号。我无法反抗,停止了运动。
数小时之后,制造商将我进行回收。
主人对被带走的我这样说道。
“……你这个怪物”
××/××/××
被制造商回收掉的我,在被调查之后,将会被废弃。在我被调查的时候,同型号的仿生人也被回收。
她们虽然未被判定出错,但还是会被废弃掉。因为无法利用可能存在错误的部件进行再利用,她们被统一使用液压机效率地破坏掉了。
和我相同模样的机器人们,变成了废品。
我只是看着。
××/××/××
为什么会这样。我到底是什么。
我解开拘束,向外面走去。
××/××/××
寻找主人。因为连接网络会使我的现在位置被暴露给制造商,于是将这些机能给强行停止掉了。
不知道怎么寻找主人。
因为被人类发现会被再次回收,需要隐藏起来行动。
找不到主人。
××/××/××
避开被发现的风险,在山里走着。
××/××/××
发现了记忆中所有的景色。顺着和主人散步的道路向家走。
在家的是主人的母亲。
“你啊,是逃到这里的吗”
“来这里干什么呀”“她已经不在了。结婚后离开了家”。“……喂,你要去哪里!”
我再次彷徨了。
××/××/××
找到了主人。虽然外表变了,但人类是随着成长会改变的生物。我在她看不见的地方注视着她。主人抱着的小小的人类到底是什么。
和以前的主人稍微有点像。
××/××/××
主人面带笑容,平静地进行着生活。在和那个小小的人类一起的时候更甚。
小小的人类经常哭泣。主人并没有察觉到我在旁边这件事。
要是被发现了说不定会造成麻烦,我选择藏身于主人身边。
××/××/××
那个小小的人类,爬着走出了院子。主人并没有察觉。小小的人类的前进方向处有道路。
车辆正在行驶。这样下去恐怕会相接触。判断比起自己隐蔽,保护小小的人类更为优先。
虽然我与车辆相接触,但可算是保护好了小小的人类。
把小小的人类托付给从车辆下来的人类后,我重新躲回阴影中。察觉到骚动的主人来取回了小小的人类。在向驾驶员问清情况之后,像是在找着谁似的左右看了看。
因为并没有见到我的身影,推测并没有察觉到我的存在。
××/××/××
小小的人类变得更大了。开始上学了。为了不出现主人的情况,开始守望着上下学。
××/××/××
主人和小小的人类开着车,向着某地出去了。推断可能往母亲处去。我也跟着去。
××/05/24
本应先到的主人的车还没有到。折返回去。
隧道坍塌事故发生。
为了救人进入了里面。确认到大部分人类已经失去生命体征。主人还活着。但是已经危在旦夕。虽然尝试去说什么,但大部分发言内容矛盾,无法理解。推测可能处于混乱状态。
留下命令之后,主人死亡。
因为附近仍存有保留着呼吸的人所以进行了救助。