您当前位置:首页  >  穿越重生

魔法与科学的最终兵器

时间:2023-05-24  来源:  作者:千年帝国海军上校
让它停止作战更不可能。
当这两个矛盾摆在人工智能面前时,它只能以自己的方式来解决。
“请贵官配合回收作业,若不配合,本机将立即消灭该敌对个体,并且对周遭发动无差别攻击,直至除贵官外的所有生命反应停止。”
换言之,就是用人质胁迫。
不光是两个女孩,甚至还包括整个新奥尔良的全部市民——以数十万生命为筹码,胁迫马赛回归“搭乘员的本职工作”。
简单,粗暴,还有一点笨拙,但以战斗用的人工智能来讲,这是其所能设想出来的最佳方案了。
通过比对作战记录和对马赛的行为进行分析,“沙拉曼达ii”判断两个女孩对马赛具有重要意义,如果一定要消灭她们,它将不得不承受失去马赛的风险,这会对它实现最终目标造成严重、甚至是无可挽回的影响。
相对的,暂时移后作战行动的顺位,优先确保搭乘员的回收工作并不影响最终目标的实现,某种程度上还能促进这一目标的实现。
该选那边,一目了然。
面对“沙拉曼达ii”摆在面前的难题,马赛拼尽全力才没露出被打个措手不及的表情。
利用别人的性命来要挟谈判对手,根据现场情况和基本原则重新排列事项的优先顺位——这已经超出了普通人工智能所能达到的极限。
只会执行指令的机器不具备判断能力,更不要说自行解释指令,调整事项的优先顺序,不拘泥于眼前的指令,以更长远的眼光和利害得失计算来判断状况。至于和人类进行沟通与谈判,设定对方无法拒绝的要求,在谈判中掌握主导权更是完全无法想象之事。
简直……就和人类一样。
在这一刻,马赛感受到的是连灵魂都为之颤抖的恶寒。那种剧烈的冲击几乎可以与皇帝交谈时相匹敌。
那是对“未知”的恐惧,也是对“非人之物”的畏惧。
“贵官有五分钟思考时间,五分钟后本机将根据贵官的回答采取行动。”
不知是否察觉到了马赛的动摇,抑或察觉到了也不在乎,钢铁之蜂冷冷说到:
“期待贵官做出明智的判断。”
“……”
“有什么好判断的,反正到最后,你丫的依然会杀掉一切吧。”
拨开马赛和感应单元,“夜莺”挡在对峙的两者之间。
“对你们这些以指令为最优先的铁皮混蛋来讲,压根就没‘遵守约定’这种概念,就算遵守了也只是为了回收搭乘员,方便下次回来再把所有人杀光。说到底,不过是把处刑名单调整一下顺序,‘杀掉所有目标’这个结果不会有丝毫动摇。”
“然也,阁下的发言符合事实。”
红色光芒睥睨着女孩,电子音说到:
“然而决定包括阁下在内的几十万人生死的,是马赛搭乘员的回答,若他回答错误,阁下现在就会死这一点是不会改变的事实。”
自律型战斗机器没有“寿命”这一概念,也不会纠结过程中的某些行为是否符合伦理道德,它们只有执行指令,只有符合命令的结果。
进化至最强;
调整消灭名单上的顺位;
两件事并不矛盾,前者是目的,后者是手段,仅此而已。
所以“沙拉曼达ii”能毫不犹豫地以几十万人来要挟马赛,一旦马赛拒绝,它也一定会立即动手将新奥尔良化为人间炼狱。
“剩余时间三分十七秒,贵官的发言将决定几十万人的生死,若是在乎——”
“等一下。”
“贵官已经做出决断?”
“不。我只是想知道。”
马赛歪着脖子,满脸的懵懂,俨然一副不谙世事的样子。
“为什么你杀死人质,会是我的错呢?”





魔法与科学的最终兵器 9.到那遥远的天边(十二)
世界上最沉重也最难厘清的,莫过于责任问题。
责任的划分、形式、承担对象等等就已经足够复杂,如果加上个人、部门、国家之间的利益,只会变成一团乱麻。
涉及到上万人生死的责任问题更是如此。
——都是因为你的过错,才导致这些无辜者丧生!
——如果不是你,这些人根本不用死!
——你要怎么赔偿死者家属?怎么抚平他们的痛苦!
如此义正言辞的指责面前,任何个人除了以死谢罪,没有其它任何能承担责任的方式方法。
是故,每个人都会尽力避免遇上这种事情,尽力避免承担责任。
——那些人的死,和我有什么关系呢?
这种撇清关系的话语正是最常见的免罪符。
没有关系,没有责任——最恶劣的诡辩台词,听了就让人火大。
“你丫的说什么呢?!”
面对死亡也不皱一下眉头的“夜莺”转身揪住马赛的衣领,头盔之下的面孔狰狞扭曲。
“那可是几十万人啊!!就算用不着向这个铁皮混蛋低头,你也绝不能说这种不配当人的鬼话!!”
“马赛搭乘员,提醒贵官,贵官的发言不符合逻辑,且无助于改变当前的状况。若贵官的发言是想要这种形式表达‘拒绝’,那么本机现在就对此回答做出回应。”
“不不,你们冷静一下啦。”
同时被女孩和机器吐槽,马赛急忙摇了摇头,然后一脸认真的说到:
“我很清楚现状,如果我回答‘拒绝’,‘沙拉曼达ii’一定会把所有人杀光没错吧?”
“肯定。”
“动手杀人的是‘沙拉曼达ii’吧?”
“肯定。”
“我并没有动手杀死任何一人,对吧。”
“肯定。”
“这就是问题了。”
少年伸出手,所有的感应单元一起将尖端朝向钢铁之蜂。
“自行重启后决定发动攻击的是你,将‘知更鸟’、‘夜莺’、这个基地、新奥尔良所有人当成人质的是你,决定要不要杀他们的也是你,最后动手杀人的也是你。所有的决定,所有的行为,全都是你做出的。这一点为什么会变成我的错呢?”
“……”
霎时间,所有的话语消失了,人们和机器都陷入了难以维持思考的空白之中。
如果是诡辩,人们还能用怒火和痛骂回敬过去,机器则会当场杀掉几个人来增加对马赛的压力。
可这是正论。
极度正当、正确,连“都是你乱说话害死别人”、“你没直接杀人,却是间接杀人凶手”这种反驳都显得苍白的正确结论。
杀不杀死人质本来就是恐怖分子或杀人机器的决定,谈判与否,接受条件与否,本来就与此无关。
血红色灯光一阵闪烁,“沙拉曼达ii”问到:
“马赛搭乘员。贵官对人质可能出现伤亡一事没有任何感觉吗?”
“怎么可能。”
除了罪犯和杀人狂,没有人能平静面对眼前出现的死亡,更何况是几十万人在自己眼前被杀。
“我已经不想看见有人被杀了,更不要说对眼前的死亡没有任何感觉,像看戏一样看着别人被你杀掉。”
当个看客或许很轻松,只要高举“我对此无能为力”的免罪符就能心安理得的躲在安全地方,看着和自己毫无关系的人被杀掉。可反过来,“明知有人作恶,却连最起码的力所能及之事也不愿去做”——这种事不关己的冷漠,同样也是“恶”。
“那么贵官不会认为‘如果自己斡旋交涉得更好一些,或许人质就不用死了’?因为贵官自己的无能和无力导致几十万人丧生的大惨事发生,这不正是与贵官发生了联系吗?”
“情况演变成如此的话,我确实认为‘这是我的错’。可是啊,那是我的错误,我的责任,懊悔也好,羞耻也好,痛哭流涕也好,自杀谢罪也好,那都是我对我自己的心情,和你没有任何关系。”
“就算共和国因此灭亡也是一样?”
“‘从抵抗组织那里接手帝国制造的战争机器,结果反受其害’——共和国或许会因此陷入危机,成为他国的笑柄,被帝国声讨和索要赔偿。但是,这是国家与国家之间的事情,没有你我插嘴的余地。”
国家的责任;
个人的责任;
对自己的责任;
对他人的责任;
在马赛的心中,责任与责任之间有着明确的归属界线。
“因为自己的行为招来灾祸和危机,承受外国的责难,这是共和国的责任。杀害人质,破坏城市,杀死他人的父母妻儿,量产寡妇孤儿……vx-3001,那是身为杀人凶手的你,应当承担的责任。”
“本机是在执行最优先事项指令,如果贵官能……”
“‘因为是长官下的命令,所以杀人的是长官,而不是执行命令者’——要是能那么容易接受,这世上应该没有痛苦的人了吧。”
在战争中失去家人的遗属也好,罹患战场综合征的士兵也好,没有一个人因为这样一句话就不再痛苦。
那不是讲道理就可以接受的事情。不可能像机器接到指令切换状态一样,没有任何留恋、迷茫的将一切当成从未发生过。
“反过来你又如何?vx-3001,你觉得你做了这件事后,帝国会如何呢?那些人会只恨你吗?恨你这件工具,而不是打造你,赋予你判断能力和执行力的帝国吗?”
“贵官的发言——”
“不准绕开!回答我!你认为你的行为不会让人们将矛头对准帝国吗?你认为这不会让帝国成为众矢之的吗?你认为你这么蛮干,破坏了帝国的战略布局后,不会成为‘帝国之敌’吗?!!”
近乎咆哮的正直声音让“夜莺”揪住衣领的手松开,不知不觉间退后一步的女孩怔怔的看看男孩,又看看默然不语的钢铁之蜂。
处于同一高度,视线针锋相对的人类与机器,仿佛镜子互相倒映的景象。
同样拘泥于某些事情,同样过于要求自己必须走在正确的道路上,就算为此遍体鳞伤,变得不再是自己也在所不惜。
这样的马赛和“沙拉曼达ii”确实是犹如半身般的镜像。
这样的马赛也让她感到陌生……和恐惧。
集中全部精神与“沙拉曼达ii”对峙的马赛看不到“夜莺”的变化,就算看到了、知道了女孩此刻眼中的自己是一副什么模样,他也只能苦笑。
他从来不是什么偏执的人,也从不认为自己是个正人君子,更不要说想要成为伟人。
他只是觉得这样的“沙拉曼达ii”很可怕,也很可怜。
作为战争机器,服从命令,遵循逻辑程序行动是它的本能,当出厂时被注入“成为最强”的指令时,它的一生就定格了。
这让马赛不由得想到自己,还有千千万万的帝国公民。
从出生开始就根据种族、健康情况、学习能力、对帝国的贡献度等等参数来决定人生路线,对自己的处境,对自己被赋予的人生跟环境丝毫不会质疑,将不公平视为理所当然,忠实执行命令的帝国公民,和从流水线上走下来,服从权限拥有者指令的战争机器,到底哪里有不同呢?
或许是这种高度同质性,加上曾经深度同步的关系,让马赛能够更深刻的理解和掌握“沙拉曼达ii”面临的困局,指出它所要面对的矛盾。
一旦新奥尔良被付之一炬,共和国固然要承受损失和责难,同样的,帝国也要承担起责任。
设计、制造“沙拉曼达ii”的是帝国,下达指令的也是帝国,那么共和国遗属的憎恨,整个共和国的愤怒都将指向帝国。
不要认为帝国可以不在乎这些,共和国政府和民众确实拿帝国没什么办法,但被情感冲昏头脑的人很可能会做出一些不理性的、损人不利己的事情。
比方说——退出国际军备控制谈判。
做了那么多事前工作的帝国绝不会乐见发生这种情况。
到那时,如马赛所言,“沙拉曼达ii”就成了按照它的逻辑程序必须消灭的“帝国之敌”。
如果是普通的“军团”,就算被指出这样的矛盾,他们也会优先服从指令,继续蛮干下去,干完之后再自爆。
“沙拉曼达ii”的人工智能远比旧型号来的优秀,优秀到足以理解状况,并因此陷入进退维谷的困境,甚至还能想着做最后挣扎。
“贵官的发言固然正确,但几十万人因此殒命的结果并不会改变,贵官面临抉择这一状态也不会改变。”
一瞬间,马赛的脸上浮现出胜利的笑容,“终于逮到你了”的意味跃然脸上。
“然也。”
刻意回避对手提出的问题,试图将局面倒退至开始阶段,用恐吓来迫使对手屈服。这正是“沙拉曼达ii”黔驴技穷的表现。在所有底牌和筹码都摊在谈判桌上的此刻,恐吓是它仅存的最后一招。
就连这个,马赛也准备好了应对之道。
“你没有权力夺取他人的性命,可此时此刻,杀与不杀掌握在你的手中。由你决定,由你实施,一切都是你的自由。我已经明确告诉你,帝国会因此陷入巨大的麻烦之中,你会因此成为‘帝国之敌’。另外多说一句,就算你成功袭击了新奥尔良,共和国国民们也会怀着骄傲往生。对崇尚自由,痛恨帝国的自由之民来说,早有为共和国献身的觉悟。比起在你的无差别攻击下哀嚎呻吟,哭泣求饶,来帮助你成就打击共和国。应该都会选择带着骄傲死去吧。”
“……暴君。”
通过紧急开通的专线收听谈判全过程的密涅瓦按住额头长叹一声。
尽管明知道这是唯一正确的处置办法,也知道马赛是在诡辩,但面对能没有任何犹豫的说出口,并且仿佛从心底相信这些话的马赛,密涅瓦除了“暴君”一词,真的找不到其它词语来形容了。
能对挟持人质的恐怖分子说出“所有人质都已经做好献身准备了,你想杀就杀,不杀就放人”,顺带还给全体人质送上一顶“崇高献身”的高帽,让人质被杀也不能有任何怨言……
能持有这种比邪恶更恶质的善良的,除了天真无邪的幼儿,也就只剩打从心里相信理想论且不承认各人条件偏差的暴君了。
换做是她,面对如此暴力的正论,也唯有在缴械投降和战死之间做选择而已。视野和选择比人类更狭隘的“沙拉曼达ii”更不必多说,从它接受马赛的交涉开始,它就已经失败了。
呼应着密涅瓦的断言,钢铁之蜂万般不情愿似地左右摇晃了一阵后,收回流体金属,轻轻落在地面。




魔法与科学的最终兵器 9.到那遥远的天边(十三)
“事情圆满结束……我很想这么说,可完全不是那么回事啊。”
密涅瓦的视线从文件上移开,用力积压鼻梁中间,重新睁开眼望向马赛时,勉强压着叹息的苦笑又挂在了脸上。
“那个……很抱歉,当时——”
“不,问题并不在马赛你身上。说到底这是检验和实际操作环节的疏失,如果在接收机体之前能更加彻底仔细的检查一遍,在进行模拟测试之前能更慎重的考虑可能突发的问题,并制定对应预案,事情或许无法避免,起码损失能进一步降低。能以这种形式收场已经是不幸中的万幸,全都是马赛你的功劳。”
这倒不是有意贬低技术部门,借此刻意抬高马赛,而是实情就是如此。
整件事情过程中,其它环节都没问题,唯独在事前检查和安保、对应环节发生了一系列问题,最终导致了实验基地濒临瘫痪,人员和财产遭受重大损失的重大事件。正如密涅瓦说的,只要其中一个环节没有出漏洞,做到彻底认真严谨,即便无法防止事件发生,起码可以降低损失。仅凭这一点,技术研发部门就难逃管理疏失之嫌。
考虑到如果没有马赛那场惊心动魄的交涉,受灾范围可能扩大至整个首都,届时各军政部门的责难,社会舆论的声讨足以让整个技术研发部门从上至下经历一次大换血。如今虽未达到那种地步,事后的处理也足以让技术研发部门的气象焕然一新,原先那种迟暮之气在一段时间内应该是看不到了。
这些是部门之间的问题,一切都会照相关规章流程走,虽然难堪,但也不是不能解决。
真正叫密涅瓦头疼的,是对马赛的处理。
照理说,作为解决整个事件的最大功臣,马赛应该得到嘉奖和表彰,应该成为媒体追捧的焦点,无数爱国者向往的榜样。
不是么?脱离帝国的暴政,历经千难万险抵共和国,为了向祖国展示忠诚,为了宣扬民.主.共.和.制的崇高理念和博爱,在成年人手足无措时,勇敢挺身而出的少年英雄……
还有比这更廉价、更容易吸引关注的素材么?只要稍微包装一下,将马赛的人生经历经过一番文字处理后,一曲无可挑剔的、崇高又悲情的、哀婉且美丽的、听者伤心闻者落泪的颂歌就完成了。接下来只要对这个少年投注以同情,对帝国感到愤怒,共和国公民们就能轻易品尝到正义和优越的滋味,沉醉其中。
一般来讲,情况是会朝这种方向发展。即便密涅瓦出手干预,那些无孔不入的狗仔队最终也能从只言片语中拼凑出大概情况,然后发散成一篇励志小说。可这次却没有演变成这样。
不光是政府和军方,连媒体也少见的选择了沉默。
“毕竟是太过劲爆的交涉,一般市民看到会受不了的。”
在密涅瓦促狭的表情面前,这一次轮到马赛苦笑了。
“从客观角度和最终结果来看,你当时的处置都是正确且唯一的办法。就连警察和军方的高层也认为这场交涉谈判是足以收入反劫持教材的经典范例。只是……一般市民可能没办法接受你的发言。”
不是可能,而是根本没人能接受。
面对“为了尊严,人质已经做好送死准备”的发言,恐怕没几个人还能保持平静,或许狂热的爱国者会对此加以称赞,甚至在大义与面子面前,许多普通人也不会明确表示反对。可会支持这一让人联想起旧王国时代要民众参军赴死的发言的,真的很少,很少。
如果媒体把事情经过捅出去,必然会引发一场舆论风暴,这场涉及伦理道德矛盾冲突的争论会持续很长时间,甚至会引发对共和国建国理念的疑问。对共和国政府、民众、马赛自身来讲,这都是一桩天大的麻烦。
可从国家和军警部门的角度来看,马赛的处置毫无问题。绝不与恐怖分子谈判——这是放眼四海皆准的道理。只要得逞一次,食髓知味的恐怖组织就会不断重复类似的事情,届时国家就算没有崩溃,政府失去威信和威慑力也会造成严重的内政、外交问题,对国家和人民安全造成严重危害。
所以就算恐怖分子挟持了人质,各国官方唯一的交涉方式也就是打爆恐怖分子的脑袋,让他们去另一个世界实践自己的理想。这方面做得最极端的是帝国,为了不让恐怖分子有机会提出条件,他们会先杀掉人质,然后除了能榨出情报的一两个“幸运儿(或许称他们为‘倒霉蛋’更准确)”之外,剩余恐怖分子全部射杀,侥幸活下来的家伙将在审讯室里接受最新刑具和自白剂的测试后,经历一场羞辱式的审判,最终会被挂在钢琴弦制成的绞索下,死得缓慢而痛苦。
也正因为这种妇孺皆知的“帝国式交涉”,很少有恐怖分子敢在帝国挟持人质,纵然敢于实施,事前的计划也都是以人质和己方人员全灭为前提制定的。
马赛的交涉没有帝国那么残暴,但本质没有任何分别,就连采用这种交涉的思想源头都一模一样。
为了达成最佳结果,首先排除掉恐怖分子或杀人机器手中最有利的武器——人质,以“要谈判妥协绝不可能,人质你想杀就杀,不杀就放人”的语言直接否定人质的价值,强逼对方进入自己的节奏当中。
这的确是正确又高效的处置方式,标准的帝国式思维。
原以为三人之中,马赛最接近广义上的普通人,但从这次事件中其暴露出来的能力和思维方式来看,说不定他才是三个人之中最棘手的。
从事情报工作的“知更鸟”,长期在一线战斗的“夜莺”,在面对千钧一发的危机时都没能想出解决之道,最终成功化解危机的反而是马赛。某种程度上这等于是在宣布帝国式教育的成功,这会让共和国感到颜面无光。退一步讲,就算没人拿这个说事,马赛这种已经定型的思维模式也让密涅瓦感到担忧。
现在或许还看不出来,但随着逐渐成长,踏入社会,这种冷酷的功利主义思想会不会变得更强更明显,到那时即便马赛拥有共和国公民身份,但他在精神层面是一个不折不扣的帝国四等公民——拥有帝国式的思维、价值观,行为模式与帝国公民几乎一样。这对他今后的人生绝不是一件好事。
更不要说——
“眼下你暂时只能呆在实验基地。”
“啊……是。”
“之前报考军校的预定只能暂时取消,至于理由和相关文件,这边会帮你办妥的。”
“给您添麻烦了,真是抱歉。”
“没关系,那不是你的错。再怎么说——”
密涅瓦将苦笑的表情转向身侧的落地窗,那里原本应该呈现夏日园林的美丽风景,如今却被一只巨大的“蜂”占据了,钢铁之蜂的血红眼睛几乎就要贴上玻璃,银色流体之刃搔刮着玻璃,发出让人头皮发麻的“叽叽”声。
“有这么可怕的钢铁女友跟在身边,对你自己和对他人都是一种负担吧……”
“否定。阁下的发言并不符合事实,为确保马赛搭乘员的人生安全和身体状况,本机的贴身监护是必要的。”
1...579580581582583...668
猜你喜欢