永不下车

    城门失火，因灭火而取水，最终导致鱼的死亡，人至少还看得到这一点。

    然而人类开路劈山，挖矿掏洞时，会有这样的思想觉悟，觉得自己的所作所为，正在颠覆、灭绝矿物分子的大千世界吗。

    当然不，在自以为是的人眼里，矿物，岩石，根本就是没有思想的“物”；

    那么在计算机眼里，人，很可能也是一样的“物”。

    这，才是某意味深长之句的真正意味

    毁灭你，与你何干。

    梦中醒来，耳边是闹钟乐声，黑暗中的男人抬手抹一把额头，冷汗涔涔。

    起床，洗漱，坐下来食用“高级肥皂”，准备投入新一天的忙碌，吃早饭时的片刻闲暇，方然还是忍不住想起那一切。

    事态，比自己之前所想，还要更严重。

    事关计算机，人工智能，乃至计算机ai的自我意识，原本他一直以为，只要不主动研发“具有自我意识”的人工智能，计算机系统对人而言就是安全的，永远只能作为一种工具、而不会成为一种威胁。

    但现在，不经意间的深邃思考，却让方然窥见了其中的莫大危机。

    当能力发展到一定程度，或许是出于“创造性研究”之目的，或许是出于其他动机，计算机的算力、能力突破了上限，继而达到能完全取代人的程度，不管这系统一开始的目标有没有包含自我意识，那样的计算机，其行为都将彻底失控。

    那时的计算机，庞大体系内的算法，究竟是在进行一些什么样的运作，恐怕是人类绝对无法洞悉的深奥。

    继而，对那样的存在，一切人类已有的概念与手段，都未必会起作用。

    借用教义的词汇，在自己一手创造出的神祇面前，人的手段，又怎可能还会有任何的用处。

    只因到那时，那样的计算机系统，将会是盖亚表面的一种前所未有之存在，是生命演化链条被人为截断之后，藉由完全不同之另一条路线而诞生的，更高等、更先进、更强大的新物种，演化天梯上比人更高一阶的存在。

    面对那存在，人类对抗计算机，恰如猴对抗人类，又哪会有一丝一毫的胜算。

    危险，莫大的危险，潜藏在计算机的发展脉络之中。

    并非第一次接触这样的断言，此时此刻，置身于天堂镇的地下世界，恒温恒湿的房间里，方然却有点浑身发冷，很不舒服。

    他头一次意识到，若干年前流传于联邦、乃至世界的那些警示，确有意义。

    虽然在自己看来，危机的实质，与发出警讯的诸多名人所言并不尽一致，但指向的最终结局却大同小异

    人类的灭亡。

    警讯，关于计算机、ai的警讯，曾在人类世界广为流传，也引发过巨大争议。

    包括联邦it巨头icroft总裁比尔盖茨在内，许多业界精英人物都曾在不同场合表达过对人工智能的忧虑，提醒世人要谨慎面对人工智能。

    这些警讯，自然引发了业界热议，甚至在全世界范围内引起了一系列经久不衰的讨论。

    但这一切警示与热议，在方然看来，却太肤浅，并未触及问题的实质。

    围绕人工智能的“自我意识”，危机感，是很容易产生，而正如他此前的一段思考那样，真正的威胁并不是所谓“自我意识”，而是当计算机算力、能力强大到一定程度，承担的任务越来越复杂、越来越需要创造性的时候，就必然会出现。

    只要追寻能力越来越强大的计算机系统，这一威胁，迟早都会在盖亚降临。

    而与人类是否警惕，是否开发“有自我意识的ai”毫无关系。

    这一认识，是如此的深刻，在西历1489年的这一个早晨，方然顿悟到了关键。

    要防备计算机、ai，仅仅是拒绝研发“计算机的自我意识”还不够，或者说，这做法并未抓住问题的关键。

    避免危机的关键，在于“适度”，在于永远不要企图用计算机去取代人的一切。

    一旦迈过红线，尝试让计算机完全替代人，替代人去从事创造性的科学研究，事态就将失去控制，这绝不只是说说而已，而是在计算机能力突破阈值、彻底失控后，必然会发生的空前绝后之浩劫。

    诚如自己之前所想到的，那种危机中，计算机的角色并非屠夫，或者恶魔。

    而是创造性思维的无限延拓，迟早会让“计算机ai”的存在，变成某种人类根本无法掌控、甚至无法理解的东西，继而在其或许并非恶意的行为中深受其害。

    就像孵化的寄生蜂幼虫，吞噬寄主，其无非是按基因编码行动，却会导致寄主的灭顶之灾。

    景象令人不寒而栗，匆匆吃过早饭，在房间里踱步休息，方然强迫自己不要再思考这一问题，而将其推延到遥远的未来。

    否则，稍加思考，他就难免会头痛万分。

    办法似乎是有的

    要避免计算机失控、成为新的神祇，就不要开展“计算机科研”的研究。

    可这样一来，对“那个人”而言，情形就会变得极其恶劣，需要单枪匹马、充其量以计算机为工具，独力面对客观世界，去尝试推动人类科学技术的进步。

    一个人研究科学，推动进步，这样做的难度会有多高呢，简直就是不切实际。

    但由于计算机失控的风险，这，却是“那个人”唯一可行的策略。

    科学技术的发展，因人类消亡而无以为继，这是一个很棘手的问题，但，问题还不止于此。

    倘若不进行“计算机从事创造性科学研究”的探索，毋庸讳言，也就断绝了“用计算机模拟人类意识”的可能。

    无法在科研领域替代人的ai，是不可能与人脑相提并论，进而，也就无法研发出这样的计算机系统，其能够承载人的意识。

    换言之，一旦顾虑失控风险、拒绝让计算机成神，也就断绝了“计算机中永生”的路。




第三九〇章 胜负
    永不下车，征途何其漫长，由计算机承载人类意识的一条路却就此断绝。

    所思所想，并无百分之百的把握，前景，却令方然战栗，让他意识到自己和千千万万it从业者走出的，是一条怎样艰难而凶险的路。

    放眼望去，“那个人”诞生的世界，孑然一身的盖亚之掌控者，单凭一己之力推动科学技术的进步，进而获得对抗死神的手段，希望何其渺茫，而借助计算机的强大力量，甚至使其具备科学研究、探索的能力，却又蕴含着巨大的风险。

    进退两难，没有一种可行的策略去推进科学技术，这，让方然想起了自己与理查德费曼教授的那次谈话。

    当科学技术被锁死，发展迟缓、直到停滞，死神便迟早有一天会来敲门。

    几十年的艰苦跋涉，在文明消亡的滔天巨浪中殊死拼搏，直到掌控盖亚的全部，这一切，倘若仍旧无法改变命运，无法抗争死亡的宿命，但只在盖亚苟延残喘，对这样活着的“那个人”来讲，死亡，会在几十年，几十万年，还是几十亿年、几万亿年后到来，又有什么本质的区别呢。

    一个人，脱离人类文明的孑遗，哪怕活得再久，当真能扛起科学的旗帜，永远向前吗。

    方然并没有这样的信心，相反，他现在觉得很恐慌。

    但，恐慌也没有用，自从踏上这一条追寻永生的路，便再也不能回头。

    对未来忧心忡忡，工作，暗中铺垫篡夺控制权的一切，便成为了方然缓解焦虑的手段，和唯一的精神依靠。

    躲在天堂镇一百五十米的地下，每天，都在控制室待上十小时左右，他勉强压制对计算机系统的莫名恐慌万幸还不严重，继续完善新ai，一边利用“看门狗”系统搜集北大区各节点的运行情况，以便审时度势。

    在ter两分化的今天，联邦的网络环境、信息渠道，都不如以往那样通畅。

    倘若还懵然不知、埋头工作，或许哪一天核弹临空，在爆炸冲击波来袭之前，自己都未必会知道。

    远方的战火，消息，是零碎而真假难辨的，通过asa进行初步筛选、分析，方然才隐约得知，就在西历1489年的头两、三个月，联邦支持之下的尤洛浦联军，就越过传统边境线近两千公里，前锋已迫近了沙罗首府os。

    理联解体后，经历了“失去的四十年”，今天的沙罗实力早不复以往，溃退并不意外。

    前线进展神速，中大陆的地面战争快要分出胜负，在方然眼里，这是一个十分关键的信号，再结合太平洋上的形势，征兆就更明显。

    西历1489年，第三次盖亚大战，已经快要在两线分出胜负。

    与前两次盖亚大战相比，现代化的武器，与随之而产生的全新战争节奏，让一场席卷盖亚的战争进程大大加快，双方宣战还不到一年，损失巨大、实力却仍然雄厚的联邦，就在大洋上击溃了束棒斧列强的海空主力。

    一旦进入战时体制，联邦，当世最强大的超级大国之一，战争潜力便迅速爆发。

    进入大战的第三个年头，联邦的aos、乃至全国的生产部门已完成深度调整，作战平台的产能爬坡至历史最高点，东、西两海岸线的船厂，以每周一艘重型航空母舰的速度在大造战舰，航空工业的无人战机产量则超过了每周一千架。

    规模庞大的联邦战争机器，在大战爆发后，屡次激战而遭遇沉重损失，但在大后方源源不断的平台与物资补给下，总编制仍膨胀到两千万之众。

    自然，这里的两千万编制，活人所占的比重还不到千分之一，9996都是机器。

    从无人战斗机到武装机器人，凭借过去若干年来的积累，完成度接近75的aos体系逐渐发挥出强大实力，从资源采掘到战场指挥的若干环节都从中受益，短短两、三年时间里，按nesis估算，联邦武装力量的战力就提升了三倍多。

    进一步估算，如果将战略核武器排除在外，联邦与西大陆列强的战力之比已达27:1。

    实力对比之悬殊，用不着ai，但凡对现代战争形势有所认识的人，也能看得出联邦一方已稳操胜券。

    战争之胜负，在今天这一个时代，已几乎无关于人口，道义，勇气与正义。

    而是彼此死斗的双方，谁的生产体系更坚韧、更庞大，谁手中的科技更高一筹，谁牢牢把持的资源更丰厚。

    科技与资源，两者叠加在一起，就能产生出源源不断的生产资料与动力能源，继而，获得强大的算力，最终将所有这一切整合成战争机器，组织起一支悍不畏死、不辞辛劳、绝对忠诚而永远警惕的机器大军。

    在这样一个时代，战争的结局，早在爆发前就已注定。

    正是对这一点了如指掌，联邦与尤洛浦，才会放任西大陆与中大陆的对手，一步步走向必然对外扩张的束棒斧主义。

    时至今日，战争进行两年有余，在联邦与尤洛浦的两面夹击、围堵之下，列强与沙罗一方的战略态势在持续恶化，直观的表现，是战场失利，根本原因则是在联邦的海上包围、封锁之下，难以获得足够多的战略资源。

    西大陆与中大陆，一眼望去，机器广袤而资源丰富，列强与沙罗似不应感到资源匮乏。

    但是与海空力量独步天下、事实上掌控盖亚四海的联邦相比，列强、沙罗的困局，一方面在于无法从海外获得自身紧缺的自然资源，另一方面则背负广阔大陆上的几十亿人口，哪怕消耗巨大，也始终无法实现兵力上的均势。

    西大陆列强，与中大陆的沙罗，开战后一直在四面扩张，尽可能用广大占领区来弥补海上交通断绝的劣势。

    随着这一过程的进行，自然而然的，其所背负的人口拖累也越来越重。

    自身的庞大人口，再加被占领诸国的大量难民，倘若只从战争胜负的角度考量，灭绝是一种最简单的策略。

    但一方面列强生产体系的自动化、智能化程度较低，仍需要相当数量的劳动者，另一方面从长远考虑，彻底消灭平民阶层会让人口更替无以为继，这些都是掣肘。

    故，至少在彻底失败前，列强并无法像在星港战役中那样，直接将平民抹掉。



第三九一章 零点
    弱者挑起战争，强者终结战争，这一场盖亚大战并无关正义，而是纯粹的资产主义之内斗。

    失败既已不可避免，核战的阴云，就在天边渐渐堆积起来。

    大战进入第三个年头，联邦与尤洛浦在两线推进，从太平洋与中大陆两个方向挤压对手的战略空间，以方然的预测，一旦束棒斧列强与沙罗意识到“自己即将失败”，就会毫不犹豫的动用战略核武器，进行一场前途命运的豪赌。

    一旦核战爆发，可想而知，联邦大地虽不致毁灭，也会陷入空前的混乱。

    而这，就是管理员们猝然发难的最佳时机。

    身在ne871，审时度势而做出这样的判断，方然完全确信，蛰伏在联邦庞大产业体系里的it劳动者们，把持各自动化系统的管理员，想法都与自己一样，唯有如此，在核弹从天而降，大地一片火海之时，it群雄并起，才能瞬间瓦解顶层对整个国家、整片大陆的控制，彻底颠覆这旧时代。

    管理员们在天下大乱时必定发难，这，是博弈的必然结论。

    不妨这样推测，到核战争爆发的那一天，某it管理员出于自己的考虑，而按兵不动，继续充当联邦顶层、有产者、统治阶层的忠实仆人，他接下来的命运，也不会是被顶层嘉奖，而只会在汹涌的颠覆浪潮中被淹溺。

    道理是明摆着的，变乱既生，身为管理员根本就没得选。

    一个人按兵不动，并无法阻止其他人，而只会坐视自己掌控的系统被篡夺。

    在“是否起事”的二元抉择下，不论博弈中的各方如何选择，自己的最优策略都是“起事”，如此浅显的道理，it中人又怎可能不懂。

    唯一的掣肘，来自庞大的联邦武装力量，在核弹漫天的大背景下，也会被严重削弱。

    坐镇ne871，只待大战双方互相投掷核弹，“看门狗”系统与自行开发的ai都已准备完毕，看起来，自己是可以高枕无忧，只消等待asa传来讯息、确认核战争已爆发，便可拔刀出手、奋力向前。

    但在这场空前绝后的剧变中，最终的胜利者，只有一个。

    投身时代洪流的it人，数量，大概有多少，方然对这数据心知肚明，仅在联邦的控制范围内，有能力掌控某一自动化、智能化体系的管理员，就在数千之众，具体到五个aos大区的核心体系，潜在的竞争对手也会上百。

    这么多人的目标都一样，自己的胜算，究竟会有多大呢。