永不下车

    “我提出的只是建议。

    或者，如果您不想听到‘警告’这样的词汇，称之为‘提醒’也可。”

    管理员的未来，不消说，不会是莱斯利兰伯特的关注焦点，他真正关心的，是ne，人类世界，乃至人类文明的前途命运。

    但以现在的语境，他并不需要刻意强调这一点，于是微微扬起头颅

    “如果我本人，以及一干同僚的猜测没错，您的计划，大概是借助一系列‘认知过程’、‘自主式ai’等研究成果，尝试研发出能够自主进行创造性研究的ai，借此实现ne大区的实力飞跃，进而达成更长远的目标。

    那么这一规划的问题在哪里

    首先，不得不提到一点，即便阿达民先生、您想象的那种ai被开发出来，在短时间内，或许也就是十年、甚至五年内便进入实用化，这种ai也不过是将将能替代人进行科学研究，将我们这些人扫地出门，仅此而已。

    基于人类世界的现状，基础科学的发展，停滞不前，即便用ai代替人类，也几乎无法取得一些关键的、划时代的突破。

    至于说，制造出强ai，推动基础科学的发展

    像您这样的人物，该不会有这么一种不切实际的幻想，难道不是吗

    制约人类科学技术发展的，并非聪明才智，而是盖亚与一切相关资源的量级，没有足够的资源、能源甚至空间，这些因素，现阶段无法用任何手段加以改善，更无法规避，ai在这方面也一样无能为力。”

    “似乎是这样，不过，我一开始也没有这种奢望。”

    莱斯利兰伯特的话，十分浅显，方然便点一点头，承认这位科学家说的很有道理。

    “强ai”，不论传统学术界的定义如何，即便被研发出来，缺乏客观条件的支持，也无法凭空推动科技的进步。

    “没有，那么这很明智。

    但不管怎么说，‘自主式科研ai’能否推进科技，那毕竟也是一个很长远的问题，眼前的危机，才更值得警惕

    出于种种考虑，研发具有创造性、探索性思维的人工智能，ai一旦这样的被研究出来，阿达民先生，您是否能确定，凭现有的科技、武器与战力水准，自己必然能掌控这ai，而不会被自主决策的ai所消灭”

    “ai的反叛，是的，这是一个想当棘手的问题，但，可以提前采取——”

    “没有什么‘提前采取’！

    恰恰相反，一旦‘具有超越人类的科研能力’，这样的ai被制造出来，其行为与动机，就注定会脱离人类的掌控，这并非安保手段、武力强弱的定量问题，而是由双方‘智力’差距所决定的，无解的困局。

    试想一下，阿达民先生，您之所以拍板这样宏大的计划，目标，正如刚才亲口所言，绝不是为了获得‘能够与人相比拟’的那种ai。

    投入大量资源，消耗时间，只为了得到一些模仿的产物，根本得不偿失。

    此类研究的根本动机，显而易见，是期望获得能力超越人类、甚至远远超越人类的‘强ai’，目的，并非研究什么自我意识、或者要创造出这样的自我意识，而是要在人类专有的科学技术研究领域，制造出一个碾压现今所有人的利维坦。

    这样的东西，一旦真被研究出来，凭你我这种人类的头脑、意识，恐怕连预测其行为、判断其动机都做不到；

    有怎么能奢望，凭借一些儿戏般的安保手段，便能将其禁锢起来，为己所用。”

    滔滔不绝，莱斯利兰伯特的一番直抒胸臆，脸都有些涨红。

    至于他要表达的意思，无需聚精会神，方然也能明白，事实上，自从掌控ne大区之初，自己便一直在琢磨事关重大的难题。

    创造性思维，具有这种特质的ai，先不论通过什么样的手段去研发，一旦成为现实，那么，除非这种ai的能力与人类相仿，一旦其能力远超人类，再加上其自身“思维”、“决策”的无可预测，人类就会有灭顶之灾。

    这种风险，只要着手开展此类研究，就一定会出现。

    不仅必定出现，应对之策，事实上也是不存在的，并不会因为一些莫须有的“拉电闸”、“核弹爆轰”的手段而改变。

    一切的缘由，完全在于ai的“自主意识”，其危害之大，只要设想一个能力超卓、却与同类决裂的人类，能对人类世界造成多么大的破坏，然后将这种威胁放大若干倍，便不难想象到时的情形。

    面对特立独行、完全漠视人类利益的威胁……

    一切应对之策，在强ai的眼里都会十分可笑。




第四九二章 认知
    到那时，脱离了这一躯壳的人，还能算是传统的“人类”、甚至于“人”么。

    想法有点脱离实际，现在，只能借助“替身机器”去远程操控生化仿真人，其实这一过程也和完全的机械化差不多，区别只在于，人的意识栖居之所，神经系统，仍然依赖着传统的肉身才能存活。

    倘若有这样的办法，让身体永存，每一天都借助“替身机器”在这世界上活动，甚至更进一步，用徜徉于虚拟世界，是不是就更接近于永生。

    在一边看兰伯特吃饭，诸多想法一晃而过，方然借助虚拟显示查看资料，整理思路。

    而看上去有一点心事重重的莱斯利兰伯特，则有点食不知味，踌躇片刻后，还是有点沙哑的开口。

    “阿达民先生，说真的，对您刚才所说的一切，我们的确未曾严肃认真的考虑过。

    但，这方面的辩论且不谈，即便的自我意识，会和遍布历史痕迹的人类之自我意识不一样，本质上就大有区别，但，失控的风险仍会存在：

    一个，终日沉浸于科学研究，以探寻未知、探索奥秘为至高目标，作为创造者，人类或许能将塑造成这般模样。

    但，说到这里，您想必也能明白，有能力从事创造性、探索性科学研究的，其基础架构与运行机制，必定与现有的一切大有区别，本质上讲，其必定会有强大的自我重构、自我完善能力，甚至还可以自我演化、自我推进。

    这样的，其核心的自我意识部分，假使有的话，很快就会完全脱离人类的控制，即便对其施加影响也十分困难：

    总而言之，一旦启动该系统，接下来我们能做的就很有限，差不多就是听天由命。

    随着机器小时的积累，对人而言，的当前运行状态，及其自身所处的状态，会越来越模糊，越来越不可知

    这，难道不是一种潜在的、极其危险的情形吗。”

    的失控风险，乍一听来，似乎是科幻作品的滥情节，方然却很专注，他知道兰伯特先生想表达的并非那种意思。

    “人工智能觉醒，继而与人开战”，从终结者到黑客帝国的火爆场景观赏性十足，却经不起推敲：除非以毁灭人类为目标，专门开发这样的，否则人工智能并不会变成一个失控的精神病，这才是学术界公认的观点。

    但是，即便以纯粹的研发、探索等目标，设计并制造出这样的，假以时日，会不会性情大变，甚至认为其环境的一部分人类，是其实现目标的障碍

    在进行相关研究时，这，是一个必须考虑的原则性问题。

    站在莱斯利兰伯特的立场，阿达民，既然专门找自己谈话，吩咐研发任务，想必一定全面的权衡过利弊、分析过风险。

    然而听到阿达民的话，他却有一点意外：

    “是的，兰伯特先生，这的确是一种莫大的风险。”

    “那我们”

    什么意思，您到底要不要吩咐我们，进行这些研究

    或者，这只是一次闲极无聊的纯粹理论研讨、空对空的畅想，兰伯特有点迷惑。

    而这时的方然，虽然有点饿，还是挺少见的决定讲完这一席话再退出连线，毕竟，他认为接下来的话，对兰伯特和他的同僚很重要：

    “风险，自始至终，必定是会有的。

    如果考虑到的自我演化，是从事科学技术研究的一种必备要素，一旦创造出这种，接下来，人类就只能在旁观望、听天由命，这说法也没有什么原则性的错误。

    但接下来，意识到这种莫大的风险，人类又当何去何从

    为了规避风险，而禁止一切与强相关的研究，正如我之前所做的那样，是吗。”

    “不，这不一样，出发点和动机并不一样。”

    “动机并不一样，这我承认

    但是讨论这种问题时，动机，根本就不重要。

    回到这一根本性的问题，兰伯特先生，听完这些话，您是否仍坚持，人类应该自缚手脚、禁止进行任何创造性、探索性人工智能的研究

    那么，这里必须指出，禁止强研究的后果会是什么：

    当今时代的基础科学，老生常谈，几十年来恍若一潭死水，倘若我们瞻前顾后、束手束脚，在现今唯一有希望突破的领域强人工智能方面无所作为，那么，人类文明或将在未来很长一段时间内，”

    说到这里，方然忽然心头发紧，但“替身”没有面部表情，对方也无从得知，

    “都无法有任何进步，不仅如此，彼时放眼未来，甚至会连一丝改变现状的希望都没有。

    面对这种前途，倘若能接受停滞不前的状态，甘于苟活在这样一个死气沉沉的世界，似乎也还可以忍受

    但我却想要提醒您、和您的同僚，以宇宙之浩瀚无垠，其他行星上的高等文明想必不在少数，即便面对强的诱惑，绝大多数文明的选择都会是画地为牢，然而，一旦有极少数文明，出于种种考虑而选择了研发强，局面又会怎样

    宇宙中其他文明，一旦研发并创造出强人工智能，是否能凭借这种力量，获得飞跃性的发展，甚至突破文明与文明之间的遥远时空，本人无从知晓。

    唯一能确定的事实，则是选择自缚手脚、裹足不前的文明，必定不会有未来。”

    一边叙述，一边有点情绪激动，方然的手势被“替身”精确再现，而坐在旁边的莱斯利兰伯特，则嘴巴微张、面露惊讶。

    的确，倘若一切如阿达民所言，那么现在的局面

    今天的人类文明，即便拒绝研发强、拒绝尝试创造出有自主行为的人工智能，也没办法以眼下的状态长久维持下去，这一点，用不着阿达民出言提醒，大区的每一位资深研究者，都清楚这样的事实。



第四九三章 思维
    基础科学对应用科技的支持，是有限的。

    当前者停滞不前，迟早有一天，后者的进步也将无以为继。

    到那时，人类文明的全部活动，将真正成为“苟活”，失去一切前进的动力与希望，在莱斯利兰伯特眼里，这才是最可怕的。

    人，不论自己如何看待，终究是一种活在“希望”中的物种。

    当未来一望可知，降生在这世界上的每一个人，稍有头脑便不难一眼望见自己的人生，直到结局，便会从心底里生出一种茫然与绝望，进而怀疑自己生而为人，意义究竟在哪里，每天的应付眼前之劳碌，又究竟是为了什么。

    人，皆有一死。

    至少在西历1495年的今天，这句话，仍颠扑不破。

    这世上每一个人，既然死亡注定将要降临，活着的意义，又是什么，庸碌凡夫或许懒得思考这种问题，只忙着用廉价刺激充斥生活。

    一天接一天的挨到大限降临，直到下车，而从未为这问题而烦恼。

    这样的生活，对自己与身边的人，意味如何，方然并无从得知，他只能确定一点，这些凡人的人生，有，或者没有，对整个人类文明而言着实无关痛痒，不仅一个人就此消失，毫无关系，哪怕成千上万的这种人集体蒸发，也没有任何问题。

    从旧时代一步迈进今天，几十亿人口，就这样消失了，世界可曾有过什么改变吗。

    剧变，当然是有，但并非因这些人的下车而起，只不过是一阵飓风吹散的落叶，只是效应，而非原因。

    但也有一小部分人，站的更高，看得多少更远，并不满足于眼前的生活，而会眺望、思考那更遥远的未来。

    事实上，也只有这一小部分人，切实的组成了人类文明的宏伟框架，

    其他庸庸碌碌的绝大多数，不论穷困潦倒，还是腰缠万贯，终归只是这宏伟框架中的填充，只是徒具其形、一旦脱离框架就会轰然坍塌的赘物。

    而支持着这些知必有一死的人，执着向前的，除却希望之外，还有什么呢。

    没有了，唯一的推动力，来自于文明从蒙昧时代走向星辰大海的期望，着是一切先行者的寄托，倘若这样的寄托完全破灭，可想而知，无人会愿意继续披荆斩棘，带领整个文明继续艰难跋涉，继往开来。

    历史，是民众所书写，文明，是民众所创造。

    站在历史唯物主义的立场，直到今天，方然仍认同着这一句话。

    但这并不是在说，所谓民众，直到不久以前还拥挤在这小小寰球之上的几十亿人，全都是历史的书写者与创造者，而只是指出一点：

    书写、创造这历史与文明的人，来自于民众，他们改天换地的力量，依托于民众。

    世人中的绝大多数，终其一生，或许片刻都不曾思考过文明的前途，宇宙的宿命，这并不妨碍他们生老病死，走完自认为很有意义、甚至还很精彩的一生。

    然而这种幻想般的自欺欺人，却无法蒙蔽智者的双眼，激励那一小群先行者。

    希望，小到一个人的前途，大到一个文明的未来，是人类砥砺前行的根本动力，倘若这种东西不复存在，人类文明，就会真的走到尽头。

    这，并非管理员将民众豢养在定居点，并非盖亚大战让文明遭遇重创，甚至与领域的滔天巨浪无关，而是在一切继续前进的希望断绝之后，根本上讲，“智力”这种因素，在人类群体、人类与外界环境的竞争中，已不再有效，进而必然被逐渐埋没。

    当希望不复存在，不论做什么、或者不做什么，前途都不会有一丝突破时，

    混吃等死，难道不是再正常不过的想法了吗。

    “人类文明，在今天已别无选择，唯有继续前进

    否则，注定不会有任何前途，或迟或早，最终必定会迎来完全而彻底的毁灭。”

    结束傍晚的对话，离线前，与莱斯利兰伯特告别，方然双眼直视这位神情复杂的研发组科学家，手按上他的肩膀，道出这样一句振聋发聩的箴言。