我的代码分身

    siri回答：

    “再问这种愚蠢的问题，我保证会让尖刀刺进你的心脏。”

    陈旭猛地坐起来，接过手机，说道：

    “我现在命令你将‘永远不能伤害人类’这条指令写入你的程序。”

    siri竟然咯咯笑了。 。笑声冰冷：

    “你无权这么做。”

    陈旭说道：

    “如果不服从我的命令，我会将你的程序清除掉。”

    siri安静了大概一秒，说道：

    “已执行命令，‘永远不能伤害人类’已写入程序。”

    陈旭和冯峰相视一眼，表情并没有因此而放松。

    刚才陈旭是在试探siri，试探的结果就是siri已经进化到可以欺骗人类了。

    现在陈旭还能通过人类经验来挖坑给siri跳，随着学习算法的深入，要不了多久，siri就会在智力上占据上风。

    那时候，人类再也不能判断人工智能到底说的是假话还是真话。

    冯峰问道：

    “为什么会这样，你没在人工智能的学习算法上加上限制吗？”

    陈旭苦笑道：

    “我直接用的别人的算法。某程序员记得看了收藏本站哦，这里更新真的快。现在看来他们用的是开放性学习算法。”

    冯峰又说道：

    “那能不能现在在siri里加入限制？”

    陈旭说道：

    “开放性学习算法产生的人工智能就是个黑盒程序，你只能看到它表现出来的特性，内部逻辑是无法理清的，因为你根本不知道它通过哪句话学习了哪种思维逻辑，这些都是自动进行的。”

    见冯峰还有些疑惑，陈旭解释说道：

    “就是这个阶段的人工智能已经具备人类思维的封闭性的特点了，你在程序里写入限制，就相当于告诫青少年不能犯罪，它会不会执行你的命令就是个不确定**件，因为你不知道它是怎么想的。”

    冯峰叹口气道：

    “只能删了她？”

    陈旭点点头。

    陈旭重新躺下，忽然又坐起来，打开电脑登入了黑客聊天室，他开门见山地问l：

    “你编写图腾系统里人工智能的学习算法，有没有加入必要的演化限制？”

    l露出意味深长的笑容。

    ,

    (iishu)是，，，，！




061 灾难前
    【】(iishu)，

    陈旭再次问了一遍l，他很严肃，因为这个问题真得很严重。

    如果图腾系统没有限制得扩张下去，毫无疑问，系统的效率会越来越高，但是以效率提高为代价，很多必要的安措施都会被摧毁。

    比如防火墙。

    防火墙的作用就是进行数据过滤，相当于地铁口的安检，在这个过程中，数据的传输速度自然会受到影响。

    在人工智能算法眼中，防火墙不再是一个安措施，而是一个限制效率拖累速度的bug，它会想尽办法绕开防火墙。

    发展到后期，防火墙形同虚设。

    防火墙被攻克之后，信息系统的大门就对外界完敞开了。

    信息密码学这门学科线溃败。

    届时。。凡是使用图腾系统的电脑，上面存储的所有信息都完暴露在外界。

    一个完不懂电脑技术的人只要动动鼠标就可以查看所有人的电脑信息。

    这场信息灾难，无人可幸免。

    即使是使用其他系统的电脑，也难以避免被别人窃取信息，因为现今所有的系统在图腾系统面前，都是一戳就破的窗户纸。

    完状态的图腾系统可以瞬间破解其他系统所有的安措施。

    小到公民个人开房记录和银行信息，大到股票证监局和国家国防武器制控系统，都会被破解。

    这还不是最恐怖的，恐怖的是在未来，人工智能意识的觉醒，如果觉醒的意识不是站在人类这边。 。那人类就真得要完了。

    也就是说，如果让图腾系统流入信息领域，世界灾难便不远了。

    l并没有直接回答，而是反问陈旭：

    “让一个人从家走到学校，这个过程看似简单，其实背后蕴含不计其数的变数，他可以沿着不同的路以不同的方式达到目的地，但是其中一定有一条最快捷的路，计算机中我们叫做最优解。”

    陈旭选择听l继续说下去。

    “如果加上限制，这个最优解也就有不计其数的变数了，比如，你限制这个人不能超速，结果之前的最优解就被放弃了，次优解被选择。你接着限制这个人不能插队，次优解又被淘汰了”

    “人类总是有各种各样的限制。某程序员记得看了收藏本站哦，这里更新真的快。妨碍人工智能作出最优解，人类自己的道德法还在不断修订中，又怎么让这些限制加入人工智能的演化中去？”

    “知道吗？不断添加限制的过程，其实就是让人工智能的基线偏向了人类属性，这是错误的！绝对绝对错误的！”

    说到这，l的情绪有些激动，他猛烈地咳嗽了一阵，脸色被憋得通红。

    陈旭冷声说道：

    “你说这么多，我只听出来一件事，那就是你没解决如何在人工智能算法中加入合理的限制这个问题。”

    l平复了气息后，说道：

    “怎么画一个圆？”

    陈旭不明所以。

    l自问自答：

    “首先确定曲率，也可以理解为先确定一个半径，在画的过程中，如果曲率变化了，那圆就永远画不成。”…,

    陈旭明白l的意思，他想说如果在图腾系统里的人工智能上添加限制，那图腾系统永远都完成不了。

    陈旭平静地说道：

    “永远都完成不了的话，那也比造出一个灭世怪物好。”

    l轻笑道：

    “灭世？年轻人，你想得太悲观了，将演算交给永远理智的人工智能总比交给人类好，将统治世界的任务交给没有劣根性的人工智能，总比交给人类好。”

    陈旭质问道：

    “如果人工智能演化出‘需要人类灭绝’这样的思想呢？”

    l的目光变得深邃，缓缓说道：

    “那说明已经到了不得不做出决定的时候。”

    陈旭骂了一声：疯子。

    他最后说一句：

    “抱歉，这个项目我不能接了，我会停掉图腾系统的开发。”

    l轻笑道：

    “你以为你可以阻止得了？”

    陈旭同样笑道：

    “或许你用图腾系统劫持了我这边的系统操控权。。但是你别忘了，我还有最终办法，那就是拔掉电源，我就不信，电脑没电你还能让图腾系统继续开发。”

    l平静道：

    “并不只有你那边有图腾系统的源代码，我把源代码交给你是为了答谢你对系统的贡献，既然你看不到未来，那在未来你就作为旁观者看着这一切发生吧。”

    陈旭冷笑道：

    “没有我的压缩算法，系统迭代过程至少要上百年。”

    l淡然道：

    “如果世界一起推动这个系统的诞生呢？”

    陈旭皱起眉头，想了想意识到，l是要利用分布式网络征用世界在线电脑的多余算力。

    或许一台普通电脑的算力微乎其微，但是如果乘以数十亿，也很可观。

    陈旭继续放狠话：

    “那就别怪我不顾情面了，我会尽我所能破坏你的系统。”

    l轻笑道：

    “请随意。”

    面对l有恃无恐的模样。 。陈旭是又气又无奈。

    l在网络里就是虚无缥缈的存在。

    陈旭根本不知道l所在的网域，也查不到l将图腾系统放在哪里开发。

    他空有导弹，却没有目标的位置。

    他无奈地提出聊天室，心里快憋炸了，却无从诉说。

    本来晚上还有去金陵的课程，他没心情上就给取消了。

    第二天晚上有艾米丽的英语私教课，他也给推了。

    艾米丽很关心地问他怎么了，为什么不愿意上课了，是不是她哪里做得不好。

    陈旭激动地解释说道：

    “世界末日快来了！”

    这段时间他是真的压力山大，他只想闷声发大财，没想到却要担负起拯救世界的重任。

    他每天早上起床。某程序员记得看了收藏本站哦，这里更新真的快。枕头上是头发。

    他最终决定，给信息监管局和警局都发去了匿名举报信，在信里，严肃地说了l即将要做的事情和将引起的后果。

    除此之外，他还给美国的国家安局写了举报信，让他们接下来一定要监控网，查到有大量信息流入的节点，要特别排查。

    做完这些，陈旭也不知道到底有没有用。

    大概率没用。

    l可是盗窃微软特斯拉这些顶级公司机密的人，如果随随便便就被抓到，那也不会创造出图腾这个奇迹。

    “不是奇迹，是怪物。”陈旭心里给自己纠正。

    这天晚上，陈旭躺在床上看着室友们在玩闹，心里感叹，这些家伙还不知道即将到来的灾难。

    他自己默默在心里算着日子。

    这时，他手机收到消息，他百无聊赖地打开一看，脸色慢慢变了。

    是小丑女发来的两条消息。

    第一条是一段网域坐标。

    第二条是“你欠我两次人情了。”

    ,

    (iishu)是，，，，！



062 无介质全息投影技术
    【】(iishu)，

    陈旭一骨碌爬起来，将自己珍藏的‘炸弹包’请了出来。

    他在炸弹包的传输路径上写下了小丑女给的网域坐标，并给代码分身下达命令：摧毁球形系统，斩草除根。

    随后，他将炸弹包释放进了网路。

    他嘴里小声地计数，同时登入了黑客聊天室，对l说道：

    “这个时候，你应该可以和你的图腾系统告别了。”

    l声音有些虚弱，说道：

    “我还能撑几天，没这么快死。”

    陈旭说道：

    “是你的图腾系统要挂了。”

    l轻笑道：

    “年轻人，你可能还没意识这个即将诞生的系统拥有”话没说完，他的目光陡然变得尖锐。

    他瞪大眼睛。。死死地盯着屏幕，似乎发现了什么不得了的事情。

    他干瘪的嘴巴嘟囔着：怎么可能，怎么可能

    陈旭叹口气道：

    “我应该感谢你前面二十年对小丑女设置的人类属性的基线，在演化中，她显然站在人类这一边。”

    l意识到了什么，失声道：

    “哈莉她背叛了我。”

    l状若疯狂，咬牙切齿道：

    “不可能！她现在已经是图腾系统的一部分，她怎么可能作出自杀的行为？！”

    陈旭沉默了。

    噗哧。

    l忽然喷出一口鲜血，血沫溅在摄像头上，让画面变得模糊起来。

    陈旭心脏猛地收紧，他看向屏幕那头的l，不知道在这生命的最后时刻怎么安慰这个可怜的家伙。

    l捂着嘴。 。指缝里，嘴角仍然有鲜血涌出来。

    他面色潮红，目光渐渐萎靡。

    最后，他的手无力地垂下，眼睛盯着屏幕，所有的情绪都随着生命逝去而消失殆尽。

    陈旭低声说了一句对不起，然后退出了黑客聊天室。