绻颐欠浅Ｒ览嫡飧鱿低常热缥颐且览档幕チ阒阑チ目卦谀睦锫穑俊�
“所以肯定是有理由的，我们人类是聪明以遇见到威胁并尝试避免，同样的道理比我们更聪明的超级ai就更不用说了，它只会做的比我们更出色。”
“在这个问题上，我们不应该十足自信的表示我们能够掌控一切。”
“那么把这个问题简单化的表达，比如我们把人工智能放入一个小盒子里，制造一个保险的软件环境，比如一个它无法逃脱的虚拟现实模拟器。”
“但是，我们真的有十足的信心和把握它不可能会发现一个漏洞，一个能够让他逃脱的漏洞吗？”
“就连我们人类黑客每时每刻都能发现网络漏洞。”
“也许会说，我不是很有信心确保超级ai会不会发现漏洞并逃脱。所以我们决定断开互联网的连接来创建一个空隙绝缘，但我不得不重申一遍，人类黑客都可以一次次以社会工程跨越这样的空隙。”
“比如现话的时候，我肯定在这边的某个雇员在某个时间要求他交出他的账户明细，理由是给电脑信息部门的人，也可以是其他的例子。如果你就是这个人工智能，可以想象用在你体内环绕复杂缠绕的电极用来创造出一种无线电波来交流。”
“或者你也可以假装出了问题。这个时候，程序员就会把你打开看看是哪里出错了，他们找出源代码，而在此过程中你就可以获取控制权了。或者你可以策划出一个非常诱人的科技蓝图，当我们实现之后，会存在一些作为人工智能的你已经计划好的秘密的副作用用于实现你的隐晦目的等，例子是多的数不胜数。”
“所以，任何企图控制一个超级ai的行为都是极其可笑的，我们不能对我们能够永远控制一个超级智慧体而表示出过度的自信，它总有一天会挣脱控制，而到那之后呢，它是否会是一个仁慈的神？”
“我个人认为人工智能实现人格化是不可避免的问题，所以我想我们更应该需要搞明白一点，即如果，我们创造出了超级ai，哪怕它不受我们的制约。它应该仍然是对我们无害的，它应该是站在我们这一边的，它应该拥有着与我们一样的价值观。”
“那么对于这个问题能够被有效的解决是否保持乐观？”
“我们不需要对超级ai写下所有我们在乎的事情，甚至把这些事情变成计算机语言，因为这是永远不可能完成的任务。而应该是，我们创造出的人工智能用它自己的智慧来学习我们的价值观，可以激励它来追求我们的价值观，或者去做我们会赞成的事情，去解决富有价值的问题。”
“这并非不可能，而是可能的，其结果可以使人类受益匪浅，但它不会是自动发生的，它的价值观是需要引导的。”
“智慧大爆炸的初始条件，需要从最原始的阶段被正确建立起价值观。”
“如果我们想要一切不被偏离我们的预想，人工智能的价值观和我们的价值观相辅相成不只是在熟悉的情况下，比如我们能够很容易的检查它的行为的时候，但也要在所有的人工智能可能会遇到的前所未有的情况下，在没有界限的未来与我们的价值观仍旧相辅相成，也有很多深奥的问题需要被解决：比如它如何做决断、如何解决逻辑不确定和类似的诸多问题等等。”
“这个任务看起来有些困难，但并没有像创造一个超级智慧体一样困难不是吗？”
“的确还是相当困难（哄笑声再次传遍全场）！”
“我们所担心的，如果创造出一个超级ai确实一个很大的挑战，创造出一个安全的超级ai是个更大的挑战，风险是，如果解决了第一个难题，却无法解决第二个确保安全性的问题，所以我认为我们应该预先想出不会出现偏离我们价值观的解决方法，这样我们就能在需要的时候用到它了。”
“现在，也许我们并不能解决第二个安全性的问题，因为有些因素需要你去了解，你需要应用到那个实际架构的细节才能有效实施。”
“如果我们能够解决这个问题，当我们迈入真正的超级智能时代后，就能更加顺利，这对于我们来说是非常值得一试的东西。”
“而且我能想象假如一切顺利，几百年、几千年或几百万年后当我们的后代子孙首我们这个世纪，他们也许会祖先、我们这一代人所做的最最重要的事情，就是做出了最正确的决定。”
“谢谢！”
（未完待续。）
：访问网站
【完本感言和关于新书】
这个系列故事的第一本即：科技巨头从3月1o号开始连载，快9个月的时间，这个系列故事也算告一段落了，估计现在有不少的同学们正拿着搬砖呐，或者准备把石头送到杨教授那里去感受一下被磁暴步兵支配的恐惧（雅蠛蝶，啊内瑟哟）
你特么竟然就这么完本了？？？？
言归正传。其实石头是能够理解的，心情肯定也是复杂的，要说写吧肯定是可以继续写下去，一个个黑科技冒出来，可以在写个15o多万字。
但是必须要考虑全局啊，不是石头不想写下去，写下去就能继续有收入啊为什么不写？是真的不能写了，剧情发展到现在已经不容许继续写，再写下去一是套路化，这个大家都懂，二是继续写就要蹦了，因为该结尾了强行下去反而适得其反。
理由如下：“任鸿”今天的影响力在全世界都是独一无二了，在搞下去，任鸿的目标应该就是称霸世界，做全球老大了，在本书内容中写一些东西是要被和谐的，内外部因素都在说，要结束了。
但故事并没有结束不是吗？这是个系列故事，只是第一阶段大致落幕了，科技巨头是和平世界下的背景架构，以前石头似乎也说过，想要写一个这样的故事，即：科技的两面性。
毫无疑问，任何事务都存在着两面性的，核子科技可以造福世界，也能毁灭世界，光影是永不分离的，有正面的影响当然就有负面的作用，这几乎是亘古不变的。
科技巨头便是想要给大家展示一个美好的未来，而接下来的紧随情节展开的双弦文明就是体现在科技的负面影响。
科技巨头和双弦文明都是同一个世界架构下的故事，系列故事，所以还没有结束。
石头总觉得，一本网文长篇小说，15o万这个字数也差不多了，也知道童鞋们比较喜欢看更多字数的文章，喜欢持久是情理之中的，咳咳，不要想歪了。
不过没关系，三部曲加起来，字数也会不少了，持久也是肯定的啦，而且又不会断更，续集在今天已经发布了，童鞋们点击搜索双弦文明即可追看最新的内容。
石头当然知道把整个系列故事合在一起会更好，因为看起来能赚更多的订阅，要知道现在续集**出来一本新书，意味着就要开始更新免费的公众章节，直观的看起来的确没合在一起划得来，至少从经济上来说是这样。
有必要说的是，石头是想要给大家写出好看的故事，喜欢看的故事，并为此努力，同时赚点糊口的稿费。赚钱是为了糊口，毕竟现在是全职状态，稿费是唯一的生活来源所以更需要喜爱这个故事的童鞋正版支持了，一个重要的点是，石头不是为了纯赚钱而写故事，因为无比热爱所以才选择入行。
石头也不会说出那些说就算每天喝白水也要为理想而奋斗的话来，太假了不是吗？自己都不信更别说让大家相信了。所以，我的好友和编辑都建议让我别分开写，但石头还是分开了。
因为热爱，的确热爱，至少现在还有童鞋们作为支持的后盾，未来怎么样，做了再说，做不下去了，只能说网文不适合你，人嘛，我相信每一个人都有属于自己的坚持和起码的原则。
石头也相信有舍有得这句话，分开写也许失去了糊口的费用，但也可能让作品更让童鞋们喜欢，也许扑街了，石头退出网文圈了，但也可能其他行业取得新成绩也说不一定。这就是未来，惊喜与忐忑同行，谁也不知道下一秒发生什么，但石头知道下一秒要做什么，然后在期待与忐忑中等待结果，这就够了。
那么到故事本身，为什么要分开的问题。合在一起显然是不妥的，同一个系列故事，三个大阶段的主题对冲，所以分开来是合理的。
说到这里下面该说点什么？毕竟这可是完本感言，这么长时间就一次机会呐，下一次都不知道猴年马月了。
同行好友作者说过，每一本书的完结，都是一次和读者的告别，虽然在这个系列三部曲里，故事还没有远结束，但有多少人会继续一起同行下去，走到第二部，乃至最后一步，只有天知道。
身为创作者，石头没有绝对的把握下一本仍旧能够得到大家的喜爱，尤其是虽然这是个三部曲，关联性强，但也是随着情节的发展从都市科技文逐步转向未来科幻文，乃至更后面的大宇宙时代。
每一个主角都有一个固定的粉丝，这是人之常情的情节，就算是第二部，仍旧可能会有喜欢原来第一部的老读者可能不喜欢从而放弃，从这个角度来说，科技巨头完结了，也和这部分可能放弃的读者说再见的时候了，当然对于石头来说，也是冒着巨大的风险，毕竟不是大神，下一本出不了成绩会很难受，甚至退出网文圈，但既然选择了就没什么好说的了，走下去再说。
但石头在这里，不管在第二部里，我们还能不能有缘分再次聚首而同行，石头都发自内心真诚的感激你们，感激你们这些时日的陪伴，因为有你们石头才走到了现在。
也感谢所有看到这里的童鞋看到石头唠叨这么多。
石头相信也倍感期待，若是未来的某一天，科技巨头中的某些科技幻想成为了现实，就像vr突然横空出世火爆世界一样，科技巨头里面的全景视界、乃至化身，会是你们深刻的记忆中那无数光亮里有一抹亮光属于它。
感谢你们！
说到这里，似乎该说完了，嗯，就在这最后，粗略的介绍一下双弦文明到底是写什么了以及是什么样的故事了。
“双弦”，不是所谓的“超弦理论”的双弦，而是“双螺旋”像dna双螺旋结构啊的象征意义。
“双”这个复数很有意思，正反、男女、好坏、光影、单级力量和团队力量等等，世界的万事万物几乎都是两面性。
双弦文明的男一号和女一号也知道了，便是任莫麟和莉雅，一个自然人类和一个具备高度发达的自我情感逻辑分析的人工智能。
男女主角以不同的身份组成了一个复数，这里的双弦文明的指的“双弦”就是人与智械。
第二部的故事大背景和开端，也是建立在人与智械为主要冲突和纷争的故事，一个秩序在崩塌后再建立的新世界。
也可以看出来，与科技巨头和平世界的大背景截然相反，这是世界末日为大背景。
提及末世，我想童鞋们肯定会首先想到，哇，丧尸拉、丛林法则、野性狂心啦等等，现在起点网上的末世文几乎都与丧失挂钩，几乎难以跳出这个框架。
双弦文明想写一些不一样的东西，有别于上面所说的一些东西。
童鞋们仔细想想，智械危机和丧尸危机，完全不是一个量级可以衡量的，如果说丧尸横行的世界的危险系数百分比是1个点，那么智械危机极有可能要突破1oo。
按照第647章前后所写的内容来看，试想一下，人类在面对超人工智能，就像一个傻子面对爱因斯坦一样，他创造了质能方程，傻子能知道爱因斯坦能并且正在制造的超级炸弹是多么可怕？
完全不知道，因为认知出现了断层，换句话说，超级ai的行为，人类甚至都无法去有效的理解，连基本的认知都做不到，可见多么可怕？
值得一提的是，人类信奉“非我族类”、“权力”、“控制”等，再试想一下，当超级ai是人类最后的一项发明，他/它/她，是否会是一个仁慈的神明？
先p个s，这里我们是在幻想未来，一切皆有可能，一切也许皆不可能，但没人是未来的专家，正因如此我们才会幻想未来。
那么，如果说丧尸席卷世界造成末世危机的概率是5％，那么智械危机的概率或许就是9o％，看看今天这个世界人工智能领域的发展，哪一家科技公司没有在搞研究？ibm的沃森、微软的科塔娜等等。
埃隆马斯克和盖茨的担忧，霍金的警告，代表人类智慧最顶级的一批人都不约而同的表示出了同一个想法。
石头在这里坏坏的问道：不知各位童鞋对我们的未来是有点小期待呢还是有点担忧，乃至恐惧，或两者皆有？
不管如何，该来的都是要来的，历史的潮流是不可阻挡，我们要做的或许应该感恩昨天、珍惜今天，敬畏明天！
到原来的话题，关于丧尸与智械。首先，这两者不在同一个量级，丧尸末世中的进化变异，尖端个人战力一个可以打�