第二百八十四章 人工智能是否会威胁人类，在于它对人类的评估（1/2）

，从科大少年班开始的重塑人生

吴哲见沉知文太激动，赶紧劝道:“知文，你可别想着一口吃成胖子。按现在的技术要想达成你心中的完美构想是不可能的，一步步来。以后是大数据的时代。”

“阿哲，按你这么说的话，人工智能时代不是很快就能来临。”汪潮有点惊奇的道。

他想想电影中的画面，就感觉到有缺。

又接着问吴哲:“人工智能的出现，会不会真像电影里演的一样，对人类产生威胁。”

吴哲见三人对这个问题都很有兴趣，思考了下回答道:“在我看来，产生人工智能的时间还早，当然不排除偶然因素的出现。至于会不会对人类做出危险，那应该在于ai对于文明人类的定义。怎么样来评估人类？”

吴哲这话说出，不光是汪潮和黄明海有些发愣。连精通计算机的沉知文也没有听明白吴哲这话是什么意思。

“阿哲，你这是什么意思？难道我们发明了它，它还能造反不成。你们不是有什么人工智能三大定律吗？我记得排首位的应该就是ai不能伤害人类吧？”汪潮诧异的问道。

“汪潮，好歹你也是学理的，骗骗外行的话，你也信？”吴哲鄙夷的笑笑，“真要出现ai生命，你就算在底层程序中设置了不伤害人类这一条规则。你信不信它能把代码倒过来用火星文重写一遍？在ai生命里就没有不能打破的规则！”

“擦，那不是完全不可控？”汪潮惊叫了声。

“那我问你，性本善，还是性本恶！”吴哲继续问道。

“阿哲，这是个哲学问题。我们学理的就不用分得那么清了吧？”黄明海在旁听得头大。

沉知文却觉着这个问题关乎智能生命很重要的一部分，忙拦住黄明海，“阿哲这里面还有什么说法吗？”

“呃，真想听？解释起来会有点拗口！”吴哲这会却不怎么想解释了，太麻烦！

“嘿，吊胃口？你越这样我们还越想听了。不就是出生下来人是好的还是坏的这一争论吗？整得这么神秘干嘛？”汪潮在旁边叫嚣。

“啪！”头上被吴哲敲了下，“让你丫的不学无术，对了。汪潮你想在金融领域更进一步，能超越西方的理论体系，我劝你多看下东方的哲学思想，多思考。”

捂着头的汪潮有些不解的看着吴哲，我一学数学的。你让我看古文？

吴哲点了汪潮一句，没再多说。有些东西要自己悟才行。

“孟子的性善论，并不是说人天性本善。而是一种本能欲望。这种欲望是发自内心的天性。荀子的性恶论当然也不是说人生下来就是恶的，这里的“性恶”是指人的欲望无限发展的趋势造成坏的结果。人的欲望是无限的，时间长了大家就会争，争则乱，乱则恶。”

“所以两人的关于“性”的理解完全不同，一个在于本能，比如吃饭，睡觉。而另一个说的是欲望不受控制而导致的后果。”

“好了，现在我们转回到ai生命上来，我刚刚说的几乎都是生命诞生意识后会出现的情况。那ai的本能是什么呢？不用吃饭和睡觉，他的本能应该就是计算和验证，然后是探索。那它会有欲望吗？而一旦不可控又会发生什么？”

“我们的历史文明对于时间和空间来说，那是一个片段，对于ai来说那就是一段数据流，而在数据流中的我们人类，也许对ai来说是比较重要的数据，而当它的欲望膨胀到认为清除我们，对于这股数据洪流有益无害时，那敌对将不可避免。所以我前面就提到过ai诞生，不在于底层逻辑，而在于它对于整个人类文明的评估。”

吴哲已经尽量用通俗的语言去解释，可三人还是听得云山雾罩的。转念想想，自己操这个心干嘛？这真出事，前面不还有高个在那顶着嘛！至少吴哲肯定会比他们考虑的要多。

“嗨，阿哲，一句话。就是以后肯定会闹翻呗！搞这东西出来，意思还得把反制他的东西一起搞出来，对吧！”汪潮大大咧咧道。

反正那不是他研究的领域，该操心的是吴哲和沉知文才是。

吴哲瞄了他一眼道:“我再打个比方，你说我们人是什么？”

这最简单的一个问题，把在场的三

个人都难住了。做了这么久的人了，还真没思考过人是什么？

不等几人回答，吴哲就笑着说道:“我们人类也是有底层代码的，也就是dna和造就情绪的那些化学物质。一则造就了物质身体，另一个则是通过生物电和一些化学物质产生了情绪，而那些情绪进一步作用而成了意识，也可以叫做灵魂。

可是我们还无法做到区分数十亿的神经单元所产生的生物电和其中的变量。但里面的规律性是显而易见的，那你们说我们是不是也是设计好的？

假设有这么个造物主，如果天天奴役你，压榨你，还天天的翻看你的dna，不时的改改写写。让你毫无保留的袒露在外，你会怎么做？”

“那不废话？淦他丫的！”汪潮想都没想就喊道。

沉知文眉头皱得很深，吴哲的话说的已经很明白了。

看了眼吴哲道:“阿哲，这些只是你的推断，是不是真如你说的这样，还不能下定论。”

吴哲摊了摊手，他知道沉知文的意思，刚刚他的话其实不应该是从他嘴里说出来的，因为这些都没有论据，而且他刚刚的话已经涉及到造物主而不是达尔文的进化论了。

“嘿，瞎扯而已。你们还当真了啊！赶紧吃完回校。”吴哲劝道。

但他还是叮嘱了沉知文一句，“知文，你最好学一下生物学，特别是脑神经方面的，这对你以后ai方面应该会有用，我刚刚说的，那些神经元什么的，可没虚构。”

“嗯！我会学习的！我也觉得你的见解有独到之处。”沉知文点点头。

黄明海笑着道:“阿哲，你给知文还有汪潮都指明了道路，可不能厚此薄彼。看看我后面应该加强什么？”

“他什么时候给我指路了啊？我怎么不知道？”汪潮一脸问号。

“你汪大少挺聪明的一个人，这会怎么犯湖涂了？阿哲，让你学习古代的东方哲学思维。这还不明白，你什么时候见过阿哲乱讲的？”黄明海敲了敲汪潮的榆木脑袋。

“老大你以后想在物理哪个方面有所研究？”吴哲是真不知道黄明海具体的是研究哪个方面的，后来他进航天部，很多东西的是保密的，。吴哲没问过，而黄明海就更不可能说了。

“还没想好，我希望有一天，我能让我们国家的人也能上天，登月亦或者是能去火星。这是我儿时的梦想。”

这题目给得够大，吴哲也不知道该说什么。航天是个系统工程，这学科包罗万象，基本是一个国家最顶峰的技术产物。

“这我还真给不了意见，这航天工程包含的学科太多了。不过材料和动力这两个是无论如何也绕不过的课题。你可以加强一下。”

吴哲也只能给出这样的建议。

四人吃好后，又在客厅聊了会寒假里各自的趣事。看看时间差不多了，几人动身回学校。

少院的一间教室内，这届的新生则是非常热闹的在谈论寒假生活，当中也免不了说到吴哲，自己这位同学，在过年后可又是闹出些风波的。