第198章 防反扑机制（求月票）（1/2）

，交易千年后，开局百万桶石油

青年人听了江凡的话，点点头：“不错，人工智能对于我们而言，是把双刃剑，用的好可以提升文明进程，用不好可能导致文明毁灭。

所以对于已经习惯于它带来利好的我们，即使是它曾经给我们带来过这么大的创伤，但时间久了，记忆淡化了，再次开启这项成果的讨论依然还是被提上了日程。

只是，这一次我们并不会像之前肆无忌惮的去使用，而是限制了它的自由。

也就是圈一个羊舍将超人工智能圈养起来，不允许它连接任何网络，更不允许它通过网络控制任何实体的东西。

就是一个单机模式，而它需要的数据完全通过移动存储设备输送给它，把它完全隔离在虚拟世界，不允许它有任何机会触碰现实的东西。

而它要做的也只是根据我们的需求提供解决方案即可，像一个参谋或军师，只负责提供意见，而真正的决策和措施由人类这个将军来执行。

这样就既用了它的优点，又避免了它的缺点。

当然，这是指的超人工智能，至于强人工智能和弱人工智能，没有这么多的限制，尤其弱人工智能，因为没有自主意识，是完全不用设限的。”

江凡觉得这法子不错，不过他也想到了一个问题，他记得《钢铁侠1》里面，托尼史塔克被恐怖分子抓进一个山洞，被要求为他们做事。

这个时候的托尼就相当于超级人工智能，其他人就是普通人类，在托尼的指挥下，人类在不知不觉中造出了初代钢铁侠战甲，让的托尼利用这个法子完成了脱身和反击。

而超级人工智能的思维水平也是远高于人类的存在，那它会不会指导人类在不知不觉间反而完成了对于自己的反杀？

江凡把这个疑问提出来道：“可你知道超人工智能可是要远远聪明过我们的，就不怕他诱导我们人类在不自觉间伤害了自己吗？”

青年人听到这个问题后并没有为难或疑惑，反而笑着说道：

“这就我刚刚跟您说的我们建造了一百多个超人工智能大脑的原因，这里面分了决策脑和验证脑。

每次有重大问题出来，让数十个决策脑同时进行决策，采纳最多决策脑提出的那个解决方案。

这还没完，我们会把这个解决方案再给到数十个验证脑那里，他们只负责评估这个方案是否存在什么可能威胁到人类的阴谋或隐患。

你知道的，我们在建造这些大脑的时候在程序里是设定了他们是对人类友善，并且决不许有反叛之心或者伤害人类的可能的。

所以总体而言他们一定是温和有好的，唯一的担心是个别由于程序问题出现突变错误而威胁人类。

但有一点我们很肯定，就是不可能上百个独立的这样的超级大脑在同一时间突然全部反叛人类，这种概率小到不可能发生。

所以我们就利用这一点设计这个模式，但凡我们经过验证脑发现决策脑中出现有突变苗头的人工智能，我们会立刻抹除它所有的程序，然后重置一个大脑出来，从源头上杜绝不利事情的发生。

当然，验证脑中也可能出现突变，但因为它没有决策权限，而且有其他验证脑同样提供验证制约着它，所以它一样也不会有威胁到人类的可能，就算有也很容易被发现，也会被立刻抹除。

当然，这些超人工智能大脑都是官方在控制的，并且有重兵守卫以及一套严格机制防止超级脑通过蛊惑守卫等人员来达成目的，可以说基本是万无一失了。”