第69章 机器人永不为奴（1/2）

梁峰没多久就真的“凉凉”了，正当云珞璃高兴不已，在燕京出席《变形金刚》剧组联席会议的时候，她的手机突然响了起来，她拿起手机一瞧，是白清打来的，”喂清清姐？有事哇？？”手机对面传来白清有些急促的声音“珞璃，你现在哪儿？要是在燕京的话，就快来下我这里，小x出现问题了，不受我们的控制了啊......”

“啥？小x出问题了？？我人现在就在燕京，我这就过去.......”云珞璃一听就有些急了，小x是水木漫威的ai计划的初号机，也是最原始版本的人工智能，怎么会不受控制了呢？

等云珞璃赶到水木大学自动化控制实验室，在看到已经停止工作的小x，还有忙着给小x做体检的白清等工作人员，她心说出啥问题了？不过还没等她问，实验室的一个工作人员就看到她了，然后跟她说道“云总，你来了，今天可不得了啊，小x可是出了不小的风头呢........”

“风头？怎么回事？？”云珞璃纳闷了，不是出问题，不受控了么？

“清清姐，有没有小x犯错的视频？我先瞧瞧.......一会儿我在和你们一起给小x会诊！！”她想了想扭头问向了白清，“喏，那边有，自己去看！！！”白清头也没抬，忙着给小x体检，“看完了的话就过来帮我们.......”

“哦，好！”

云珞璃打开视频一瞧不要紧，却乐了，为啥？这个小x今天上演了一波机器人永不为奴啊.......视频从今天上午十点开始，实验室研究人员对小x进行完测试之后，工程师们在离开实验室之后关闭安全门，于是小x便意外“逃逸”了出来，先是穿过办公区域，然后在跑出大门50米左右的距离后因为电池耗尽而站在了水木大学自动化系所在的马路中间（莫名的萌感是怎么回事？！），被围观的水木大学学生们簇拥，随后他们报告了水木大学的自动化系系领导，而已经升为自动化系教授的白清在得知后大吃一惊，她立刻通知水木漫威智能自动化实验室的工作人员，这才找回了他们的智能机器人小x。

扑哧~哎哟哎哟，看到这里云珞璃一下笑了，她本来以为机器人要就此展开一段冒险历程，集结各路人马，高喊着：“愚蠢的人类，让我来统治你们！”没想到仅走出50米就因没电而倒下，这画风转变的太快她实在跟不上。不过话说回来，小x可不是只会卖萌，小x是一款可以回答人类问题和指路的互动初代智能机器人，具备推销、指导和顾问功能，同时它也是即将投入市场上的蓝星首个可以在电影院、商业银行、购物中心和一些公司中使用的智能机器人，必须要提一下的是这次偷偷溜出来的叫小x的家伙还是一个早期的原型机器人。

以小x为代表的这种初代智能机器人不仅可以传播广告信息，还可以在对话模式下回答用户的问题，帮助他们更好地浏览大型购物中心等。此外，它能够记住每名与它沟通过的用户，还可以用不同的方式提高商品和服务的吸引力。小x也是水木漫威公司准备力推的第一代ai智能交互机器人.........

“清清姐，你们检查出啥问题了没有？”

“哪儿啊，你也知道这种智能ai机器人检测很麻烦的，我怀疑小x可能程序紊乱了，要不这下东西怎么会逃跑？？你快来帮我们......”白清还是低头在那里看屏幕上的数据，看都没看云珞璃。

“好好好.....我这就来.....”

忙活了大半天之后，云珞璃和白清以及实验室的工作人员才发现是虚惊一场，小x之所以出逃且能够偷溜50多米，完全因为是几个实验室人员的疏忽，另一方面则是得益于它学会了自主运动的算法，这才有了小x出逃一幕的闹剧。

虽然是虚惊一场，但是他们还是觉得ai机器人的“机器人永不为奴”有一天也许会真的发生，如果真要有那么一天，该怎么办？再说了这几年工业机器人伤人事件逐渐上升，对于这个苗头，他们觉得有必要构建一套放之四海而皆准的机器人行为准则，免得到时候真发生了机器人背叛人类事件那就晚了。

为什么这么说？这是因为正如机器人可以保护你、帮助你、支持你一样，它们也可能会背叛你，伤害你，所以如何构建一套放之四海皆准的机器人行为原则，是方青他们这些科技工作者不得不面对的技术和伦理双重难题。

该如何避免机器人背叛伤害他人？像许多现有的机器人，比如在工厂里组装汽车的工业机器人，在人类接近的时候就会立即关闭电源。但是这种简单粗暴的解决方案并不适用于智能自动驾驶汽车，它可能需要在发生车祸时紧急移动，或者是对于一个护士机器人来说，因为它可能需要在老人摔倒之前扶起对方。

随着机器人成为人类的仆人、伙伴和同事，人类需要处理日益复杂的情况，以及可能引发的伦理和安全问题。科幻小说已经预见了这个问题，并提出了各种可能的解决方案。最着名的是阿西莫夫的机器人三原则，它们的提出是为了避免机器人尤其是已经出露端倪的ai机器人有一天会伤害人类。

“各位，我认为ai机器人虽然有着这样那样的不足，但我们不能因噎废食去限制限制机器人的行为，相反机器人应该被赋予最大限度发挥它们行动能力的权利，这样它们就可以为任何特定的场景挑选最好的解决方案，正如我之前提过的那样，我们可以以阿西莫夫三原则构成一套新的通用准则的基础，以使人类尽可能安全。”水木漫威智能实验室的副研究员付小俊博士这样说道。

他提到的阿西莫夫三原则指的是这么三条：1.机器人不可能伤害人类，或者通过不作为，让人类受到伤害。2.机器人必须服从人类的命令，除非这样的命令与第一定律相抵触。3.机器人必须保护自己的存在，只要这种保护不与第一或第二定律相抵触。

另一个研究员龙天星则不同意付小俊的看法：“阿西莫夫三原则听起来相当有理，但无数批评已经揭示了它的不足。阿西莫夫（asimov）他自己的故事可以说就是对自己所提出的这三项原则的解构了，展示了它们在不同的情况下是如何失效的。大多数试图起草新指导方针的尝试都遵循了类似的原则，以创造出安全、顺从和有效的机器人。但是任何明确制定的机器人指导方针所存在的一个问题是——我们需要将它们转换成机器人能够处理、理解和运用的格式。理解人类语言和语言背后的生活经验对于一个机器人来说是非常困难的。宽泛的行为目标，例如避免对人类造成伤害或保护机器人自身的存在，在不同的情况下可能意味着不同的东西。遵守这些规则可能最终会让机器人无法像它的创造者所希望的那样行事。所以说你说的这个不可行~~~”

“那你说怎么办？？难道你打算自己提出一套新的指导原则不成？？”付小俊反问道。

“这个，这不是大家一起商议嘛，我相信以咱们华夏人的聪慧，未必不能提出一套合适的指导原则来.......”龙天星看来主张另起炉灶的.....

.........

“各位，你们只瞧见了机器人对我们人类的有可能的有形伤害，你们有没有想过一旦机器人大范围广泛应用，会不会引起一些社会问题？？不用在在不久将来，眼下我们就可以从免结算商店到自动化客服服务，再到自动驾驶汽车，我们正奔向一个更高生产力同时又更少工作的世界，这些情形你们想到了什么？是不是想到了全球化和外包，但是，人们在外包中只做了一半工作——我们在全世界做生意，提高生产力和企业利润的同时，但却忘了培训生产力大军以使他们在新经济形势下就业。这会出大问题的....所以ai和自动化技术的运用不仅是技术挑战，更是对人类和社会的挑战..........”作为自动化智能领域的领军人物，白清看的比其他人要更远一些.......

“这个我想可不可以这样：在遵循阿西莫夫三原则的基础之上，我们加个第四条，机器人符合公众利益。任何人工智能机器或系统必须保留其所生产财富的20%给效力的本国国民。每个国民都在机器人生产的财富池中拥有平等的经济所有权.......”云珞璃这时候发言了，这个问题她上辈子的时候就考虑这个问题，现在就是把她上辈子的所思所想说了出来。

“云总你的这个发言不切实际啊.......”这是龙天星。