第三百九十一章 ????“电车难题”是无人驾驶的绊脚石？（2/2）

刘俊豪举手补充：“工程师们众筹的道德机器，汇聚了大家的道德，也不能取得道德一致性吧？”

隋老师道：

“你们的回答都有一些道理。

实际上，在为机器人设定道德条件时，电车难题这个思想实验根本不及格。

如果硬要把它套进这一领域，特别是在制定政策、引导设计或回答一些人们关心的问题时，肯定会导致一些有关机器伦/理的危险且不完整的结论。

我们千万别让功利主义蒙了眼睛。

‘电车难题’1967年诞生时，哲学家菲利帕·富特探讨的是人的打算与他们预见的不同。

当时富特拿堕胎打了一个比方，如果产妇难产，是摘掉产妇的子宫放手一搏来救孩子（属于‘预见’的范畴，成了皆大欢喜，失败了就一尸两命），还是直接结束孩子的生命（属于‘打算’的范畴）来救产妇一命呢？

同样都是面对产妇难产，不同的处理方式会带来不同的道德结论。

富特当时还引申出了许多类似的情况，其中之一就与有轨电车司机有关。

另外一个则属于法官面对的难题，她设想如果法官不判处一位无辜群众的死刑，暴徒就威胁要冲击法庭。

第二个设想就与电车难题类似，法官要做出选择，到底是为了正义牺牲多数人的生命，还是为了多数人的利益牺牲无辜者。

经过一番研究，富特在论文中表示：‘大多数选择牺牲扳道员来拯救更多生命的人，如果碰上法官歪曲黑白剥夺无辜者生命时也会感到震惊。’

于是，她总结称，一个人做什么和一个人允许什么之间是有差别的，因此避免伤害和带来帮助之间的差别非常重要。

富特的论文虽然简短，但给现在的读者提供了一个全新的视角来看待无人驾驶汽车遇到的道德困境，而不是钻进‘电车难题’的牛角尖里爬不出来。

从某种程度上来说，这是因为富特遵循了大家所熟知的美德伦/理（来自古希腊亚里士多德）。

大家熟知的美德伦/理是什么呢？”

邓民中举手道：“利他主义！”

隋老师鼓励大家继续举手回答。

荣颜同学举手回答：“人生而平等！”

隋老师笑着问：“还有哪个同学回答吗？”

同学们都不在举手。

隋老师说：

“刚才邓民中、荣颜同学回答得不够准确。

美德伦/理，是指一个人的道德水平甚至可以和生命划等号！

不过，在讨论无人驾驶汽车时，大多数人会自动忽略美德伦/理，他们更重视无人驾驶汽车带来的最终结果。

在道德哲学里，这样的方式是与美德伦/理截然不同的，它的学名叫做结果论，而结果论中有个著名的分支——功利主义。

也就是说，秉承这种理论的人在做事前会首先考虑自己行为可能导致的后果。

眼下，功利主义已经成了无人驾驶汽车修辞学中根深蒂固的思想，而在宣传时大家总是会提到无人驾驶汽车带来的全方位安全防护。

鉴于米国2006年因车祸丧生的人高达3.7万名且有94%都是司机犯错，因此用可靠的机器人替换容易犯错的人类成了一件有百利而无一害的大好事。

不过问题是，只关注结果会让盲目的人们忘记原来无人驾驶汽车也有缺点。

就像富特提出的电车司机与法官的案例在道德上不能类比一样，无人驾驶汽车在相同情况下可能也会造成不同的道德、法律和公民后果。”