道德与利益冲突,我该怎么“拐”?

无人驾驶车辆安全调查显示公众道德标准不一致

常丽君

2016年06月27日08:56  来源:科技日报
 
原标题:道德与利益冲突,我该怎么“拐”?

  谷歌自动驾驶汽车最终样机

  

  给一台机器或“自主驾驶车辆”(AVs)编程,让它以道德原则为基础来做决策,目前要做到这一点并不难,难的是道德标准的考量,应该把自我利益还是公共利益放在首位?

  在道路安全问题上,自主驾驶车辆(简称,自主车辆)给人们抛出了一个两难之选。自主车辆包括无人驾驶的汽车、货车、巴士等,如果用交通规则给这些自主车辆编程,很容易出现规则之间互相矛盾的情景:车前面前突然出现一个行人,它要么撞上行人,要么突然急转弯,急转弯的话它又会撞上路障导致车祸,伤害车上的乘客,这种情况下应该给它什么指令?

  去年6月到11月,美国麻省理工学院和俄勒冈大学研究人员合作,对这方面问题专门做了一项调查,结果却发现公众的观点是互相矛盾的,而这种明显分歧可能真会出现在生活中。研究论文发表在最近出版的《科学》杂志上。

  道德标准遭遇社会困境

  在一系列调查中,研究人员发现,人们对自主车辆的道德标准通常采取一种“实用主义”的态度:在极端危险情况下,人们倾向于选择使事故伤亡最小的做法。这意味着如果车上有10个乘客只有1个行人,它可能撞上行人;如果车上只有1个乘客而对面有10个行人,它就会急转弯撞毁自己。参与调查的受访者同时又表示,真有如此编程的一辆自动驾驶车,他们自己并不想坐上去。基本来说,人们想要的自主车是对行人尽可能地友好——但他们自己乘坐的那辆除外。

  论文作者之一、麻省理工学院媒体实验室副教授亚德·莱万说:“大部分人想要的情况是,自主车能尽量减少伤亡,但每个人又都希望他们坐的那辆自主车辆能不计代价地保护自己。”这种结果就是所谓的“社会困境”:最终每个人都只按自己的利益行事,从而让其他人变得更不安全。“如果每个人都这么做,结果会成为一场悲剧——汽车不会减少伤亡。”

  研究人员指出,就目前来说,要想设计一种算法来调和道德价值和个人的自我利益,是很不容易的。

  调查结果彰显民意矛盾

  利用一种“亚马逊机器人塔克”(Amazon Mechanical Turk)的网上民意调查工具,研究人员进行了6次调查。每次结果都一致显示,人们更看重能挽救的生命的总体数量。76%的被调查者认为,对自主车辆而言这样更道德,如果车上只有1个乘客而行人有10个的话,则牺牲那1个乘客更为道德。

  但调查结果还显示,如果一辆自动驾驶汽车真的这样编程,牺牲乘客利益而保护行人,很少有人愿意买这种车。问卷中有一项是让人们对一辆会牺牲自己的乘客而保护10个行人的自动驾驶汽车评分,当被调查者考虑到自己可能坐在这辆车上,给它的评分顿时下降了1/3。

  如果让政府来管理无人驾驶汽车,确保按实用主义原则给它编程的话,这种设想同样遭到人们的反对。在调查中,人们买这种受管理的车的可能性只有1/3,而同时他们又反对不受管理的、假定能以任意方式编程的车。

  看来尚需实践经验指导

  大规模采用自主车辆的总体效果如何,尚不能确定。但人们基本上都同意,自主车辆能减少交通事故,要定义帮自主车辆做道德决策的算法,无疑是个艰难的挑战。

  研究人员认为,这项调查从可能出现的道德利益的角度,为人们提供了有益参考。他们也承认在这个问题上,公众的认识还处在一种早期阶段,即随着自主车辆的发展演变,目前得出的任何结论“不保证长期以后还是这样”。

  莱万说:“这个问题不仅需要从理论上探讨,重要的是还需要在实践中探讨。”

  论文中强调,这是一个挑战,任何汽车制造商和管理者都应记住这一点。此外,如果自主车辆经证明比接受政府管控更安全,强制实施实用主义算法可能导致矛盾的结果,即出于对管理的担忧而推迟采用更安全的技术,反而增加了伤亡。

(责编:马丽、赵竹青)

推荐阅读

白春礼:把党治国理政成功经验作为科技创新的行动指南 2016年6月30日上午,中国科学院在京举行纪念建党九十五周年表彰大会。中科院党组书记、院长白春礼出席并发表讲话。白春礼要求中科院各级党组织和广大共产党员,把党治国理政的成功经验作为推动科技创新的行动指南,在推进“四个率先”目标的创新实践中勇于担当历史使命,做出应有贡献。【详细】

6月“科学流言榜”发布 吃素不得心脑血管病列榜首 六月“科学流言榜”今天发布,“吃素不得心脑血管病”位列榜首。“每月科学流言榜”由北京市科学技术协会、北京地区网站联合辟谣平台、北京科技记者编辑协会共同发布,得到中国科普作家协会科技传播专业委员会、中国晚报科学编辑记者学会、上海科技传播协会的支持。【详细】