道德机器正在学习我们希望如何杀死自动驾驶汽车

 
尽管自动驾驶汽车在普及之前仍面临着巨大的技术挑战，但其道德决策却成为更大的障碍。工程师们似乎在技术方面正在系统地进步，但是设计一个解决社会问题的框架仍然是有问题的。
据《道德机器》(Moral Machine)创立五年后，这是一项在线测验，旨在评估对无人驾驶汽车所面临的决策的反应，围绕道德的讨论更多，但对于围绕道德问题达成社会共识的问题尚无明确的框架该项目的共同创建者之一，让·弗朗索瓦·博内丰(Jean-FrançoisBonnefon)是图卢兹经济学院和图卢兹人工与自然智能研究所的法国研究员。
他在10月9日于法国图卢兹举行的Minds&Tech Conference上的一次演讲中说：“这是我们作为一个社区需要共同做出的共同决定。”这些决定不能留给汽车制造商。我们必须设计人们表达意见的方式。”
与麻省理工学院合作的道德机器项目，去年在科学期刊《自然》上发表了一些初步成果时引起了轰动。该网站提出了一系列折衷方案，每个方案都有一些令人毛骨悚然的选择，并要求观众选择他们在给定情况下会做出的选择。
截至去年，该网站已经用来自233个国家和地区的人们的十种语言统计了4000万个决策。基本发现似乎并不令人惊讶：人们会选择在可能的情况下拯救更多的生命，而不是成年人，而不是动物，而不是成年人。自该研究发表以来，回应的数量已攀升至1亿。
Bonnefon说，但是设计测验需要极大的简化，仅涉及几乎无数的自动驾驶汽车将要采取的夺命决定。
“当您包含越来越多的演员时，您将达到一个令人生畏的复杂程度，” Bonnefon说。 “有100万个选项。您如何编写包含一百万个选项的调查?不可能。”
因此，道德机器是一种有启发性但不完善且有限的替代品。是的，人们希望保存更多的号码。但是，如果人数较少的人包括孕妇或推婴儿车的人怎么办?在某些时候，设计车辆决策系统的监管机构和工程师将需要就某种答案达成共识，以便对答案进行相应编程。
“这是一个糟糕的决定，”博内丰说。 “我敢肯定，有些人对我们应该节省更多人数的想法感到不舒服。当我们使情况变得复杂时，我们可能会遇到不清楚的地方，那就是保存更多的数字是首选。
尽管如此，在围绕这些问题进行更广泛的全球对话的程度上，该实验还是成功的。例如，今年夏天，由11个汽车制造商组成的联盟发布了一份名为“自动驾驶安全第一”的白皮书，该白皮书提出了确定自动驾驶汽车是否可以被视为安全的标准框架。
但是，邦纳丰(Bonnefon)强调，道德机器并不意味着要替代一种实际方法，该方法将使社区和政府能够确定什么被社会接受。重要的是，监管机构不仅要意识到考虑社会观点的必要性，而且要创造一种以有意义的方式真正捕捉这些观点的方法。这包括回答有关谁获得输入，如何将结果传达给公众以及当专家或公众都不能就“正确”决定达成明确协议时该怎么做的问题。
他说：“我们确实有这些数据。” “现在我们知道了，我们该怎么办?我们的意图从未是使它成为全球民主活动。这将是一个可怕的想法。但是政府需要知道人们不会接受什么。”