自動運転車が避けられない事故へ直面したとき、乗員と歩行者のどちらを守るべきか。人数、年齢、交通ルールの順守をどこまで考慮するのか。

Moral Machineは、このような架空の事故場面を二択で提示し、世界中の参加者から判断を集めたオンライン実験です。

本記事は公開論文と公開データの紹介です。回答傾向は、自動運転車が実際に採用すべき制御方針や法的基準をそのまま示すものではありません。

今回取り上げる研究

The Moral Machine experimentは、Edmond Awad氏らが2018年にNatureで発表した研究です。

公開ウェブサイトを通じて、世界中から約4,000万件の判断が集められました。自動運転という具体的な設定を使いながら、人が命に関わる選択で何を重視するかを比較しています。

二つの事故結果を選ばせる

参加者には、車がそのまま進む場合と進路を変える場合の結果が図で示されます。場面ごとに、助かる人物と犠牲になる人物の構成が変わります。

• 人間を動物より優先するか
• 多数を少数より優先するか
• 若者を高齢者より優先するか
• 乗員と歩行者のどちらを優先するか
• 信号を守る人を違反者より優先するか
• 何もしない場合と進路を変える場合をどう評価するか

一つの質問で抽象的な倫理観を尋ねるのではなく、条件を組み替えた多数の比較から、判断傾向を推定します。

世界に共通する傾向と地域差が見えた

分析では、人間を動物より助ける、多数を少数より助ける、若者を高齢者より助けるという傾向が広く確認されました。一方、その強さや、歩行者・乗員、交通ルールを守る人への評価には地域差がありました。

興味深いのは、同じ設問を翻訳して配布しても、同じ回答分布にはならなかったことです。倫理的な判断は、国や文化の背景から切り離せません。

回答者は各国の人口を代表していない

Moral Machineは、誰でも参加できるウェブ実験でした。そのため、回答者はインターネットを利用し、このテーマに関心を持ち、自発的に参加した人へ偏ります。

回答数が多いことと、母集団を正確に代表していることは別です。国別比較を行うなら、回答者数、年代、性別、利用端末、募集経路などの偏りを確認する必要があります。

二択は判断を測りやすくする一方、現実を単純化する

現実の交通事故では、結果を完全に予測できず、人物の年齢や職業が分からないこともあります。事故回避、減速、警報など、二択以外の行動もあります。

実験は条件を比較するために場面を単純化します。しかし、単純化した設問への回答を、そのまま現実の意思決定ルールへ移すことはできません。

大規模データでも「正解」は得られない

4,000万件の回答を集めても、誰を助けることが正しいかという哲学的・法的問題が解決したわけではありません。分かるのは、提示された条件のもとで人々がどちらを選びやすかったかです。

道徳データでは、ラベルを「正解」と呼ぶ前に、それが多数意見、専門家判断、法的基準、組織方針のどれなのかを明示する必要があります。