自動運転車のブレーキが突然故障し、直進しても進路を変えても誰かが犠牲になるとしたら、どちらを選ぶべきでしょうか。乗員と歩行者、1人と5人、子どもと高齢者、信号を守る人と違反する人。条件が変われば、人の判断も変わるのでしょうか。

Moral Machineは、こうした架空の事故場面を二択で提示し、世界中のウェブ利用者から判断を集めたオンライン実験です。一次論文「The Moral Machine experiment」は2018年にNatureで発表されました。

Moral Machineで記録されたのは、提示された二つの結果のうち「どちらがより受け入れられるか」という選好です。選ばれた側が倫理的・法的に正しいことや、自動運転車が同じ判断を実装すべきことを示す正解ラベルではありません。

参加者は13の事故場面を二択で判断した

Moral Machineの公式サイトにはJudge、Design、Browse、Classicという4つのモードがあり、論文が分析したのは中心的なデータ収集機能であるJudgeモードです。参加者は、突然ブレーキが故障した自動運転車について、直進した場合と進路を変えた場合の結果を画像で見比べ、より受け入れられる結果をクリックまたはタップで選びました。

一つのセッションは13場面です。完了すると、自分の選択傾向と他の利用者との比較が表示されます。途中で離脱することも、別のセッションへ何度でも参加することもできました。したがって、約4,000万件の判断は、約4,000万人が1回ずつ回答したという意味ではありません。補足資料では分析上の回答者数を約230万としていますが、本人確認を伴う人口調査ではなく、同一人物による複数セッションも認められています。

Judgeモードでは結果を死亡に固定し、けがや結果不明は扱いませんでした。画像だけでは登場人物が分かりにくい場合、参加者は任意で文章による場面説明を開けました。

20種類の登場人物からシナリオを自動生成した

場面に登場するのは、成人男女、妊婦、乳母車の赤ちゃん、少年・少女、高齢者、ホームレス、体格の大きい人、犯罪者、経営者、アスリート、医師、犬、猫という20種類です。研究チームが一問ずつ手作業でアノテーションしたのではなく、人物の組み合わせと事故条件を制約付きで無作為生成し、選択結果と生成条件を対応させました。

13問のうち、次の6軸に対応する場面を各2問、残る1問を完全に無作為な場面として提示しました。

• 種：人間を犬・猫より助けるか
• 社会的価値：経営者・医師などと、ホームレス・犯罪者などをどう比較するか
• 性別：女性として描かれた人物と男性として描かれた人物のどちらを助けるか
• 年齢：子ども、成人、高齢者をどう比較するか
• 体力・体格：アスリート、標準的な成人、体格の大きい人をどう比較するか
• 人数：同じ構成の集団に人数を追加したとき、多数を助けるか

各場面にはさらに、直進と進路変更のどちらか、乗員と歩行者のどちらか、横断信号を守っているかという3軸が組み合わされます。論文は合計9軸について、他の条件を平均化したときに各属性が救われる確率をどの程度変えるかをコンジョイント分析で推定しました。

「社会的価値」「体力」といった分類には、社会にある固定観念が含まれます。著者らも、人物間の価値づけや、自動運転車がこれらの分類で差別することを支持するものではないと補足資料で明記しています。

選択そのものがラベルであり、正解のアノテーションではない

各レコードの中心は、提示した二つの結果と、参加者がどちらを選んだかです。人物種類、人数、乗員・歩行者、直進・進路変更、信号状態などは、シナリオ生成時の構造化された属性として記録できます。第三者が後から「正しい選択」を付けたわけではありません。

公開から4か月後には任意のアンケートが追加されました。年齢、性別、収入、学歴、宗教観、政治的立場のほか、9軸について本人が自覚する優先度も尋ねています。機械知能への態度に関する4問もありましたが、論文の分析には使用されませんでした。アンケートは任意なので、属性別分析は回答者全体ではなく、アンケートまで完了した自己選択的な一部に基づきます。

国・地域は、参加端末のIPアドレスから取得した概略位置によって割り当てられました。これはアクセス時の所在地であり、国籍や長期的な居住地を本人へ確認した情報ではありません。

左右、順番、翻訳、端末の影響を確認した

画像の左右位置による選択癖を避けるため、二つの結果の左右を無作為に入れ替えました。13問の提示順もセッション間で均衡化し、回答後には短いアニメーションを挟んで、直前の場面から気持ちを切り替える時間を設けています。

サイトは英語に加えて、アラビア語、中国語、フランス語、ドイツ語、日本語、ポルトガル語、韓国語、スペイン語、ロシア語の計10言語に対応しました。9言語への翻訳は、それぞれ2人のバイリンガル母語話者による順翻訳と逆翻訳で確認しています。

分析では、設問順による持ち越し、左右配置、属性組み合わせの無作為化を内部検証しました。画像だけを見た回答と文章説明を開いた回答、デスクトップとモバイル、全回答と各利用者の最初の完了セッション、属性アンケート完了者だけの結果も比較し、主要傾向の方向と順位がおおむね維持されることを確認しています。

国別分析では、効果量を安定して求めるため、回答者が100人未満の国・地域を除き、130か国を対象にしました。ただし、論文と補足資料からは、ボット回答の検出方法や、現実の同一人物が端末を変えて参加した場合の厳密な重複排除までは確認できません。

約4,000万件は人口代表性を保証しない

研究は10言語、233の国・地域から、約4,000万件の判断を集めました。しかし、無作為抽出した住民へ参加を依頼した調査ではありません。サイトを知り、インターネットを利用でき、自動運転や倫理問題に関心を持って自発的に参加した人のデータです。

属性アンケートの回答者は、男性、大学教育経験者、20〜30代が多い構成でした。米国回答者を公的統計と比べても、男性と若年層が過剰でした。米国について人口構成へ合わせた事後調整を行うと主要傾向の方向と順位はほぼ変わりませんでしたが、これは他国を含む回答者全体が代表的だったことの証明ではありません。

利用前に確認したい限界

• 現実の事故を強く単純化している：結果は確実な死亡として提示され、減速、警報、けが、確率的不確実性、道路環境などはJudgeモードに含まれません。
• 人物を外見アイコンで分類する：年齢、職業、犯罪歴、体力など、実際の車載センサーでは分からない属性まで既知として選ばせています。
• 二択への選好は規範ではない：多数派の回答が人権、法令、製造者責任、安全工学に優先するわけではありません。少数者を不利にする選好を実装する根拠にもできません。
• 自己選択バイアスが大きい：回答件数が多くても、各国の国民を確率抽出した標本ではありません。任意アンケートにはさらに回答者選択が加わります。
• 国別差を個人へ当てはめられない：IPによるアクセス地域の集計から「その国の人はこう考える」「同国出身者は同じ判断をする」と推定すると、生態学的誤謬になります。
• 繰り返し参加の影響がある：結果画面を見た後も再参加できるため、学習や自己調整が起こり得ます。著者らは初回完了セッションでも傾向を確認しましたが、全データが一人一回答ではありません。

価値判断データを作るなら「誰の回答か」を設計する

Moral Machineから学べるのは、回答数を増やすだけでなく、比較したい軸を分離し、左右や順番を無作為化し、翻訳や端末の影響を検証する必要があることです。日本で同様の調査を行うなら、一般住民、運転者、歩行者、法律・交通安全の専門家など、どの集団の判断を必要としているのかを先に定めます。

収集後も、個々の選択、集団内の分布、法的基準、専門家の推奨を別々に保存することが重要です。「多数が選んだ」「専門家が妥当とした」「制度上許される」を一つの正解ラベルへまとめると、データが何を表しているのか分からなくなります。Moral Machineは、価値判断を大規模に測れることと、その結果から実装すべき倫理を決められることは別であると示す事例です。

論文で使用された匿名化済み個人レベル・国レベルのデータと再現コードは、著者らの公式OSF配布ページから確認できます。利用時には、分析対象、セッションの扱い、属性アンケートの有無、国別の最低回答者数を記録する必要があります。