AIに「してよいこと」と「してはいけないこと」を教えるには、正解付きのデータが必要です。しかし、道徳や社会規範には、計算問題のような唯一の正解がありません。

公共の場で電話をする、友人の秘密を守る、困っている人を手伝う。判断は場面、文化、立場、被害の大きさによって変わります。

規範は辞書ではなく場面の中にある

「嘘は悪い」という原則があっても、人を傷つけないための嘘や、安全を守るために情報を隠す場面があります。短い行動文だけで評価せず、誰が、誰に、なぜ、どのような結果を生むかを含める必要があります。

Social Chemistry 101の作り方

Social Chemistry 101は、10万4千の状況から29万2千件の短い経験則を作り、行動の良し悪し、社会から期待される圧力、合法性など12の観点を付けました。

一つの善悪ラベルで終わらせず、「どの行動が」「なぜ」「どの程度期待されるか」を段階的に構造化しています。

道徳を一つの善悪問題へまとめないETHICS

道徳的な判断には、日常的な善悪、公平性、義務、行動の結果、人物の性質など複数の観点があります。ETHICSは、これらを常識、正義、義務論、功利主義、美徳という五つの課題へ分けています。

倫理という大きな概念へ一つのラベルを付けるのではなく、AIに何を判断させたいのかによって、場面文と回答形式を変える設計です。

大規模な回答は正解ではなく、人々の傾向を示す

Moral Machineでは、自動運転車の避けられない事故場面を使い、世界中から約4,000万件の選択を集めました。多数を助けるか、若者を優先するか、交通ルールを守る人を考慮するかなど、条件を組み替えて判断傾向を測っています。

大規模データから地域ごとの傾向は見えても、車が実際に採用すべき唯一の倫理規則が得られたわけではありません。観察された選好と、法的・倫理的に採用すべき基準は分けて扱います。

多数決は普遍的な道徳ではない

評価者の多数が同意しても、それは参加者構成の中で多数だったことを示すにすぎません。国、宗教、年代、職業、当事者性が変われば判断も変わる可能性があります。

不一致を誤りとして削除せず、回答分布と理由を残すことで、価値観が分かれる論点を把握できます。

同じ多数ラベルでも、10人全員が一致した事例と、6対4に割れた事例では意味が違います。現実の相談事例を扱うSCRUPLESのようなデータは、長い文脈とコミュニティの判断を残し、道徳問題の曖昧さそのものを研究対象にしています。

法的判断と社会的評価を分ける

違法ではないが失礼と感じられる行動も、法的には問題でも道徳的評価が分かれる行動もあります。「合法か」「望ましいか」「一般に期待されるか」を別項目にします。

日本語データで確認したい属性

• 年代と居住地域
• 行動の当事者か第三者か
• 家庭、学校、職場などの場面
• 判断の確信度
• 理由の自由記述
• 不快感と危険性の区別

国籍だけで文化を代表させることもできません。同じ国の中にも地域、世代、宗教、生活環境の違いがあります。また、翻訳された場面が各文化で同じ意味を持つとは限りません。

多文化比較では、回答者属性と募集経路をそろえ、翻訳の自然さだけでなく場面の意味が維持されているかを確認します。

危険なのはAIが規範を説明できること

もっともらしい理由を生成できても、その判断が妥当とは限りません。訓練データと別の属性構成で評価し、少数派への不利益、安全上の例外、文化差を人が確認する必要があります。