2026年9月18日
評価者によって善悪の判断が違うとき、正解をどう決めるか
同僚の間違いを本人に知らせず、上司へ報告した。友人のためを思って秘密を家族へ話した。このような場面では、同じ文章を読んでも人によって善悪の判断が分かれます。 AI用データを作るとき、3人中2人が「悪い」と答えたら、それを正解にしてよいのでしょうか。道徳判断では、不一致そのものが重要な情報になります。 本記事は公開研究を手掛かりに、価値判断データの設計を考える…
道徳判断
-
-
2026年9月18日
道徳的な判断が分かれる事例を集めたETHICS
落とし物を届ける。約束を破る。少数の人を犠牲にして多数を助ける。いずれも道徳に関係しますが、同じ基準だけでは評価できません。 ETHICSは、AIの道徳判断を一つの善悪問題として扱わず、日常的な常識、正義、義務論、功利主義、美徳という五つの領域に分けて評価する英語データセットです。 本記事は公開論文と公開データセットの内容を紹介するものです。データセットの多…