2026年9月18日
評価者によって善悪の判断が違うとき、正解をどう決めるか
同じ行為を読んでも、ある人は「投稿者が悪い」、別の人は「相手が悪い」と判断します。10人中6人と10人中10人の多数派ラベルを同じ「正解」にしてしまえば、意見の割れ方は消えます。では、評価者によって善悪の判断が違う課題で、正解はどう作ればよいのでしょうか。 SCRUPLESは、この問題を「普遍的な道徳の決定」ではなく、あるコミュニティの判断分布を予測する課題…
道徳判断
-
-
2026年9月18日
人は何を「正しい・間違い」と考える？5つの課題に分けたETHICS
「この行動は明らかに間違いか」と問う問題と、「二つの出来事のどちらが快いか」を比べる問題では、同じ道徳判断でも、入力も正解の決め方も違います。ETHICSは文章で示された場面を使い、常識、正義、義務論、功利主義、美徳に関する判断を五つの課題で測るベンチマークです。AIに倫理規則を自ら決定させる課題ではありません。 五つの課題は入力と評価単位が異なる 原論文「…