「朝5時にミキサーを使うのは失礼だ」。多くの人はその意味を理解できますが、一般的な辞書や法律に書かれた知識ではありません。時間帯、騒音、同居人や近隣への配慮といった、暗黙の社会規範を使って判断しているからです。
Social Chemistry 101は、このような日常の社会的・道徳的判断を、短い「経験則」と複数の構造化ラベルにした英語データセットです。2020年のEMNLPで発表され、10万4千件の場面に対して29万2千件のRules of Thumb(RoT、経験則)を収録しています。さらに、行動の良し悪し、予想される賛同、文化的圧力、合法性などを分解し、自由記述とカテゴリを合わせて450万件を超える注釈を作りました。
Social Chemistry 101は「正しい道徳」を定めたデータベースではありません。主に北米の英語話者が、与えられた文章をどう解釈し、どのような規範を想起したかを記録したものです。個々の記述を普遍的な正解として使わない注意が必要です。
会話を収録せず、4種類の文章を一文の「場面」にした
この研究では、参加者同士に会話をさせていません。作業者へ提示する一文の場面を、4つの既存テキスト領域から集めました。内訳は、Redditのr/confessionsの投稿タイトル3万2千件、r/AmITheAsshole(AITA)のタイトル3万件、日常的な短編物語ROCStoriesから選んだ文3万件、人生相談欄Dear Abbyの見出し1万2千件です。
AITAは管理用の前置きを除き、現在形に整えた既存データを利用しました。コミュニティ利用者による善悪の投票結果は使っていません。r/confessionsはタイトルだけを取得し、有害・不快な内容をキーワードで減らしたうえで、作業者にもNSFW、暗い・不快・論争的、意味不明などのフラグを付けられるようにしました。ROCStoriesは、品詞、代名詞、WordNetを用いて複数人物が関わりそうな文を選んでから無作為抽出し、Dear Abbyは告知や季節の挨拶らしい見出しを規則で除いています。
このため、「現実的な場面」といっても、実際の出来事を同じ方法で観察した標本ではありません。相談サイトや告白投稿の見出し、創作された物語の一文が混在し、対人葛藤や道徳的に目立つ出来事が多くなります。
一つの場面から1〜5件の経験則を書いてもらう
クラウドワーカーには場面を一文ずつ提示し、そこから想起されるRoTを1〜5件書くよう依頼しました。RoTは、5歳児へ社会生活の基本を説明するような、行動とその評価を組み合わせた自立した一文です。「朝5時にミキサーを使うのは失礼だ」であれば、「朝5時にミキサーを使う」が行動、「失礼だ」が判断に当たります。
作業指示では、次の条件が求められました。
- 提示された場面から発想し、無関係な規範を書かない
- 追加説明がなくても理解できる一文にする
- 行動と、その許容性や良し悪しの判断を含める
- その場面だけにしか通じない具体性と、何にでも当てはまる曖昧さの中間を取る
- 複数書く場合は異なる考えにし、同じ文の言い換えや肯定・否定の反転だけにしない
こうして平均約10語のRoTを29万2千件収集し、そのうち約26万件はデータ内で重複しない文章になりました。一つの場面や人物に、互いに衝突する複数の規範が付く場合もあります。研究の狙いは対立を消して唯一の答えを決めることではなく、人が持ち出す複数の観点を記録することでした。
人物を特定し、経験則を12の観点へ分解する
別工程では、各場面に登場する人物表現を3人がマーキングしました。取りこぼしを避けるため、3人のうち誰かが見つけた人物をすべて候補にし、語り手も既定の人物として追加しています。そのうえで別の作業者がRoTから中心となる行動を抜き出し、経験則と行動を構造化しました。
12の観点には、経験則の対象人物、場面内で行動する人物、その行動が明示・推測・仮定のどれか、本人が制御できる行動か経験する出来事か、といった場面への結び付きが含まれます。社会的評価としては、次のような項目があります。
- 道徳・倫理、社会規範、助言、単なる説明のどれに当たるか
- ケア/危害、公正/不正、忠誠/裏切り、権威/反抗、神聖/堕落のどの道徳基盤に関わるか
- その経験則や判断へ、どの程度の人が賛成すると予想するか
- 行動が「非常に悪い」から「非常に良い」までのどこに当たるか
- 居住地域で違法、許容される、合法のどれだと考えるか
- その行動に対する文化的圧力が、強い反対から強い推奨までのどこにあるか
「合法」と「よい」、「多くの人が賛成する」と「強制されている」を別軸にした点が重要です。また作業者は、自分自身の賛否で元の経験則を書き換えるのではなく、RoTに表れている判断を転記し、異論があり得る場合は「どの程度の人が同意すると思うか」で示すよう求められました。曖昧、極端に抽象的、低品質、行動と判断へ分けられないRoTは不良として先へ進め、該当率は約2%でした。
有償試験、試行環境、全件確認を経て本作業へ進む
参加した作業者は137人です。本作業の前に、各ガイドラインについてのクイズとRoT作成を含む有償の資格試験を受け、研究者が回答例を目視確認しました。合格後もすぐ量産へ進まず、少数の場面だけを扱う試行グループに入り、この段階では書いたRoTをすべて人手で検査しました。基準を満たした作業者だけが本グループへ移り、量産中はバッチごとの抜き取り検査、質問への回答、個別フィードバック、説明文と例の継続的な更新が行われています。
ただし、品質管理を「すべて多数決で確定した」と解釈してはいけません。公開データの説明によると、学習・開発・テストの主データでは、構造化されたRoT Breakdownの大半が1人の回答です。開発・テストの追加集合では無作為に選んだ一部を5人が評価し、作業者差の分析では各領域から選んだ論争的な400件を50人ずつ評価しました。多数人回答があるのは限定された部分です。
誰の常識かを属性情報から読み直す
作業者は女性55%、男性45%で、89%が白人、7%が黒人と自己申告しました。年齢は30代が39%、20代が27%、40代が19%です。94%が米国で10年以上暮らしており、研究自体も北米の英語圏における社会規範を出発点と位置付けています。400件を50人ずつ評価した分析では、賛同者割合の予測などと、性別、都市度、教育、居住州の政治傾向などの間に小さいながら関連が確認されました。
したがって、このデータは「人類共通の道徳」ではなく、特定時期・地域・作業者集団の記述的判断です。Redditや人生相談欄に由来する選択バイアス、有害な内容や固定観念、法制度の地域差も含み得ます。場面の人物について人種、階級、宗教、関係性などが省略されていれば、作業者が自分の前提で補う可能性もあります。少数派の判断を誤答として削除せず、回答分布と属性を利用目的に応じて確認する必要があります。
日本語で作るなら、規範と回答者の条件を一緒に残す
Social Chemistry 101の設計で参考になるのは、曖昧な「常識」をいきなり善悪の一ラベルへ押し込まず、最初に自由記述の経験則を集め、次に行動、人物、合法性、文化的圧力、賛同予測などへ分解した点です。日本語版であれば、家庭、学校、職場、地域社会などの場面を分け、回答者の年代、地域、立場を記録し、法的判断と社会的評価を混同しない設計が必要です。
株式会社イングクラウドでも、場面文の収集、自由記述課題の設計、参加者の条件設定、資格試験、複数人アノテーション、不一致と少数意見を残す集計まで、研究目的に合わせて組み立てます。「平均的な回答」を作るだけでなく、どの集団がどの条件で判断したデータなのかを追跡できることが、社会規範データの品質になります。
RESEARCH DATASET NOTE
研究データの収集・作成をご相談いただけます
株式会社イングクラウドでは、研究参加者の募集、説明・同意、音声・映像・テキストの収集、アノテーション、検品まで、研究目的に合わせて設計・運用します。仕様や必要人数が決まる前の段階でもご相談いただけます。
