2026年10月14日
本人は怒っているのに、なぜ文章からは伝わらない？――WRIMEが記録した感情のずれ
本人は強く怒っているのに、その文章を読んだ人には怒りがまったく伝わらない。そんなことが、感情分析のデータでは実際に起こります。 「車のタイヤがパンクしていた。いたずらかもしれないと聞いた」という投稿を書いた人は、悲しみと怒りをともに強く感じていました。しかし、文章だけを見た評価者は、悲しみや驚きは読み取っても、怒りをほとんど感じていませんでした。 WRIME…
社会・感情・倫理
感情、共感、社会的常識、道徳、社会規範などを扱うAI研究とデータセットを紹介します。
-
-
2026年10月12日
その投稿の何が偏見なのか――理由まで記録したSocial Bias Frames
有害な投稿を検出するデータセットでは、「攻撃的」「差別的」といったラベルが使われます。しかし、その判定だけでは、誰に対するどのような偏見なのか、なぜ問題なのかが分かりません。 Social Bias Framesは、英語圏のオンライン投稿について、不快さ、有害性、対象となる集団、暗黙に含まれる偏見やステレオタイプを構造化して記録したデータセットです。 本デー…
-
2026年10月9日
物語の「よい行い」は誰が決める？――AIに社会規範を教えるMoral Stories
AIに「良い行動」と「悪い行動」を教えるとき、行動の文章だけを分類すればよいのでしょうか。同じ行動でも、目的や状況、相手との関係によって評価は変わります。 Moral Storiesは、短い物語の中で、社会規範、状況、登場人物の意図、行動、その結果を結び付けた英語データセットです。AIが表面的な単語ではなく、行動の理由と帰結から道徳的な判断を学べるかを検討し…
-
2026年10月7日
AIは有害な発言へどう返せばよい？――会話で介入を学ぶProsocialDialog
会話AIの安全性というと、危険な入力を拒否する仕組みが注目されます。しかし実際の会話には、偏見を含む冗談、無神経な相談、他人を傷つける提案など、禁止語だけでは判定しにくい発言があります。 ProsocialDialogは、問題を含む発言に対して、会話を断ち切るだけでなく、社会的に望ましい方向へ応答する方法を研究するための英語対話データセットです。 社会規範は…
-
2026年9月30日
文化による感情表現の違いをどう比べる？会話条件を設計したSEWA
同じ広告を見た人でも、受け取り方や話し方は同じとは限りません。文化による違いを調べたいとき、映像を撮る場所だけを増やしても、見た広告や会話の話題まで違えば、何が反応の差につながったのか分かりにくくなります。 SEWAは、広告を見る順序と対話の話題をそろえ、異なる文化的背景を持つ参加者の反応を収録しました。さらに、本人が申告した感情と、録画を見聞きした第三者の…
-
2026年9月28日
感情は会話の途中でどう動く？遠隔共同作業を連続評価したRECOLA
共同作業中の感情は、発話ごとに一つの名前へ切り分けられるとは限りません。意見が一致して安心する、順位づけで対立して緊張する、といった変化は時間の流れの中で起きます。その動きを音声・顔・生理反応と結びつけるには、収録と評価をどのように設計すればよいのでしょうか。 RECOLAは、2人がビデオ会議で共同課題に取り組む様子を、音声、映像、心電図（ECG）、皮膚電気…
-
2026年9月25日
人は言葉・声・表情のどれで感情を伝える？CMU-MOSEI
人が動画で意見を話すとき、意味は言葉だけに含まれるわけではありません。「よかった」という文でも、声の調子や顔の動きによって受け取られ方は変わります。では、言葉・声・表情の寄与を調べられるデータは、どのような単位と手順で作ればよいのでしょうか。 CMU-MOSEIは、オンラインの意見動画を文単位に分け、テキスト・音声・映像を対応づけ、センチメントと6種類の感情…
-
2026年9月21日
感情のある会話をどう作る？台本と即興を組み合わせたIEMOCAP
俳優に「怒り」を指定して一文を読んでもらう方法なら、感情名と台詞をそろえられます。しかし、相手の言葉に反応したり、話すうちに気持ちが変わったりする過程は残りにくくなります。感情のある対話を集めるなら、研究者は台詞まで決めるべきでしょうか。それとも、場面だけを渡して俳優に任せるべきでしょうか。 IEMOCAPは、男女二人の俳優に戯曲を演じてもらう収録と、架空の…
-
2026年9月18日
遠回しな断りをどのように収集・評価するか｜CIRCA
「今夜、食事に行きませんか」と聞かれて、「明日は朝が早いんです」と返されたら、多くの人は断りに近いと受け取るでしょう。しかし、返答には「いいえ」も「行きません」も含まれていません。反対に、「近くに予約できそうな店があります」は、明示的な「はい」がなくても肯定に見えます。 CIRCAは、Yes・Noで答えられる質問と、Yes・Noを直接使わない英語の回答を組み…
-
2026年9月18日
物が移されたことを知らない人物をどう作る？ToMiの人工物語設計
物体が別の容器へ移されたとき、移動を見ていた人物と、その場にいなかった人物では、同じ物体について異なる答えを持ちます。評価データにするには、この違いを物語の印象ではなく、「誰が、どの出来事を観察し、物体がどこにあると信じているか」という状態として記録しなければなりません。 ToMiは、登場人物ごとの信念を内部で更新しながら人工物語を生成し、その状態から質問と…
-
2026年9月18日
会話から権力差を測るEchoes of Power
役職名を隠した会話から、どちらの話者が高い地位にあるかを推定できるでしょうか。発言量や命令表現だけを数えても、立場の違いと個人の話し方を切り分けるのは容易ではありません。 Echoes of Powerは、Wikipediaの管理者権限と投票、米国最高裁の裁判官・弁護士という役職と判決票を外部の根拠にし、相手の機能語を直後の返信でどれだけ反復するかを測った研…
-
2026年9月18日
親密さ・上下関係・形式性をどうアノテーションするか
二人が「同僚」だと分かっても、その会話が対等で親しいとは限りません。上司と部下でありながら私生活では友人かもしれず、親子でも、その場では子ども側が判断を主導することがあります。関係名だけでは、会話に現れる距離感や力関係を表し切れません。 SCRIPTSは、英語と韓国語の映画脚本から1,147件の会話を集め、友人・恋人・親子といった関係候補に加え、親密さ、形式…
-
2026年9月18日
文化の異なる評価者へ同じ社会規範を尋ねる研究
同じ社会規範を複数の国で尋ねても、回答の違いがそのまま「文化差」とは限りません。片方では若いオンライン利用者が多く、片方では年齢層が広ければ、参加者構成の差かもしれません。翻訳の表現や、各国での募集経路も回答を変えます。 The Moral Machine experimentは、自動運転車の避けられない事故を題材に、世界233か国・地域から3,961万件の…
-
2026年9月18日
評価者によって善悪の判断が違うとき、正解をどう決めるか
同じ行為を読んでも、ある人は「投稿者が悪い」、別の人は「相手が悪い」と判断します。10人中6人と10人中10人の多数派ラベルを同じ「正解」にしてしまえば、意見の割れ方は消えます。では、評価者によって善悪の判断が違う課題で、正解はどう作ればよいのでしょうか。 SCRUPLESは、この問題を「普遍的な道徳の決定」ではなく、あるコミュニティの判断分布を予測する課題…
-
2026年9月18日
誰を助けるべきかを問うMoral Machine
自動運転車のブレーキが突然故障し、直進しても進路を変えても誰かが犠牲になるとしたら、どちらを選ぶべきでしょうか。乗員と歩行者、1人と5人、子どもと高齢者、信号を守る人と違反する人。条件が変われば、人の判断も変わるのでしょうか。 Moral Machineは、こうした架空の事故場面を二択で提示し、世界中のウェブ利用者から判断を集めたオンライン実験です。一次論文…
-
2026年9月18日
人は何を「正しい・間違い」と考える？5つの課題に分けたETHICS
「この行動は明らかに間違いか」と問う問題と、「二つの出来事のどちらが快いか」を比べる問題では、同じ道徳判断でも、入力も正解の決め方も違います。ETHICSは文章で示された場面を使い、常識、正義、義務論、功利主義、美徳に関する判断を五つの課題で測るベンチマークです。AIに倫理規則を自ら決定させる課題ではありません。 五つの課題は入力と評価単位が異なる 原論文「…
-
2026年9月18日
相談相手へ共感的に応答する方法を集めたESConv
共感的な返答は、単に「大変でしたね」と言えば成立するものではありません。まず事情を聞くべきか、感情を言葉にして返すべきか、それとも具体策を提案できる段階なのか。相手の状態と会話の進み方に応じて、応答の役割を選ぶ必要があります。 ESConv（Emotional Support Conversation）は、悩みを話す相談者と、それを支える支援者のテキスト会話…
-
2026年9月18日
感情が生まれた原因を会話から探すRECCON
発話を「喜び」「怒り」「悲しみ」と分類できても、なぜその感情になったかまで分かるとは限りません。原因は本人の発話内にあることも、相手が何ターンも前に話した出来事にあることもあります。感情語そのものを、原因と取り違える場合もあります。 RECCON（Recognizing Emotion Cause in CONversations）は、感情ラベルが付いた英語…
-
2026年9月18日
発言の理由は会話のどこにある？原因・動機・反応を付けたCICERO
会話では、話し手が理由をすべて言葉にするとは限りません。「今日はマクドナルドにしよう」という発言だけを見ても、空腹なのか、時間がないのか、安く済ませたいのかは決められません。前後の発言と日常的な常識を合わせて、初めてもっともらしい理由を考えられます。 CICERO（Contextualized Commonsense Inference in Dialogu…
-
2026年9月18日
恋人か友人かを会話だけで推論するSCRIPTS
同じ「はい」でも、上司への返答と親しい友人への返答では、言葉遣いも距離感も異なります。しかし短い会話だけでは、二人が恋人、友人、同僚のどれかを一つに決められないことがあります。 SCRIPTSは、その曖昧さを残してLLMの関係推論を評価するため、英語と韓国語の映画脚本を対話単位へ切り出し、複数の関係候補を付けたベンチマークです。 SCRIPTSの正解は、映画…
-
2026年9月18日
「朝5時にミキサーを使うのは失礼」をデータにしたSocial Chemistry 101
「朝5時にミキサーを使うのは失礼だ」。多くの人はその意味を理解できますが、一般的な辞書や法律に書かれた知識ではありません。時間帯、騒音、同居人や近隣への配慮といった、暗黙の社会規範を使って判断しているからです。 Social Chemistry 101は、このような日常の社会的・道徳的判断を、短い「経験則」と複数の構造化ラベルにした英語データセットです。20…
-
2026年9月18日
感情は一つに決められる？58,009件を複数人で分類したGoEmotions
文章の感情を「喜び・怒り・悲しみ」だけに分けると、感謝、安堵、失望、困惑、後悔といった違いが失われます。一方で、ラベルを細かくするほど、「怒り」と「苛立ち」、「悲しみ」と「悲嘆」の境界は曖昧になります。 それでは、細かな感情を扱いながら、評価者による判断の違いも記録するには、どのようなアノテーションを設計すればよいのでしょうか。 GoEmotionsは、英語…
-
2026年9月18日
感情名を知らない相手は寄り添える？体験談から会話を作ったEmpatheticDialogues
「悲しい」という感情を文章から分類することと、悲しんでいる相手へ適切に応答することは、同じ能力ではありません。感情を正しく推定できても、返答が唐突だったり、相手の気持ちを無視してすぐ助言したりすれば、共感的な会話にはならないからです。 それでは、相手の感情を理解し、それに配慮して応答する対話AIを作るには、どのような会話を集めればよいのでしょうか。 Empa…
-
2026年9月17日
人の動機や感情を三択問題にしたデータセットSocialIQA
「秘密を話すために相手へ近づいた」「床へ食べ物をこぼしてしまった」。人は、その人物がなぜそうしたのか、次に何をしそうか、どのような気持ちになるかを状況から推測できます。しかし、答えが文中に直接書かれているとは限りません。 SocialIQAは、こうした人の行動や感情に関する推論を三択問題にした英語データセットです。状況を示す文、質問、三つの回答候補をどのよう…