「今日も早いですね」という言葉は、出勤が早い人への感心かもしれません。しかし、遅刻してきた人へ向けられたなら、反対の意味を持つ皮肉かもしれません。

「検討します」「少し難しいかもしれません」「大丈夫です」といった表現も、文字どおりの意味だけでは判断できません。話者同士の関係、直前の会話、声の調子、共有している知識によって、承諾、保留、断りなどに意味が変わります。

人は、文章に直接書かれていない意味を日常的に補っています。一方、AIが文章表面だけを処理すると、皮肉を肯定として受け取ったり、遠回しな断りを承諾と判断したりする可能性があります。

この記事では、AIが皮肉や会話の含意をどのように学習・評価しているのか、公開論文をもとに、使用されるデータと人による判断の役割を紹介します。

本記事で紹介する論文・データセットは、当社が受託した個別案件や現在募集中の案件との関係を示すものではありません。同種のデータが研究でどのように利用されているかを知っていただくための一般的な例です。

言葉の表面と話者の意図は一致しない

会話では、伝えたい内容をすべて言葉にするとは限りません。相手との関係や場面を前提に、一部を省略したり、反対の表現を使ったりします。

このように、発話から間接的に伝わる意味は会話含意と呼ばれます。皮肉も、表面的な肯定と実際の否定的評価が食い違う点で、文脈理解が必要な現象です。

AIへ言外の意味を理解させるには、発話だけでなく、その発話が置かれた状況と、人がどのように解釈したかを対応付けたデータが必要です。

皮肉を第三者が判断するだけでは正解にならない

皮肉検出用のデータを作る単純な方法は、投稿や会話を評価者に見せ、「皮肉である」「皮肉ではない」と分類してもらうことです。

しかし、この方法では書き手の意図と読み手の解釈が混同されます。書き手は皮肉として書いていても、第三者には伝わらないことがあります。反対に、書き手は文字どおりに書いたのに、読み手が皮肉だと受け取ることもあります。

iSarcasm: A Dataset of Intended Sarcasmでは、この違いを重視し、投稿者本人が皮肉として意図したかどうかを回答する方法でデータを作っています。

従来は、特定のハッシュタグが付いた投稿を皮肉として収集したり、第三者が皮肉だと判断した文章へラベルを付けたりする方法が使われてきました。しかし、分かりやすい言い回しだけに偏り、本当に判断が難しい皮肉が少なくなる可能性があります。

iSarcasmで従来の高性能モデルを評価すると、以前のデータセットに比べて性能が低下しました。論文では、従来データには皮肉を見分けやすくする偏りがあり、現実の皮肉を十分に表していない可能性が示されています。

意図した皮肉と、伝わった皮肉を分けて記録する

皮肉には、少なくとも二つの正解があります。

• 話者の意図：本人は皮肉として発言したか
• 受け手の解釈：聞き手や第三者には皮肉として伝わったか

コミュニケーション支援を目的とするなら、どちらか一方だけでは足りません。話者が皮肉を意図しても相手に伝わらなければ、AIが意図だけを推定できても会話結果を説明できません。一方、多数の第三者が皮肉と感じても、本人の意図とは異なる場合があります。

データ収集では、本人と受け手から別々に回答を取得し、両者の一致・不一致を残す設計が考えられます。単一の正解へ無理にまとめず、解釈の分布として保持する方法もあります。

同じ質問文でも、置かれた状況によって意味が変わる

皮肉以外にも、人は質問を使って間接的に意図を伝えます。

例えば「窓、開いていますか」という質問は、単に窓の状態を確認している場合もあれば、「寒いので閉めてほしい」という依頼を含む場合もあります。「明日も来ますか」は予定確認にも、来てほしくないという示唆にもなり得ます。

DRInQ: Evaluating Conversational Implicature with Controlled Context Variationは、質問文の表面を変えず、周囲の文脈だけを変えて、LLMが暗に示された意味を読み取れるかを評価するベンチマークです。

同じ質問に対して複数の状況と解釈を作ることで、モデルが特定の単語だけを手掛かりにしていないか、文脈を本当に利用しているかを確認できます。

研究では、最新のモデルが指示に沿ってもっともらしい含意の場面を作れる一方、与えられた場面から意図された含意を復元する課題では不安定になる傾向が報告されています。自然な例文を生成できることと、他者の意図を正しく読み取れることは同じではありません。

文脈を変えた対照データが必要になる

AIが文脈を理解しているかを評価するには、質問文と正解が常に同じ組み合わせにならないようにします。

例えば「まだ仕事をしていますか」という同じ発話について、次のような複数の文脈を用意できます。

• 勤務状況を確認する上司と部下
• 早く帰宅してほしい家族
• 仕事を依頼したい同僚
• 深夜まで働いていることを心配する友人

発話文を固定し、話者関係、直前の出来事、場所、時間などを変えると、意図や適切な応答が変わります。このような対照データがあれば、モデルが発話表面ではなく文脈の違いを利用できているかを調べられます。

データ作成では、一つの自然な場面を考えるだけでなく、文章表面は同じまま意味だけが変わる条件を体系的に作る必要があります。

音声と表情が加わると判断材料が増える

皮肉や遠回しな表現は、テキストだけでなく、声の高さ、強調、間、笑い、表情、視線などにも表れます。

「すごいですね」という同じ文章でも、明るい声と笑顔で言う場合と、長い沈黙の後に低い声で言う場合では受け取り方が変わります。テキストだけのデータでは、この違いが失われます。

マルチモーダルな研究データを作る場合は、次の情報を同期させます。

• 発話内容の書き起こし
• 発話者と聞き手
• 発話の開始・終了時刻
• 声の調子、強調、間、笑い
• 表情、視線、身振り
• 直前の会話と場面設定
• 話者が意図した意味
• 受け手が解釈した意味

比喩も文字どおりの意味と文脈上の意味が異なる

言外の意味を扱う別の例として比喩があります。「議論を攻撃する」「主張を支える」といった表現では、攻撃や支えるという語が物理的な動作とは異なる意味で使われています。

VUA Metaphor Corpusを使った研究では、文章中の語を単位として、文脈上の意味と基本的な意味を比較し、比喩的に使われているかを判定します。文章全体を感覚的に分類するのではなく、評価者が共通の手順に沿って対象語を確認します。

日本語では敬語や婉曲表現も文脈に含まれる

日本語の言外の意味は、皮肉だけではありません。相手との関係を壊さないために、依頼や断りを間接的に表現することがあります。

• 今回は少し難しいかもしれません
• 社内で検討させていただきます
• また機会がありましたらお願いします
• その日は予定を確認してみます
• こちらで対応することも可能です

これらの表現は、必ず断りや不満を意味するわけではありません。同じ文でも、商談、社内会話、友人同士、初対面などの関係によって解釈が変わります。

日本語のデータを作るなら、文章だけを英語から翻訳するのではなく、日本語話者が実際に使う場面、上下関係、親疎、敬語の選択を含めて収集する必要があります。

言外の意味の正解は一つとは限らない

遠回しな表現は、あえて解釈の余地を残すために使われることもあります。そのため、評価者の回答が一致しないこと自体が、データの失敗とは限りません。

アノテーションでは、単に「皮肉か否か」を選ぶだけでなく、次のような項目を分ける方法があります。

• 話者本人は何を意図したか
• 聞き手は何を意味すると受け取ったか
• 第三者にはどう見えるか
• 判断への確信度はどの程度か
• 判断の根拠となった発話や状況は何か
• 別の解釈が成立するか

複数人の判断を集める場合も、多数決だけで一つに決めるのか、回答分布を残すのかを研究目的に合わせて決めます。解釈が割れた例は、AIにとっても人にとっても難しい境界事例として価値を持つことがあります。

AIに言外の意味を教えるには、人間関係と場面を記録する

皮肉や遠回しな表現を理解するAIを作るには、発話を大量に集めるだけでは足りません。

誰が誰に、どのような場面で、何を意図して発言し、相手がどう受け取ったかを記録する必要があります。表面上同じ発話について文脈を変えた対照例を作り、人が意図と解釈を確認する工程も必要です。

AIが流暢な会話を生成できても、相手の本当の意図を正しく読み取れるとは限りません。自然な文章生成と文脈に基づく解釈を分けて評価することが、言外の意味を扱う研究では重要になります。