「明日の会議に参加できますか」と聞かれて、「締切が明日なんです」と答えた場合、多くの人は断りだと受け取ります。しかし、返答には「いいえ」という言葉がありません。
CIRCAは、Yes・Noで答えられる質問に対する遠回しな応答を集め、その返答が肯定、否定、条件付きなどのどの意味を持つかを記録した英語データセットです。
本記事は公開論文と公開データセットの内容を紹介するものです。間接表現の解釈は、場面や人間関係によって変わる可能性があります。
今回取り上げるCIRCA
CIRCA: A Dataset for Natural Language Inference in Dialoguesは、Yes・No質問と間接的な回答の組み合わせを大規模に収集した研究です。
単に「遠回しな断りを書いてください」と依頼するのではなく、日常的な場面と質問を提示し、作業者がその場で自然だと思う返答を作ります。
場面がなければ意味を決められない
「もう食べました」は、「夕食を食べますか」への返答なら断りに近く、「薬を飲みましたか」への返答なら肯定です。同じ文章でも質問によって意味が変わります。
CIRCAでは、質問と回答を対にして扱います。AIは回答文だけでなく、何を聞かれたかを読んで意味を推論しなければなりません。
YesとNoの二択では足りない
間接応答には、明確な肯定・否定以外の意味があります。
- 明確な肯定
- おそらく肯定
- 条件付きの肯定
- 明確な否定
- おそらく否定
- 質問への回答になっていない
- 文脈だけでは判断できない
「時間があれば行きます」は、完全な承諾ではありません。二値ラベルへ押し込むと、条件や不確実性が消えてしまいます。
自由回答の後に別の人が意味を評価する
データ収集では、返答を書く工程と、その意味を判定する工程を分けます。作成者には自然な会話を作ってもらい、別の評価者が肯定・否定の度合いを判断します。
作成者の意図と、第三者が受け取った意味が一致しない場合もあります。この不一致は削除対象とは限らず、遠回しな表現が伝わりにくい例として価値があります。
もっともらしい理由と、実際の意思を区別する
「明日は朝が早いんです」は断りの理由として自然ですが、話者が参加しないと確定したとは限りません。AIが理由らしい文章を見つけただけで、強い否定と判断する可能性があります。
評価では、意味ラベルだけでなく、確信度や、どの部分から判断したかを記録すると、モデルの過剰な断定を検出しやすくなります。
日本語では「大丈夫です」が難しい
日本語の「大丈夫です」は、勧誘に対する断りにも、確認に対する肯定にもなります。「結構です」「検討します」「また機会があれば」も、関係性や場面によって解釈が変わります。
日本語版を作るなら、職場、接客、友人、家族などの場面を分け、質問、回答、話者関係、発話意図、受け手の解釈を別々に収集する必要があります。
遠回しな表現は誤解のデータにもなる
話者が断ったつもりでも、相手が保留と受け取ることがあります。AIへ唯一の正解を教えるだけでなく、意図と解釈のずれを記録すれば、人間同士の誤解を扱う研究にも利用できます。
RESEARCH DATASET NOTE
遠回しな応答・会話含意データをご相談いただけます
株式会社イングクラウドでは、日本語の場面文・質問・自由応答の作成、話者意図と受け手解釈の複数人評価、曖昧例の整理まで支援します。
