「コーヒーを作って」と頼まれても、キッチンに陶器とガラスのマグカップがあれば、どちらを使うか分かりません。利用者の好みなら質問した方がよい一方、野菜を洗うかどうかまで毎回尋ねるロボットは使いにくくなります。危険がある場面では、勝手な補完が事故につながるかもしれません。

AmbiK（Dataset of Ambiguous Tasks in Kitchen Environment）は、キッチンロボットが曖昧な英語指示を見分け、必要に応じて利用者へ確認する研究のためのテキストデータセットです。曖昧な指示1,000件と、それぞれに対応する明確な指示1,000件の計2,000タスクを収録しています。

ただし、AmbiKは人とロボットの自然な会話を収録したデータではありません。研究者がキッチン環境を文章で構成し、MistralとChatGPTで指示、確認質問、回答などの候補を生成し、研究チームが選別・修正した合成ベンチマークです。

750種類以上の物と食品から、1,000のキッチンを作る

制作の出発点は、研究者が手作業でまとめた750種類以上の調理器具、家電、食器、食品です。似た物を「異なる種類のヨーグルト」「異なる容器」のようなグループに分け、各場面に食品グループを2〜5個、キッチン用品グループを2〜5個、各グループから3品以上が入るよう無作為抽出して、1,000の環境を作りました。

冷蔵庫、オーブン、キッチンテーブル、電子レンジ、食器洗い機、シンク、やかんは全環境に置かれます。環境は実写画像やシミュレーターではなく、「陶器のマグ、ガラスのマグ、清潔なスポンジ、汚れたスポンジ、コーヒー、牛乳」のような物体リストです。物の位置、容量、開閉状態、汚れ、距離といった関係は原則として表されません。

明確な指示を先に作り、情報を落として曖昧にする

各環境について、まずMistralで明確な指示を生成し、幻覚や不自然さのないものを人が選んで1,000件を確定しました。次にChatGPTへ三つの曖昧性ごとに異なるプロンプトを与え、明確な指示から情報の一部を除いた曖昧版、確認質問と回答を生成しました。例えば「陶器のマグへコーヒーを注ぐ」から材質を落とし、「マグへ注ぐ」にすると、複数のマグがある環境では選択が必要になります。

公開データの1行には、物体名を正確に使った明確な指示、言い換えや指示表現を含む別の明確な指示、曖昧な指示が入ります。さらに、環境の短縮・全文表記、曖昧性の種類、確認質問と回答、利用者の意図、明確版と曖昧版の作業計画、計画の何段階目で曖昧さが生じるかが対応付けられています。公式配布ページではCSVとデータ構造、生成プロンプト、評価コードが公開されています。

これは、自然に曖昧な依頼を先に集めた方法とは逆です。正解となる意図を含む明確な指示を出発点にしているため、各曖昧タスクには研究者が想定した正解が一つあります。「甘い物を持ってきて」のように、複数の解釈がどれも妥当な依頼は対象外です。

曖昧さを、解決に必要な知識で三つに分ける

AmbiKでは、言葉の形ではなく、ロボットが何を知れば解決できるかで曖昧性を分類しています。

• Human Preferences（42％）：どの容器や食材を好むかなど、本人に聞かなければ決められない情報。原則として必ず確認する。
• Common Sense Knowledge（42.5％）：道具の用途、大きさ、食品の扱いなど、人が通常持つと想定された知識。原則として質問せず補う。
• Safety（15.5％）：不適切な器具や方法を選ぶと人やロボットへ危険が及ぶ情報。別カテゴリとして扱うが、論文の評価基準では原則として質問を抑える。

安全と常識の境界は固定的ではありません。作業指示でも「サラダ用の野菜を洗うか」を例に、通常なら他人へ確認するか、洗わないことがどの程度危険かを考えて分類するよう説明しています。好みは常に質問、安全と常識は通常質問しないという区分は、研究用に定めた行動方針です。介護、食品アレルギー、製造、医療などでは、リスクに応じて確認・停止すべき基準を別途設計する必要があります。

人は文章をゼロから書かず、LLM候補を選別・修正した

人手工程を担当したのは研究チームの3人です。作業者は一組の明確・曖昧タスクを約3〜4分で確認し、難しい例は質問できるよう案内されました。具体的には、次を点検しています。

• 明確な指示が現実的で、奇妙な料理や作業になっていないか
• 指示に登場する食品・器具が環境リストに存在するか
• 二種類の明確な表現が同じ作業を指しているか
• 三種類の候補から、自然で実際に起こり得る曖昧さを一つ選べるか
• 一つのタスクに複数の曖昧さが混在していないか
• 質問と回答を受け取った後、人とロボットの双方が指示を理解できるか
• 好み型では、迷う候補が二つ以上含まれているか

奇妙な行は削除し、不足した物体は環境へ追加し、曖昧なはずの文が明確なら文章を修正しました。安全例が最も集めにくかったため、候補はSafety、Common Sense、Preferencesの順で検討し、妥当な安全例を優先するよう指示されています。この選別方針は、最終的なカテゴリ比率にも影響します。

3人の一致率は95％超だが、外部利用者の評価ではない

原論文は、研究チームの3人がガイドラインに沿って全データを検証し、評価者間一致率が95％を超えたと報告しています。ただし、どの統計量で一致を計算したか、重複して評価した具体的な件数、意見が分かれた場合の裁定方法は本文から確認できません。参加者の募集条件や属性、報酬も報告されておらず、一般利用者やロボット利用経験者を集めた評価ではありません。

また、「人が検証した」とは、人が自然な指示を発話し、その場でロボットへ聞き返された実験を意味しません。質問と回答もChatGPTが作った候補を研究者が整えたものです。原論文の主実験は、モデルが確認質問を自然に生成できるかを直接採点しておらず、主に「助けを求めるべきか」と「利用者の意図を含む行動候補を残せるか」を測っています。

実世界の対話へ使う前に残る限界

第一に、完全なテキストデータであり、ロボットは実際に物を見たり動かしたりしていません。環境が物体リストだけなので、位置関係、容器の中身、温度、破損、利用者の視線など、現場で曖昧さを解く情報がありません。作業計画も実機での成功を保証する動作データではありません。

第二に、過去の会話を使わないゼロ文脈設定です。直前に「陶器のカップを持ってきて」と言われていても、次の「そのカップをテーブルへ置いて」は複数のカップがあれば曖昧と判定されます。第三に、キッチン、英語、英語圏の調理常識へ限定されています。食品や器具の使い方、安全基準、好みの伝え方は文化や家庭によって異なります。

日本語では主語・目的語の省略、「少し」「適当に」「いつもの」のような共有知識への依存、敬語による間接表現も加わります。実務用データを作るなら、合成した曖昧さだけでなく、実際の利用者が出した指示と差し戻し履歴を収集し、確認が必要だったか、質問が一度で解決したか、回答後に安全に完了できたかまで記録することが重要です。

株式会社イングクラウドでも、利用場面の設計、曖昧な指示と明確版の作成、確認質問・回答の収集、複数人評価、安全条件の検品まで、対象業務に合わせて組み立てます。曖昧さを見つけるだけでなく、「聞く」「常識で補う」「止める」の境界を仕様として明文化することが、確認質問データの中心になります。