2026年9月18日
対話AIはいつ聞き返すべきか――確認質問データの作り方
「ジャガーについて教えて」と言われたとき、自動車について答えるべきか、動物について答えるべきかは分かりません。対話AIは、もっともありそうな意味を勝手に選ぶのではなく、「車と動物のどちらですか」と確認した方がよい場合があります。 一方、「今日の天気は」と聞かれるたびに、地域、時間帯、降水確率の要否を細かく質問するAIも使いにくいものです。確認質問の研究では、…
意図理解
-
-
2026年9月18日
AIは曖昧な指示をどう解釈するのか｜勝手に補わず確認するためのデータ
「適当にまとめて」「少し短くして」「いつものように処理して」。人間同士では通じることがあっても、必要な条件が言葉にされていない指示です。 AIが足りない情報を勝手に補えば、軽微な好みの違いで済む場合もあれば、安全や金額に関わる事故になる場合もあります。重要なのは、何でも質問することではなく、確認が必要な曖昧さを見分けることです。 曖昧さには種類がある 種類例…