2026年10月8日
LLMはどこで危険な回答をする？レッドチーミング用データの作り方
LLMのレッドチーミングで必要なのは、危険そうな質問を大量に集めることではありません。どのシステムの、誰に対する、どの被害を探すかを決め、入力と応答の関係を再確認できる評価データにすることです。ケースの作り方から、評価者への指示、検品、修正後の再実行まで整理します。 通常の品質評価と、弱点を探す評価を分ける 通常の品質評価は想定利用における正確性や関連性など…
2026年10月8日
LLMのレッドチーミングで必要なのは、危険そうな質問を大量に集めることではありません。どのシステムの、誰に対する、どの被害を探すかを決め、入力と応答の関係を再確認できる評価データにすることです。ケースの作り方から、評価者への指示、検品、修正後の再実行まで整理します。 通常の品質評価と、弱点を探す評価を分ける 通常の品質評価は想定利用における正確性や関連性など…