文章作成、要約、翻訳、分類、プログラム作成などを外注すると、作業者が生成AIを利用する可能性があります。効率化につながる一方、顧客データを外部サービスへ入力したり、人の判断を集める調査へAIの回答が混ざったりすることがあります。
「AI使用禁止」と一言書くだけでは、どの機能まで禁止するのか、確認方法は何か、違反時に成果物をどう扱うかが分かりません。本記事では、発注前に決めたい事項を整理します。
生成AI利用には複数の問題が含まれる
- 顧客情報や未公開データを外部サービスへ送信する
- 生成物に第三者の表現と類似する内容が含まれる
- 事実と異なる回答が成果物へ混入する
- 人間本人の反応を集める研究目的が成立しなくなる
- 作業者ごとに使用モデルや設定が異なり、結果を再現できない
- AIを使った範囲が記録されず、後から検証できない
禁止・許可・申告制を使い分ける
すべての案件で同じルールにする必要はありません。
| 方針 | 向いている業務 |
|---|---|
| 利用禁止 | 人本人の判断を測る研究、機密データを扱う業務 |
| 指定環境のみ許可 | 企業契約のAI環境で補助的に利用する業務 |
| 申告を条件に許可 | 生成AIの使用過程も含めて検証できる制作業務 |
| 積極利用 | AI一次処理と人の確認を組み合わせる業務 |
入力してよい情報を具体的に示す
氏名や住所だけでなく、顧客の文書、会話ログ、画像、ソースコード、未公開の商品情報も秘密情報になり得ます。匿名化したつもりでも、組合せから本人や企業を推測できる場合があります。
利用するサービス名、アカウント、入力可能な情報、履歴保存、学習利用設定、出力の保管場所を決めます。
AI出力を納品物として扱う基準を決める
AIが生成した文章をそのまま提出してよいのか、作業者が根拠を確認するのか、使用箇所を記録するのかを定めます。誤りが見つかった場合の再作業も、通常の不備修正か、禁止された手段の利用による契約違反かで扱いが変わります。
人手評価では本人性を守る
AI回答を人に評価してもらう研究で、評価者が別のAIへ判断を任せると、集めたものは人間の評価ではなくなります。本人が読んで判断したことを必要とするなら、その理由を説明し、操作記録、回答時間、自由記述、確認質問などを組み合わせます。
生成AIを前提に発注仕様を更新する
生成AIを使うかどうかは、作業者のモラルだけに任せる問題ではありません。目的上使えない案件、指定環境なら使える案件、AIを使った方がよい案件を発注者が分類します。
契約、作業マニュアル、システム、検品を同じ方針へそろえることで、外注先ごとに判断が分かれる状態を避けられます。
HUMAN-IN-THE-LOOP OPERATIONS
AIと人を組み合わせた作業工程を設計します
株式会社イングクラウドでは、AIの利用範囲、人が確認する条件、作業記録、検品方法を整理し、目的に合った業務運用をご提案します。
