内装工事会社の営業担当が、生成AIで提案メールの下書きを作りました。文章は整っていて、そのまま12社の見込み客に送りました。翌々日、施工部の担当者が気づきます。メールには「施工後の保証期間は10年」と書いてありますが、実際の保証は5年です。すでに2社から、「その条件で進めたい」という返事が届いていました。営業担当は青ざめ、上司は「まず誰に何を言えばいいのか」と困っています。こんなことはないでしょうか。
この記事では、生成AIが作った誤りを顧客に送ってしまったあと、最初の1時間と、そのあとの数日で何をするかを、順序・表・訂正文の文例つきで説明します。扱うのは、料金や期間のような数字・約束の誤り、事実や固有名詞の誤り、ほかの顧客の情報が混ざった誤りの3種類です。法律上の責任の判断は、事案ごとに違います。ここでは社内の対応の組み立てを述べ、契約や賠償にかかわる部分は専門家に相談する前提で書きます。
この記事で分かること
- 生成AIの誤りを3種類に分けると、対応の重さと連絡の相手が決められること
- 発覚から1時間でやること、影響範囲の数え方、訂正文の書き方を、記入例で確認できること
- 再発を防ぐために、人が原本と照らす文面を絞る線引きの表
1. 誤りを3種類に分ける
「AIが間違えた」と言っても、中身で対応が変わります。最初に、次の3種類のどれかを決めます。決める基準は、顧客がその誤りを信じて何かをしたか、そして、誤りに他人の情報が含まれているかです。
| 種類 | 例 | 顧客への影響 | 対応の重さ |
|---|---|---|---|
| 数字・約束の誤り | 保証期間、納期、料金、対応範囲 | 発注や日程の判断に使われる | 重い。訂正を個別に連絡する |
| 事実・固有名詞の誤り | 法令名、製品名、社名、事例 | 信用に影響する。判断に使われないこともある | 中。内容により訂正を連絡する |
| 他者の情報の混入 | ほかの顧客の名前、金額、連絡先 | 情報の漏えいに当たる場合がある | 最重。訂正とは別の手続きを進める |
なぜ生成AIは誤りを含むのか
IPAの「テキスト生成AIの導入・運用ガイドライン」には、ハルシネーションは生成AIが抱える大きなリスクの1つで、このリスクを完全に取り除くことは現状の技術では困難であり、軽減策を講じることしかできない、という趣旨の記述があります。つまり、誤りは、使い方の不注意だけで起きるのではありません。AIを使う限り、起こる前提で、起きたあとの動きを決めておく必要があります。
AI事業者ガイドライン(第1.2版・令和8年3月31日公表)も、共通の指針のアカウンタビリティの項で、必要に応じてAIの出力の誤り等についてステークホルダーからの指摘を受け付ける機会を設けること、ステークホルダーの利益を損なう事態が生じた場合にどう対応するか方針を策定して着実に実施することを挙げています。この記事の手順は、その「方針」の中身にあたる部分を、中小企業が実際に動かせる形にしたものです。なお、このガイドラインは、執筆時点で総務省のページで確認できた最新の第1.2版を参照しています。
ステップ1 発覚から1時間で記録を残す
誤りを見つけた人は、最初に、訂正の連絡を考える前に、「消さずに残す」ことをします。焦って送信済みのメールや、AIとの会話を消すと、何を送ったのかが後で分からなくなるからです。
1時間以内にやる5つのこと
- 見つけた人が、責任者に報告する。報告は口頭だけにせず、チャットやメールに残す
- 送信済みのメールや資料を、そのまま保存する(誤りが含まれるまま)
- 生成AIとの会話の履歴を保存する。誰が、いつ、どんな指示で作らせたか、元になった資料は何かを控える
- 同じ会話や同じひな形から作った、ほかの文面がないかを探す
- まだ送っていない同じ種類の文面があれば、送信を止める
IPAの「中小企業のためのセキュリティインシデント対応の手引き」(2026年6月)は、情報セキュリティのインシデントを対象にした資料です。誤情報の送付そのものを扱っているわけではありません。ただ、発見したら責任者に報告し、被害が広がるおそれがあるときは停止の措置をとること、その際に不用意な操作でシステム上に残された記録を消さないことを求める流れは、そのまま当てはまります。同じ手引きは、証拠保全として、事実関係を裏付ける情報や証拠を保全することも挙げています。
記録の様式
保存した内容は、次の項目で1枚にまとめます。
| 項目 | 記入例 |
|---|---|
| 発見日時・発見者 | 11月上旬の午後、施工部の担当者 |
| 対象の文面 | 提案メール(12社に送信) |
| 誤っていた内容 | 保証期間「10年」 |
| 正しい内容 | 保証期間「5年」 |
| AIへの指示の概要 | 過去の提案書をもとに、提案メールの下書きを作る |
| 元になった資料 | 他社向けの古い提案書(保証10年の別プラン) |
| 送信前の確認 | なし |
この例では、元になった資料に別プランの保証期間が書かれていたことが、原因の手がかりです。原因を決めつけるのではなく、手がかりとして書いておきます。
ステップ2 影響の範囲を数える
次に、誰が、どの誤りを、どこまで信じて動いたのかを数えます。数えることで、連絡の相手と順番が決まります。
影響の整理表
先ほどの例で、数え方を示します。
| 区分 | 件数 | 状況 | 優先 |
|---|---|---|---|
| 送信先の全体 | 12社 | 誤った保証期間のメールを受け取った | — |
| 発注や日程の確定の連絡があった | 2社 | 誤った条件を前提に進めようとしている | 最優先 |
| 返事がない | 10社 | 読んだかどうか分からない | 次に連絡 |
2社と10社を足すと12社で、送信先の全体と合います。このように、区分の件数を足して全体に合うかを確かめます。合わなければ、数え漏れがあります。
金額と期限も書く
最優先の2社について、見積の金額、日程、すでに発生した費用があるかを書き添えます。「保証が5年に短くなる」ことで、顧客が損をする金額や、断る可能性のある案件の金額を、概算でも出します。この数字は、のちに責任者が、顧客への補償や条件の見直しを判断するときの材料になります。IPAの手引きは、第二報以降・最終報の段階で、影響を及ぼした取引先や顧客に対して対応状況や再発防止策を報告し、被害者に対する損害の補償等を必要に応じて行うとしています。
ステップ3 連絡の相手と方法を決める
影響の整理表ができたら、誰に、どの方法で、いつ連絡するかを決めます。方法は、影響の大きさに合わせて変えます。
| 相手の状況 | 連絡の方法 | 時期 | 連絡する人 |
|---|---|---|---|
| 誤った条件で進めようとしている | 電話で伝え、そのあとに訂正文を送る | 当日中 | 営業担当と責任者 |
| 返事がない(読んだか不明) | 訂正文をメールで送る | 翌営業日まで | 営業担当 |
| 誤りが信用に影響する程度で、判断には使われていない | 訂正文を送る。重大でなければ、次の連絡に添える | 1週間以内 | 営業担当 |
| 他者の情報が混ざっていた | 訂正とは別に、責任者が個別に対応を決める | 発覚後ただちに | 責任者と個人情報の担当 |
一報と最終報を分ける
誤りの内容や影響を確かめている途中でも、顧客がすでに誤った条件で動いている場合は、確認中であることを先に伝えます。IPAの手引きは、報告を第一報と、第二報以降・最終報に分け、第一報では状況を伝え、のちに対応状況や再発防止策を報告するとしています。誤りの訂正でも、同じ分け方が使えます。
一報の文面は短く、次の3点だけにします。
- 先日お送りしたメールに、誤りがあることが分かった
- 誤りがあるのは、どの項目か
- 正しい内容は、確認したうえで、いつまでに連絡するか
確かめきれていない段階で、正しい内容を断定してはいけません。「5年です」と書いたあとで、さらに別プランの条件が出てくると、2回訂正することになるからです。
ステップ4 訂正文を書く
訂正文は、顧客が読んで、何をすればよいのかが分かる文面にします。長い謝罪より、事実の正確さを優先します。
訂正文の文例
保証期間の例で、メールの文面を示します。
件名:先日の提案メールの保証期間について(訂正)
先日お送りした提案メールの保証期間に、誤りがありました。
誤:施工後の保証期間は10年です。 正:施工後の保証期間は5年です(今回のご提案のプランの場合)。
この記載をもとに、ご予定やご検討を進められていた場合は、ご迷惑をおかけし、申し訳ありません。ほかの記載内容についても、あらためて確認し、誤りがないことを確かめました。
訂正後の条件でのお見積書を、あらためてお送りします。内容のご確認のため、ご都合のよい日時にお電話でご説明することもできます。
この文面は、次の5つの要素でできています。
- 何についての訂正か(件名)
- 誤りと、正しい内容の対比
- 誤りによる影響がありえることへの、短い謝罪
- ほかに誤りがないかの確認結果(確認していないなら書かない)
- 次にすること(見積書の再送や説明)
電話で伝えるときの順番
誤った条件で進めようとしている相手には、メールの前に電話で伝えます。話す順番は、先に誤りの事実、次に正しい内容、最後に顧客の側で必要な手続きの有無です。たとえば、「先日のメールの保証期間が誤っていました。正しくは5年です。すでに社内で承認を取っていただいていたとのことで、条件が変わる点をご確認いただけますか」と話します。そのあとで、同じ内容を訂正文として送り、電話の日時と話した相手を、記録に残します。電話だけで済ませると、後から「言った」「聞いていない」の行き違いになるからです。
書かないほうがよいもの
- 原因の長い説明。「AIが作成した文面で…」という長い経緯は、顧客の判断に必要でなければ省く
- 言い訳。「担当者が見落として」という書き方は、会社の体制の問題を個人に寄せる印象を与える
- 確認していない保証。「今後このような誤りは一切ありません」のような断言
「ほかの記載内容についても確認し」と書く場合は、実際に原本と照らしたうえで書きます。確認していないのに書くと、2回目の誤りになります。
ステップ5 原因を調べて再発を防ぐ
顧客への連絡が終わったら、原因を調べます。ここでの目的は、人を責めることではなく、仕組みの穴を見つけることです。
原因の切り分け
保証期間の例で、原因の候補を3つに分けます。
| 原因の種類 | この例での内容 | 手当て |
|---|---|---|
| 指示の問題 | 保証期間の条件をAIに伝えていなかった | 数字・条件は、指示に書いて渡す |
| 資料の問題 | 元にした提案書が別プランのものだった | 参照させる資料を、プランごとに分ける |
| 確認の問題 | 送る前に、原本と照らす人がいなかった | 数字を含む文面は、第2の人が確認する |
確認の線引きを決める
すべての文面を人が確認するのは、現実的ではありません。そこで、確認が必要な文面を絞ります。
| 文面の内容 | 送る前の確認 | 確認する人 |
|---|---|---|
| 料金・期間・保証・納期など数字や約束を含む | 必須。原本(見積書・契約書)と照らす | 営業担当以外の1人 |
| 法令名・製品名・社名など固有名詞を含む | 必須。公式の資料で確かめる | 作った本人 |
| 一般的なあいさつ・日程調整の文面 | 作った本人が読めば足りる | 本人 |
| 顧客の個人情報を含む | 必須。入力してよい範囲かも確認する | 個人情報の担当 |
確認する人は、AIの文面を読んで「合っていそうだ」と思うだけでは足りません。AI事業者ガイドラインの脚注にあるとおり、AIの出力を人間が承認するときは、人間自身が承認する理由や根拠を考えてから承認する必要があるからです。「原本のどこに書いてあるか」を指で示せる状態で、確認を終えます。
2. 個人情報や他社の情報が混ざったとき
誤りの中でいちばん重いのが、ほかの顧客の情報が混ざったときです。たとえば、AIに過去のやり取りを読み込ませて下書きを作らせたところ、別の顧客の社名や担当者の名前、金額が入ったまま送られた場合です。
この場合は、訂正の連絡とは別の判断が必要です。個人データを含んでいれば、個人情報保護委員会の「漏えい等報告について」の対象になりえます。同ページは、発覚したらまずは速やかに報告するようにとしたうえで、報告が義務付けられる場合を挙げています。たとえば、要配慮個人情報が含まれる個人データの漏えい等、不正に利用されることにより財産的被害が生じるおそれがある個人データの漏えい等、不正の目的をもって行われたおそれがある場合、本人の数が1,000人を超える場合です。要件の詳しい読み方は、同ページと、社内の個人情報の担当者で確認します。
生成AIに入力した側の確認
もう1つ確認したいのは、そもそも、その個人情報を生成AIに入れてよかったのかという点です。個人情報保護委員会の「生成AIサービスの利用に関する注意喚起等」は、個人情報取扱事業者が個人情報を含むプロンプトを入力する場合には、特定された利用目的を達成するために必要な範囲内であることを十分に確認するよう求めています。誤りの原因をたどった結果、入力の段階にも問題があると分かった場合は、入力のルールも見直します。
3. 契約や金額にかかわるとき
保証期間や料金のように、契約の内容にかかわる誤りは、顧客がどう受け取ったかで法的な扱いが変わりえます。誤った条件で、すでに契約書に署名がある場合や、代金を支払っている場合は、社内で結論を出さずに、顧問の弁護士や商工会議所などの相談窓口に相談します。
相談するときに、ステップ1の記録とステップ2の影響の整理表があると、話が早く進みます。次の4点を用意します。
- 誤りのあった文面と、正しい内容(原本)
- 誤りが顧客に届いた日時と、顧客の反応
- すでに発生した金額(見積・請求・入金)
- 顧客に連絡した内容の記録
4. 訂正の記録を、次に生かす
訂正が済んだら、記録を、社内の再発防止に使います。1件ごとの記録を、月に1度、責任者が見直します。見るのは、誤りの種類(数字・事実・他者の情報)と、原因の種類(指示・資料・確認)です。同じ原因が2回出たら、手当てが効いていません。手当てを、別の形に変えます。
報告しやすい空気を作る
AIの誤りを見つけた人が、自分の失敗として隠してしまうと、被害が広がります。報告した人を責めず、「見つけてくれた」と受け止める決まりを、先に伝えておきます。報告の件数がゼロの期間が続く場合は、問題がないのではなく、報告されていない可能性を疑います。
5. 誤りを早く見つける手がかり
誤りは、送った本人より、受け取った顧客や、後工程の担当者が先に気づくことが多くあります。気づいてもらいやすい窓口を、あらかじめ用意しておくと、発覚までの日数が短くなります。
- 顧客からの「この条件で合っていますか」という問い合わせを、営業担当だけで受けず、責任者にも共有する
- 施工や出荷の担当者が、提案内容と契約内容を見比べて違和感を持ったときに、連絡できる先を決める
- 生成AIを使って作った文面には、社内の控えに「AIの下書きを使用」と印を付ける。印があれば、誤りが見つかったとき、同じ時期の同じ種類の文面を探しやすい
3つ目の印は、顧客に見せる表示ではなく、社内の記録のためのものです。控えの題名の頭に「【AI下書き】」と付けるだけでも、あとで検索できます。
月に1度の見直しの例
月に1度、責任者が次の3つを数えます。数字が分かると、手当ての効き目を確かめられます。
| 数える項目 | 先月 | 今月 | 見方 |
|---|---|---|---|
| AI下書きを使った顧客向け文面の数 | 60件 | 75件 | 使う量の増減 |
| 送る前の確認で見つかった誤りの数 | 9件 | 6件 | 確認で止められた数 |
| 送ったあとに見つかった誤りの数 | 2件 | 0件 | 0件が続くかを見る |
この表の数は架空の例です。送る前の確認で見つかった誤りが減ったときは、AIの出力が良くなったのか、確認が緩んだのかを、記録の中身で見分けます。送ったあとに見つかった誤りが0件でも、確認で止められた件数が減っていないかを、同時に見ます。
まとめ
生成AIの誤りを顧客に送ってしまったときは、次の順で動きます。
- 消さずに残す。文面、会話の履歴、元の資料を保存する
- 誰が、どの誤りを信じて動いたかを、件数で数える
- 影響の大きい相手から、電話と訂正文で連絡する
- 原因を、指示・資料・確認の3つに分け、数字を含む文面は原本と照らす線引きを決める
他者の情報が混ざった場合と、契約や金額が絡む場合は、社内だけで判断せずに、専門家へ相談します。訂正文の様式や、確認の線引きの作り方で手が止まったときは、社内の状況に合わせて一緒に整えることもできます。
よくある質問
訂正の連絡は、誤りに気づいたらすぐ送るべきですか。
誤りの内容と影響の範囲を確かめてから送ります。確かめずに急いで出すと、訂正文にも誤りが入ります。ただし、顧客がその情報で発注や日程の確定をしかねない場合は、「内容を確認中で、確定したらご連絡します」という短い一報を先に出します。IPAの手引きも、報告を第一報と、最終報・第二報以降に分けています。
訂正文に「生成AIが間違えました」と書いたほうがよいですか。
原因の説明として必要な場合を除き、書かないほうが無難です。顧客にとって重要なのは、何が誤りで、正しくは何か、どう困らないようにするか、です。AIが原因だったかどうかは、社内の記録に詳しく残します。顧客から尋ねられたら、事実のとおり答えます。
誤りの文面が、ほかの顧客の名前や金額を含んでいた場合はどうしますか。
誤りの訂正とは別の問題として扱います。個人データが含まれていれば、個人情報保護委員会の「漏えい等報告について」にある報告の要件に当たるかを確認します。要配慮個人情報を含む場合などは報告が義務付けられているため、まず社内の個人情報の担当者に知らせます。
AIの誤りを防ぐために、全部の送信文を人が確認するのは現実的ですか。
全部は現実的ではありません。数字・日付・固有名詞・約束を含む文面だけを、送る前に人が原本と照らす、という線引きをします。AI事業者ガイドラインの脚注には、人間がAIの出力を承認するときは、自分でその理由や根拠を考えてから承認すべきだという対策の例が挙げられています。人が見るなら、原本と照らして根拠を確かめる形にします。
参照元・出典
- 総務省・経済産業省 AI事業者ガイドライン(第1.2版)本編(令和8年3月31日公表)(確認日: 2026-11-16)
- IPA テキスト生成AIの導入・運用ガイドライン(確認日: 2026-11-16)
- IPA 中小企業のためのセキュリティインシデント対応の手引き(2026年6月)(確認日: 2026-11-16)
- 個人情報保護委員会 漏えい等報告について(確認日: 2026-11-16)
- 個人情報保護委員会 生成AIサービスの利用に関する注意喚起等(令和5年6月2日)(確認日: 2026-11-16)
FREE CONSULTATION
「うちの場合はどうか」から
記事の考え方を、そのままご自身の事業に当ててみたい方へ。アイデア段階でも、機能リストがある段階でも構いません。 2営業日以内に、担当者からメールでご返信します。営業のお電話はしません。相談は無料です。
運営:株式会社miitaso(会社概要)
RELATED