AI導入読了約14分

生成AIに機密情報を入力してしまったときの対応手順|最初の1時間の動き方

生成AIに顧客情報や社内資料を入れてしまったとき、最初の1時間にやること、報告の判断、記録の項目を示します。

記事の概要図

月末の忙しい日に、営業担当者が、取引先とのやり取りをまとめるため、生成AIのサービスに、メールの本文を貼りつけて要約を頼みました。送信したあとで、本文に、取引先の担当者の名前、電話番号、見積の金額が含まれていたことに気づきました。会社で使ってよいと決まっているツールなのか、自信がありません。上司に言えば叱られそうで、黙っていようかとも考えます。同じ状況に、社員が立たされたとき、会社はどう動けばよいのでしょうか。こんなことはないでしょうか。

この記事では、生成AIに、顧客の情報や社内の資料を入力してしまったとき、最初の1時間にやること、入力した内容の特定、ツール側での対処、報告の判断、記録の項目、再発の防止までを、順に示します。法律の解釈や、個別の事案の判断は、状況によって変わります。ここに書くのは、慌てずに動くための手順の例であり、判断が難しい場面では、専門家や公的な窓口に確認することを前提にしています。

この記事で分かること

  • 最初の1時間は、「止める、記録する、報告する」の3つに絞って動くことが分かります。
  • 入力した内容の種類で、対応の重さを3段階に分ける表と、報告先の判断の考え方が分かります。
  • 報告の記録に書く項目と、本人を責めずに、再発を防ぐ手当てが分かります。

1. 最初にやることを3つに絞る

入力してしまったと気づいたとき、人は、取り消そうとして、あれこれ操作します。画面を閉じる、履歴を消す、別のツールで調べ直す。これらの操作は、状況の記録を、かえって失わせます。最初の動きは、3つに絞ります。

1つ目は、止めることです。 同じ会話の続きに、さらに情報を入力しない。同じツールに、別の情報を入れない。ブラウザの画面は、閉じずに開いたままにします。

2つ目は、記録することです。 画面のスクリーンショットを撮ります。入力した内容、入力した時刻、使ったツールの名前、アカウントの種類(会社か個人か)を、メモします。画面は、あとで消えたり、変わったりします。履歴を消す前に、記録を残します。

3つ目は、報告することです。 自分で判断して、解決しようとしません。決められた窓口、窓口がなければ上司へ、すぐに知らせます。報告の文は短くてかまいません。次の3点が書かれていれば、受け取る側は動き出せます。

  • 何を入力したか(種類だけでも可。例:取引先の担当者の氏名と電話番号)
  • どのツールに入力したか
  • いつ入力したか

迷って時間を使うより、早く知らせることが、被害を小さくします。 個人情報保護委員会は、生成AIのサービスを使う際の注意点を公開しており、個人情報を含む入力には注意が必要であることを示しています。入力した内容が、問題になる種類のものかどうかを、本人が判断する必要はありません。判断は、報告を受けた側が、記録を見て行います。

この記事では、以降、報告を受ける側の動きを中心に書きます。最初の1時間の流れを、次の図に示します。

最初の1時間の動きを、止める、記録する、報告する、特定するの順に示した図

2. 最初の1時間の動き方

報告を受けた担当者は、次の順に動きます。時間は目安であり、会社の規模で調整します。大切なのは、順番と、各時点で何が終わっているかです。

0〜10分本人から、状況を聞く。入力を止めさせる。画面を保存させる入力した内容、時刻、ツールの名前が、メモにある
10〜30分入力した内容を特定し、種類を分ける。アカウントの種類を確認する3段階の重さのどれに当たるかが、仮に決まっている
30〜60分ツール側の対処を行う。経営者や責任者へ報告する。外部への報告の要否を整理する次の動きと、担当者が決まっている

最初の10分で、本人を責めないことが重要です。本人が、「叱られる」と感じると、入力した内容を小さく話したり、時刻を曖昧にしたりします。事実を正確に聞くために、「入力したことを教えてくれて助かった」と、最初に伝えます。

聞き取りの質問は、次の5つで足ります。

  1. 何を入力しましたか。画面を見せてください
  2. いつ入力しましたか
  3. どのツールを、どのアカウントで使いましたか
  4. 入力した内容を、ほかの人に共有しましたか
  5. 入力したあとで、何か操作しましたか(削除、共有など)

質問5は見落とされがちです。生成AIのサービスには、会話を共有するリンクを作る機能があるものがあります。共有のリンクを作っていた場合、そのリンクを知る人が、内容を見られる状態になっている可能性があります。リンクを作っていたかどうかを、必ず確認します。

聞き取った内容は、その場で、記録の様式に写します。様式は、このあとの節で示します。

3. 入力した内容を特定して重さを分ける

入力した内容が何だったかによって、対応の重さが変わります。特定するときに、人が覚えている内容に頼らず、画面の記録を見て、1つずつ確認します。次の3段階で、仮の重さを決めます。

軽い社外に出ても問題にならない情報。公開されている資料の文章記録を残し、本人へ注意点を伝える。報告は社内に限る
中くらい社内の非公開の資料、取引先の名前、契約の条件、見積の金額ツール側の対処を行う。契約上の通知義務を確認する。責任者へ報告する
重い個人情報(氏名と連絡先など)、要配慮個人情報、認証の情報(パスワード等)、取引先から預かった秘密情報即時に責任者へ報告し、ツール側の対処と外部への報告の要否を、専門家とともに整理する

この表の分け方は、運用の例です。会社の規程や、取引先との契約で、より厳しい決まりがある場合は、そちらに従います。

重さが「重い」に当たる場合のうち、認証の情報(パスワードなど)を入力した場合は、対応が少し異なります。入力した情報が悪用される前に、すぐにパスワードを変更します。ほかのサービスで同じパスワードを使っていれば、そちらも変更します。

個人情報については、個人情報保護委員会が、漏えい等の対応について、案内を公開しています。個人データの漏えい等が、一定の要件に当たる場合には、委員会への報告が義務づけられており、発覚したあとは、速やかな報告が求められる旨が示されています。報告が必要になる要件には、要配慮個人情報を含む場合などが挙げられています。生成AIへの入力が、この「漏えい等」に当たるかどうかは、入力先の仕組みや契約、設定などの状況で変わるため、一律には言えません。この判断を、現場だけで行わず、専門家や委員会の窓口に確認する前提で、手順を作っておきます。

特定の作業で、見落としやすいのは、添付ファイルの中身です。文章だけを入力したつもりでも、ファイルをアップロードしていた場合は、そのファイルの中の情報も対象になります。ファイルの名前と、中身の種類も、記録します。

4. ツール側でできる対処

入力した内容の特定と並行して、ツール側でできる対処を確認します。ここでは、機能の名前は書きません。提供元によって、画面や名前が異なるためです。確認する点を、次の表に示します。

入力した内容が、学習などに使われる設定か設定の画面と、提供元の規約・案内会社向けのプランと個人向けで、扱いが異なる場合がある
会話の履歴を削除できるか画面の操作を確認する履歴の削除が、提供元側の保存の削除とは限らない
共有のリンクを作っていないか共有の一覧を見る作っていれば、無効にする
提供元に、削除を依頼できるか提供元の案内の窓口依頼した日と、返事を記録する
管理者が、履歴を確認できるか管理画面会社のアカウントなら、管理者が確認できる場合がある

大切なのは、消したという操作と、消えたという確認を分けることです。画面から削除しても、提供元が保存している期間が、規約で定められている場合があります。Microsoftは、Microsoft 365 Copilotに関して、データの扱いを公開の文書で説明しており、提供元が、データの保存や処理について説明していることが分かります。他のサービスについても、規約や公開の文書に、保存の期間や、削除の依頼の方法が書かれていないかを確かめます。

個人のアカウントで入力した場合は、会社の管理者が、履歴を直接確認できません。本人に、画面を見せてもらいながら、確かめます。本人の記憶だけに頼らず、画面の記録を、会社側でも保存します。

提供元に削除を依頼するときは、依頼の文面と日付を、記録に残します。返事が来ない場合も、その状況を記録します。依頼したこと自体が、会社が取った対応の証拠になります。

ツールの利用を、いったん止めるかどうかも、この段階で決めます。会社で使ってよいと決めているツールなら、本人が使うのは問題ありません。ただし、同じ問題が、ほかの人にも起きる可能性があるなら、ルールの案内を出すまでの間、利用を一時的に控えるよう、全員へ知らせる場合もあります。

5. 報告の判断を整理する

内容の重さと、ツール側の状況が見えたら、誰に、いつ、何を報告するかを整理します。報告先は、大きく3つあります。

社内(経営者・責任者)重さが中くらい以上の場合は、すべて一次対応の担当者
取引先・顧客契約や取り決めに、通知の義務がある場合。影響を受ける人がいる場合経営者と、必要なら専門家
個人情報保護委員会など個人データの漏えい等で、要件に当たる場合経営者と、専門家の確認を得た担当者

社内への報告は、最初の1時間のうちに行います。報告する内容は、確認できた事実と、まだ確認できていないことを、分けて書きます。確認できていないことを、確認できたかのように書くと、あとから訂正が必要になり、信用を失います。

取引先への通知は、契約書や、秘密保持の取り決めを見て、決めます。契約に、通知の期限が書かれている場合があります。期限がある場合は、その期限から逆算して動きます。通知が必要かどうかの判断が難しいときは、弁護士などの専門家に相談します。自己判断で、通知しない、または必要以上に伝える、のどちらも避けます。

個人情報保護委員会への報告が、必要かどうかは、前に述べたとおり、現場だけで判断しません。委員会が公開している案内を読み、要件に当たりそうなときは、専門家や委員会の相談の窓口に問い合わせます。

IPAは、毎年、情報セキュリティの脅威を整理して公表しています。「情報セキュリティ10大脅威 2026」の一覧には、「内部不正による情報漏えい等」(2016年から11年連続の選出)と、2026年に初めて選ばれた「AIの利用をめぐるサイバーリスク」が並んでいます。生成AIへの入力の事故も、人の操作に由来する情報漏えいとして、同じように備えておくと、対応を決めやすくなります。

6. 記録の様式に書く項目

対応の記録は、あとから振り返るためと、外部へ説明が必要になった場合に備えて、残します。様式は、表計算の1行か、文書の1枚で足ります。次の項目を、報告の受付の時点から埋めていきます。

受付の日時報告を受けた日時11月16日 15時10分
報告した人部署・氏名営業部・○○
入力した日時画面で確認した日時11月16日 14時50分
ツールとアカウントツール名、会社か個人か要約サービスA、個人のアカウント
入力した内容種類と範囲(原文は別に保管)取引先担当者の氏名・電話番号、見積の金額
ファイルの有無添付したか、名前と種類なし
共有リンクの有無作ったか作っていない
重さの判断軽い、中くらい、重い重い(個人情報を含む)
実施した対処履歴の削除、提供元への依頼など履歴を削除。提供元へ削除を依頼(15時40分)
報告した先社内、取引先、外部責任者へ報告。取引先への通知は契約を確認中
次にやること担当者と期限契約の確認:総務、本日中

記録の原文(入力した内容そのもの)は、記録の表に書き写さず、アクセスできる人を限った場所に、別に保管します。記録の表を、多くの人が見られる場所に置くと、そこから二次的に情報が広がります。

記録を書くときは、事実と推測を分けます。 「提供元に削除を依頼した」は事実です。「削除されたはずだ」は推測です。推測は、推測と明記します。

記録が整ったら、経営者へ報告し、取引先や外部への対応を決めます。対応が終わったあとも、記録は、一定の期間、保管します。保管の期間は、会社の規程で決めます。

内容の重さを3段階に分けて、対応の重さを決める流れを示した図

7. 報告した人を責めない

最初の10分で本人を責めない、と書きました。これは、聞き取りの工夫だけでなく、会社の方針として、先に決めておくべきことです。

責める対応を続けると、次のことが起きます。

  • 入力してしまった人が、黙って隠す
  • 気づいた同僚が、見て見ぬふりをする
  • 報告が遅れ、気づいたときには、対応できる範囲が狭まる

隠された事故は、会社の側で気づく手段がありません。報告が遅れれば遅れるほど、ツール側の対処や、取引先への連絡の機会が、失われます。早く報告した人を、責めないと決めておくことが、結局は、会社の被害を小さくします。

ここで言う「責めない」は、何も問わない、という意味ではありません。同じ誤りを繰り返さないための、原因の確認は行います。ただし、確認するのは、個人の注意不足ではなく、仕組みの問題です。次のような問いで、仕組みを見直します。

  • ルールが、使う人に伝わっていたか
  • 入力してよい情報の基準が、分かりやすかったか
  • 迷ったときの相談先が、周知されていたか
  • 入力する前に、立ち止まれる仕組みがあったか

個人の責任を問う必要があるのは、ルールを知りながら、意図的に違反した場合などに限られます。その判断は、事実の確認を終えたあとで、経営者と責任者が、慎重に行います。

報告を受けた側の言葉も、大切です。「報告してくれて、ありがとう」と、最初に伝えます。報告が、感謝される経験を、社内で重ねていくと、次の報告が早くなります。

8. 再発を防ぐ手当て

対応が一段落したら、再発を防ぐ手当てを考えます。起きた事故を、個人の問題で終わらせず、仕組みの改善に使います。

入力しない情報の例を、具体的に示す「個人情報は入れない」ではなく、「取引先の担当者の氏名・電話番号・メールアドレスは入れない」と書く判断に迷う場面
入力前の確認を、画面の前に貼る入力前の3つの問いを、机の近くやチャットの固定メッセージに置く急いでいる場面
使ってよいツールを、会社のアカウントに限る個人のアカウントでは、会社の情報を扱わない履歴の管理が必要な場面
管理者向けの設定を確かめる提供元が公開している、管理者の設定を見直すツールの導入時、規約の変更時
疑似訓練をする架空の入力事故を想定し、報告から記録までを練習する担当者の動きを確かめる場面

入力前の3つの問いは、次のような形が使えます。

  1. この内容に、個人や取引先を特定できる情報が、含まれていないか
  2. この内容を、会社の外の人に見られても、問題がないか
  3. 迷ったら、入力せず、担当者に聞く

IPAは、中小企業向けに、情報セキュリティ対策のガイドラインを公開しています。経営者が、対策に責任を持つ考え方や、社員への教育の重要性が示されています。事故が起きた会社は、それをきっかけに、教育と窓口を見直す機会を得たと考えられます。

AI事業者ガイドラインは、AIを使う事業者に、リスクを理解して、適切に使うことを求める趣旨を示しています。入力の誤りに備える手順は、その考え方を、小さな会社が、実際に動かせる大きさにしたものです。手順は一度作って終わりにせず、年に1回は、実際に動くかを見直します。

事故の記録は、集めて、傾向を見ます。たとえば、半年に何件、どの部署で、どの種類の情報で起きたかを、まとめます。件数が増えたときは、ルールが現場の実態に合っていない可能性があります。件数が少ないのは、事故が少ないのではなく、報告されていないだけの場合もあります。報告しやすい仕組みを、保ち続けます。

入力の事故に備える手当てを、入口、対応、振り返りの3つに分けて示した図

まとめ

生成AIに機密情報を入力してしまったときの最初の1時間は、止める、記録する、報告する、の3つに絞って動きます。報告を受けた側は、入力した内容を画面の記録から特定し、重さを3段階に分け、ツール側の対処を行い、社内、取引先、外部への報告の要否を整理します。外部への報告の判断は、現場だけで行わず、専門家や公的な窓口に確認します。記録は、事実と推測を分けて残し、報告した人を責めない方針を、先に決めておきます。再発の防止は、個人の注意ではなく、入力しない情報の具体例、入力前の問い、会社のアカウントの徹底といった、仕組みで行います。まずは、報告の窓口と、記録の様式を、事故が起きる前に用意してください。

社内の初動の手順づくりや、ルールの見直しに迷ったら、相談できます。

よくある質問

入力した内容は、あとから消せますか。

ツールによって異なります。画面から会話の履歴を削除できるものもありますが、履歴の削除が、提供元の保存や処理の削除と同じとは限りません。提供元の規約や案内で、保存期間と削除の依頼の方法を確かめ、必要なら窓口へ依頼します。消せたと決めつけず、消せたかどうかを確認した内容を記録します。

入力した本人が、言い出しにくそうです。どうすればよいですか。

報告した人を責めない、と事前に全社へ伝えておきます。責める対応が続くと、報告が遅れ、気づいたときには被害が広がります。経営者や担当者の言葉で、早く知らせてくれたことが助かる、と示すことが、次の報告につながります。

取引先の情報を入力した場合、取引先へ伝える必要がありますか。

契約書や秘密保持の取り決めに、通知の義務が書かれている場合があります。まず契約書を確認し、判断が難しい場合は、弁護士などの専門家に相談します。自己判断で伝えない、または伝えすぎるのは避け、社内で決めた手順の中で扱います。

個人情報保護委員会への報告は、いつ必要になりますか。

個人データの漏えい等が、決められた要件に当たる場合に、報告が義務づけられています。入力した内容が、その要件に当たるかどうかは、状況で変わります。委員会が公開している案内を確認し、迷う場合は、相談の窓口や専門家に問い合わせます。

個人のアカウントに入力してしまった場合は、何が違いますか。

会社が、管理者の機能で履歴の確認や削除を行えない点が違います。本人に、画面を見せてもらいながら、履歴と設定を確かめます。入力した時刻と内容を、本人の記憶だけに頼らず、画面で確認して記録に残します。

参照元・出典

FREE CONSULTATION

「うちの場合はどうか」から

記事の考え方を、そのままご自身の事業に当ててみたい方へ。アイデア段階でも、機能リストがある段階でも構いません。 2営業日以内に、担当者からメールでご返信します。営業のお電話はしません。相談は無料です。

運営:株式会社miitaso(会社概要)

RELATED