生成AIに個人情報を誤って入力したときの初動：社内報告の流れ、漏えい等の報告に当たるかの確認、再発防止まで
社員が生成AIに従業員名簿や給与データをそのまま貼り付けてしまった。そんなときに総務・人事が最初の1日で行うことを整理します。入力内容の記録、サービスの設定確認、責任者への報告、個人情報保護委員会への報告が必要な事態かの確認、本人への説明と再発防止の順に進めます。
- 対象読者
- 生成AIの社内利用ルールを運用している従業員30〜300名の企業の総務・人事担当者
- 難易度
- 実務
- 所要時間
- 読了7分
- 最終確認日
この記事のポイント
- 気づいたらまず入力をやめ、何を・いつ・どのサービスに入力したかを記録する。履歴の削除は記録を残してから行う
- 個人情報保護委員会への報告が必要かは、要配慮個人情報が含まれるか、1,000人を超えるかなどの4つの事態に当たるかで確認する。判断に迷うときは委員会の窓口に相談する
- 再発防止は「入力してはいけない情報」の具体例を増やし、使ってよいサービスと設定を決め直すところまで行う
「議事録を整えてもらおうとして、社員名簿ごと生成AIに貼り付けてしまった」。生成AIの利用が広がると、こうした報告が総務・人事に届くことがあります。慌てて履歴を消したり、何もなかったことにしたりすると、後で説明ができなくなります。
この記事では、生成AIに個人情報を誤って入力したときに、最初の1日で行うことを順番に整理します。入力してよい情報の決め方は生成AIに入力する前の個人情報の置き換え手順、漏えい全般の初動は個人情報の漏えいが起きたときの初動対応も参考にしてください。
なぜ誤入力が問題になるのか
個人情報保護委員会は、生成AIサービスの利用に関する注意喚起で、事業者があらかじめ本人の同意を得ずに個人データを含むプロンプトを入力し、その個人データが応答の出力以外の目的で取り扱われる場合は、個人情報保護法に違反する可能性があるとしています。そのため、入力する場合はサービス提供事業者が個人データを機械学習に利用しないことなどを十分に確認するよう求めています。
つまり、問題の大きさは「何を入力したか」と「そのサービスで入力内容がどう扱われるか」で変わります。初動では、この2点を早く確かめることが中心になります。
最初の1時間でやること
| 順番 | やること | 担当 |
|---|---|---|
| 1 | 入力をやめ、同じ会話で追加の入力をしない | 入力した本人 |
| 2 | 入力した内容・日時・サービス名・アカウント（個人か会社か）を記録する | 本人と総務 |
| 3 | 画面を保存してから、会話履歴を削除するか判断する | 総務 |
| 4 | 個人情報の取扱いの責任者に報告する | 総務 |
| 5 | サービスの設定（学習への利用、履歴の保存）と利用規約を確認する | 総務・情報システム担当 |
個人情報保護法ガイドライン（通則編）は、漏えい等またはそのおそれのある事案が発覚したときに、責任ある立場の者への報告と被害の拡大防止、事実関係の調査と原因の究明、影響範囲の特定、再発防止策の検討と実施、委員会への報告と本人への通知について必要な措置を講じるよう求めています。誤入力でも、この流れに沿って記録を残しておくと、後の判断がしやすくなります。
記録のひな形
聞き取りの記録は、次の項目でそろえます。
・入力した日時：
・入力した人（部署）：
・サービス名とアカウントの種類（会社契約／個人の無料アカウント など）：
・入力した情報の種類（氏名、住所、給与額、健康情報 など）：
・対象となった人数（おおよそでなく、名簿の行数で数える）：
・学習に利用しない設定になっていたか：
・会話履歴の状態（残っている／削除した。削除した場合は日時）：
・気づいたきっかけ：
報告が必要な事態かを確かめる
個人情報保護法第26条は、個人の権利利益を害するおそれが大きい漏えい等が生じたときに、委員会への報告を義務づけています。個人情報保護委員会の漏えい等の対応ページでは、民間事業者が報告する事態として次の4つを挙げています。
| 事態 | 誤入力で当てはまりやすい例 |
|---|---|
| 要配慮個人情報が含まれる | 健康診断の結果、病歴、障害に関する情報 |
| 不正に利用されると財産的被害が生じるおそれがある | 給与振込口座の番号とその他の情報 |
| 不正の目的をもって行われたおそれがある | 意図的に持ち出す目的で入力した疑いがある |
| 本人の数が1,000人を超える | 全社員と退職者を含む名簿 |
同じページでは、速報は発覚から3〜5日以内、確報は30日以内（不正の目的によるおそれがある場合は60日以内）とされています。
ただし、そもそも「漏えい」に当たるかの判断が先にあります。通則編は、漏えいを「個人データが外部に流出すること」とし、第三者に閲覧されないうちに全てを回収した場合は漏えいに当たらないとしています。生成AIへの入力がこれに当たるかは、サービスの契約内容や設定によって変わり、一律には決められません。判断に迷うときは、記録を持って個人情報保護委員会の相談窓口に相談します。
「たぶん大丈夫」で済ませず、判断した理由を記録に残してください。報告しないと決めた場合も、その根拠（学習に利用しない契約であったこと、入力内容の範囲など）を書いておくと、後から説明できます。
生成AIに手伝わせてよいこと
誤入力の対応そのものにも生成AIは使えますが、入力するのは個人情報を除いた記録だけです。
次は、社内で起きた「生成AIへの誤入力」の記録です（個人名は除いてあります）。
次の3点を作ってください。
1. 経過を時系列で並べた表
2. 責任者に報告するときの要点（5行以内）
3. 確認がまだ済んでいない事項の一覧
法令上の報告が必要かどうかの判断は書かないでください。
（記録）
報告が必要かどうかの判断をAIに任せると、もっともらしい結論が出てしまいます。判断は必ず一次情報を見て人が行います。
再発防止：ルールを具体的にする
誤入力の多くは、ルールが抽象的なことから起こります。「個人情報を入力しない」だけでなく、次のように具体例で示します。
| 見直す点 | 具体例 |
|---|---|
| 入力してはいけない情報 | 社員名簿、給与一覧、健診結果、マイナンバー、応募書類をそのまま貼らない |
| 使ってよいサービス | 会社が契約し、学習に利用しない設定を確認したサービスだけ |
| 置き換えの手順 | 氏名は「社員A」、社員番号は削除してから入力 |
| 相談先 | 迷ったら入力前に総務へ。誤入力に気づいたら30分以内に報告 |
注意喚起は、一般の利用者に向けても、提供事業者の利用規約やプライバシーポリシーを確認して判断するよう呼びかけています。社員向けの説明に、この一文を引用しておくとよいでしょう。ルール全体の作り方は生成AIの社内利用ガイドラインのつくり方を参照してください。
報告した社員を責めすぎないことも大切です。「すぐ報告すれば一緒に対応する」と伝えておくと、隠されることを防げます。
まとめ
- 誤入力に気づいたら、入力をやめて記録を取り、責任者に報告する。履歴の削除は記録の後
- 委員会への報告が必要かは、4つの事態と「漏えい」に当たるかで確かめ、判断の理由を残す
- 再発防止は、入力してはいけない情報と使ってよいサービスを具体的に決め直す
この記事で使えるテンプレート
総務 個人情報取扱規程（マイナンバー取扱いを含む） 個人情報保護委員会のガイドラインに沿って、利用目的の特定、取得・利用・保管・提供・廃棄の各段階のルール、安全管理措置、委託先の監督、漏えい等の報告、開示等の請求への対応を定め、マイナンバー（特定個人情報）の利用範囲、事務取扱担当者、取扱区域、本人確認、廃棄の章を加えた個人情報取扱規程のひな形です。 総務 個人情報 管理台帳 社内で扱う個人データ（従業員名簿、給与データ、応募者情報、顧客名簿など）を一覧にする台帳です。個人情報保護委員会のガイドラインが例示する項目に、保管場所・保存期間・委託先・廃棄方法などを加えています。この記事に出てくる用語
- 個人情報保護法
- 個人情報を扱う事業者が守るべきルール（利用目的の特定、安全管理措置、第三者提供の制限、漏えい時の報告など）を定めた法律です。従業員数にかかわらず、個人情報を事業に使うすべての会社が対象です。
- 個人データ
- 検索できるように体系的に整理された個人情報の集まり（個人情報データベース等）を構成する個人情報のことです。社員名簿や顧客台帳、名刺管理ソフトの中の情報などが該当します。
- プライバシーポリシー
- 会社が個人情報をどのように取得・利用・管理するかを公表する文書です。法律上の名称ではありませんが、個人情報保護法が求める利用目的や保有個人データに関する事項の公表に使われます。
- マイナンバー
- 住民票を持つすべての人に1人1つ指定される12桁の番号です。会社は社会保障・税・災害対策の法定の手続に限って従業員などのマイナンバーを取り扱えます。
- 要配慮個人情報
- 人種、信条、社会的身分、病歴、犯罪の経歴、健康診断の結果など、差別や偏見が生じないよう特に配慮が必要な個人情報です。取得には原則として本人の同意が必要です。
出典・参考資料
この業務、AIでどこまで減らせるか診断します。Otsumu の「AIツール診断」で、自社の業務フローから自動化できる作業を洗い出します。
無料で相談する