この記事でわかること

  • 社員がChatGPTに個人情報を入力してしまったときに、最初の1時間で会社がやること
  • チャットを消す前に記録すべき項目と、影響の大きさを決める4つの確認
  • ChatGPTで消せるもの・消しても残るもの(OpenAIの公式ヘルプに基づく)
  • 個人情報保護法の漏えい等報告に当たるかを確認するときの観点と、相談先

結論:社員がChatGPTに個人情報を入力してしまったら、まず本人を責めずに報告を受け、チャットを消す前に「何を・いつ・どのアカウントとプランで・学習設定はどうだったか」を記録します。そのうえで、会話の削除と共有リンクの停止を行います。OpenAIの公式ヘルプでは、削除したチャットは30日以内にシステムから完全に削除されるとされています。学習に使わない設定をオンにしても効くのは新しい会話からで、過去の会話はさかのぼって除外されません。個人情報保護法上の報告が必要かどうかは個別の判断になるため、記録をそろえたうえで、弁護士などの専門家や個人情報保護委員会の窓口に確認してください。

最初の1時間でやること:消す前に記録する

「顧客の名前と電話番号が入ったリストを、そのまま貼ってしまった」「応募者の履歴書を要約させてしまった」。こうした報告を受けたとき、担当者がまずやりがちなのが、慌ててチャットを消すことです。ところが、消してしまうと何をどこまで入力したのかを後から確かめられなくなります。影響の大きさを判断する材料がなくなり、結果として「念のため全員に連絡する」といった過大な対応か、逆に「たぶん大丈夫」という根拠のない判断に流れやすくなります。

最初の1時間は、次の順に進めます。

  1. 報告してくれたことを受け止める。叱責から入ると、次の事故が報告されなくなります。事実の確認に集中します。
  2. 画面を記録する。入力した内容が分かる部分をスクリーンショットで保存し、入力した日時、使ったサービス名、アカウント(会社契約か個人か)、プラン名をメモに残します。保存したスクリーンショット自体も個人情報なので、閲覧できる人を限定した場所に置きます。
  3. 共有リンクを止める。その会話の共有リンクを作っていた場合は、先に共有を停止します。社外に転送していないかも確認します。
  4. 窓口に上げる。情報システム担当、個人情報の管理責任者、経営者など、社内で決めた窓口に報告します。決まっていなければ、この時点で判断する人を1人決めます。
  5. 記録がそろってから会話を削除する。削除の手順と、削除しても残るものは後の章で説明します。

注意:会社で契約している法人向けプランでは、管理者が会話の記録を保持・確認できる設定になっている場合があります。本人が自分の画面で削除しても、会社側の記録がどう扱われるかは契約と管理画面の設定によるため、削除の前に管理者に確認してください。

影響の大きさを決める4つの確認

同じ「個人情報を入れてしまった」でも、影響の大きさは大きく変わります。記録をもとに、次の4つを確認します。

確認すること影響が小さい例影響が大きくなる例
1. 何を入れたか氏名だけ、社内の担当者名だけ病歴・障害・犯罪歴などの配慮が必要な情報、口座番号やカード番号、マイナンバー
2. 何人分か1〜数人分顧客リストや応募者一覧など、数百〜数千人分
3. どのアカウントか会社が契約し、管理している法人向けプラン社員の個人アカウント(無料版・個人の有料版)
4. 学習設定はどうだったか学習に使わない設定になっていた、一時チャットを使った学習に使う設定のままだった、設定を確認していない

1と2は、後で説明する個人情報保護法の報告対象に当たるかどうかの判断に直結します。3と4は、入力した情報が提供元でどう扱われるかに関わります。OpenAIは、法人向けの環境について「ビジネスデータを学習に使わない」と説明しています(出典:Enterprise privacy at OpenAI|OpenAI)。一方、個人アカウントでは、利用者がデータコントロールの設定で学習への利用をオフにしていない限り、会話が学習に使われる可能性があります(出典:Data Controls FAQ|OpenAI Help Center)。

なお、どの情報が「個人情報」に当たるか、どの程度の情報なら影響が小さいかは、表の例どおりに機械的に決まるものではありません。迷う場合は、影響が大きい側に寄せて扱い、次章の確認に進んでください。

ChatGPTで消せるもの・消しても残るもの

OpenAIの公式ヘルプに書かれている内容を、会社として押さえておくべき点に絞って整理します。仕様は変わることがあるため、対応する時点で最新のヘルプも確認してください。

操作・状態公式ヘルプでの説明会社として押さえる点
チャットを削除する削除したチャットは30日以内にシステムから完全に削除される。ただし、すでに匿名化されアカウントから切り離されたもの、セキュリティや法的な理由で保持が必要なものは例外画面からは即座に消えるが、提供元のシステムから消えるまでには期間がある。削除後は復元できない
チャットをアーカイブするサイドバーから見えなくなるだけで、通常のチャットと同じように保持される「隠した」だけでは削除にならない。アーカイブ済みの会話も確認する
一時チャット30日以内にシステムから削除され、学習には使われない個人情報を扱う可能性がある作業の既定にしておく選択肢がある
学習への利用をオフにするオフにした後の新しい会話は学習に使われない。既存の会話は、オプトアウトしていなければ学習に使われる可能性がある事故の後に設定を変えても、その会話にはさかのぼって効かない

(出典:How chat retention works in ChatGPT|OpenAI Help Center、Data Controls FAQ|OpenAI Help Center)

学習への利用は、ChatGPTの「設定」→「データコントロール」にある「すべての人のためにモデルを改善する」で切り替えます。この設定は端末ではなくアカウント単位で、他の端末にも反映されます。また、メモリ機能やカスタム指示を使っている場合は、入力した情報がそこに保存されていないかも確認し、残っていれば削除します。

ここで大切なのは、「削除したから、なかったことになる」わけではないという点です。削除は被害を広げないための措置であり、すでに起きた入力の事実は残ります。だからこそ、削除の前に記録を取っておく必要があります。

個人情報保護法で確認すること

個人情報保護委員会は2023年6月、生成AIサービスの利用について注意喚起を出しています。個人情報を扱う事業者に向けては、プロンプトに個人情報を入力する場合は利用目的の達成に必要な範囲内かを確認すること、本人の同意なく個人データを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合は法律に違反するおそれがあるため、入力する前に提供元が機械学習に利用しないことなどを十分に確認することを求めています(出典:生成AIサービスの利用に関する注意喚起等について(個人情報保護委員会 令和5年6月2日)|内閣府 AI戦略会議 資料)。前の章の「学習設定はどうだったか」が重要なのは、このためです。

もう一つ確認しておきたいのが、漏えい等の報告です。2022年4月から、個人データの漏えい等が起き、個人の権利利益を害するおそれがあるときは、個人情報保護委員会への報告と本人への通知が義務になっています。委員会のページでは、報告の対象として次の4つの事態が示され、報告は速やか(おおむね3〜5日以内)に行うよう案内されています(出典:漏えい等報告・本人への通知の義務化について|個人情報保護委員会)。

漏えい等報告の対象となる4つの事態(個人情報保護委員会のページより)

  • 要配慮個人情報が含まれる事態
  • 財産的被害が生じるおそれがある事態
  • 不正の目的をもって行われた漏えい等が発生した事態
  • 1,000人を超える漏えい等が発生した事態

生成AIへの入力が、そもそも法律上の「漏えい等」に当たるのか、当たるとしてこの4つのどれかに該当するのかは、入力した情報の中身、件数、提供元での扱われ方などによって変わり、一律には決まりません。ここを社内だけで「たぶん該当しない」と決めてしまうのが、最も避けたい対応です。

大切なこと:この記事は一般的な考え方の整理であり、個別の事案が報告対象に当たるかどうかの法的な判断ではありません。個別の判断は、弁護士等の専門家に確認してください。個人情報保護委員会も相談窓口を設けています。相談する際は、第1章・第2章で集めた記録(入力した項目、件数、日時、アカウントとプラン、学習設定)をそろえておくと、短時間で判断材料を伝えられます。報告の目安が「おおむね3〜5日以内」であることを考えると、相談は早いほど選択肢が残ります。

本人・取引先への連絡をどう判断するか

報告の要否とは別に、本人や取引先にどう伝えるかも決める必要があります。判断は現場の担当者に任せず、窓口の責任者が行います。

取引先から預かった情報だった場合

取引先から業務委託で預かった顧客情報などを入力した場合は、まず契約書と秘密保持契約を確認します。事故時の通知義務や通知までの期限が定められていることが多く、法律上の報告の要否とは別に、契約上の連絡が必要になる場合があります。連絡が遅れるほど、取引先が自社の顧客への対応を準備する時間がなくなります。

本人への連絡

漏えい等報告の対象に当たる場合、本人への通知も必要になります。委員会のページでは、通知の内容として概要・個人データの項目・原因などを挙げ、郵送やメールなど本人に分かりやすい方法で行うこと、通知が難しい場合はホームページでの公表や問い合わせ窓口の設置などの代わりの措置も可能であることが案内されています(出典:漏えい等報告・本人への通知の義務化について|個人情報保護委員会)。報告対象に当たらない場合でも、取引の関係や情報の性質によっては、自主的に伝えたほうがよい場面があります。

連絡の判断のために整理しておくこと

  • 入力した情報の持ち主は誰か(自社の顧客・応募者・取引先から預かった情報)
  • 契約書・秘密保持契約に、事故時の通知の定めがあるか
  • 専門家・窓口に確認した結果(報告対象か、本人への通知が必要か)
  • 連絡する場合の文面と、問い合わせを受ける担当者
  • 社内で同じ使い方をしている人が他にいないかの確認結果

同じことを起こさないための3つの仕組み

事故の後に「個人情報の入力を禁止する」と通知するだけでは、再発は防げません。多くの場合、社員は業務を早く終わらせようとして、手元の資料をそのまま貼っています。仕組みで防ぐ必要があります。

1

会社として使える環境を配る

個人アカウントで業務をしている状態が最も把握しにくい状態です。学習に使われない法人向けプランを用意し、業務ではそれを使うと決めます。

2

入れてよい形を具体例で示す

「氏名は『Aさん』に置き換える」「電話番号やメールアドレスは消してから貼る」など、加工のしかたを例で示すと、禁止より守られます。

3

報告した人を責めないと明記する

速やかに報告すれば不利益を受けないと社内ルールに書いておきます。隠された事故は、気づいたときには取れる手がなくなっています。

+

初動の手順を1枚にしておく

この記事の「最初の1時間」の5項目と窓口の連絡先を1枚にまとめ、AIを使う全員に配っておくと、慌てて消すという最初の失敗を防げます。

社内ルール全体の作り方は、関連記事の「生成AIの社内利用ルールの作り方」で、章立てと書き方の例を紹介しています。

LnXの見解

個人情報の誤入力が起きた会社のお話を聞くと、問題を大きくしているのは入力そのものより、その後の数時間の動き方であることが多いと感じます。慌てて消して記録が残っていない、誰に報告すればよいか決まっていない、報告を受けた側も判断の材料を持っていない。こうなると、本来なら落ち着いて判断できた事案でも、確認の手がかりが失われてしまいます。

逆に言えば、記録の取り方と報告先、判断する人さえ決まっていれば、多くの事案は落ち着いて対処できます。生成AIを禁止しても、社員が個人のスマートフォンで使えば会社からは見えなくなるだけです。安全に使える環境を配り、入れてよい形を示し、事故のときの動き方を先に決めておく。この3つをそろえることが、AI活用を止めずに事故を小さくする現実的な方法です。LnXでは、ツールの選定と設定から、入力してよい情報の線引き、初動手順の1枚化まで、社内の状況に合わせて一緒に整えています。

※ChatGPTの仕様や画面は更新されます。対応の際は最新の公式情報も確認してください。

AI活用のご相談

誤入力が起きても慌てない、生成AIの使い方とルールを整えます
AI活用について相談する

よくある質問

QChatGPTのチャットを削除すれば、入力した情報は完全に消えますか?

画面からはすぐに消えますが、OpenAIの公式ヘルプでは、削除したチャットはシステムから30日以内に完全に削除されるとされています。セキュリティや法的な理由で保持が必要なものなどは例外です。削除しても入力した事実は残るため、削除の前に記録を取ってください。

Q事故の後に「学習に使わない」設定にすれば、その会話も学習から外れますか?

外れません。OpenAIの公式ヘルプでは、設定をオフにした後の新しい会話が学習に使われなくなると説明されており、既存の会話は、オプトアウトしていなければ学習に使われる可能性があるとされています。

Q個人情報を入力したら、必ず個人情報保護委員会に報告しなければなりませんか?

一律に必要とは限りません。報告の対象は、要配慮個人情報が含まれる、財産的被害のおそれがある、不正の目的による、1,000人を超える、の4つの事態とされています。生成AIへの入力が該当するかは個別の判断になるため、弁護士等の専門家や委員会の窓口に確認してください。

Q法人向けプランなら、入力しても問題ありませんか?

OpenAIは法人向けの環境でビジネスデータを学習に使わないと説明しており、個人アカウントより扱いは明確です。ただし、利用目的の範囲内か、取引先との契約で第三者のサービスへの入力が認められているかは別に確認が必要です。

Q社員が個人のアカウントで入力していた場合はどうすればよいですか?

会社は個人アカウントの設定や記録を直接確認できないため、本人の協力を得て、画面の記録、学習設定の状態、共有リンクの有無を確認します。そのうえで削除を依頼し、今後は会社として用意したアカウントを使うよう案内します。

関連記事