LLMにおける個人情報の取り扱いとは
LLM（大規模言語モデル）を業務や日常生活で利用する際には、個人情報の取り扱いに注意する必要があります。
生成AIサービスでは、ユーザーが入力した文章やファイルなどの情報が、サービス提供事業者のシステムへ送信されて処理される場合があります。
そのため、氏名や住所、電話番号、メールアドレス、顧客情報などをプロンプトへ入力する場合は、通常のクラウドサービスへデータを送信する場合と同じように、情報管理を意識することが重要です。
特に企業でLLMを利用する場合は、個人情報保護法だけでなく、サービスの利用規約や契約条件、データ保存期間、アクセス権限なども確認する必要があります。
LLMで注意すべき個人情報とは
氏名や住所だけが個人情報ではない
日本の個人情報保護法における個人情報とは、生存する個人に関する情報であり、氏名などによって特定の個人を識別できるものなどを指します。
また、単独では個人を特定できない情報でも、他の情報と容易に照合することで特定の個人を識別できる場合には、個人情報に該当する可能性があります。
LLMを利用する際には、例えば次のような情報に注意する必要があります。
- 氏名
- 住所
- 電話番号
- メールアドレス
- 生年月日
- 顧客番号
- 顔写真
- 音声データ
- 勤務先や所属部署
- 従業員情報
- 顧客との問い合わせ履歴
- 購買履歴
- 位置情報
- 病歴や健康情報
- 本人を識別できる社内文書
また、勤務先、役職、年齢、居住地域、経歴などを組み合わせることで、特定の人物を推測できるケースもあります。
そのため、氏名だけを削除すれば必ず安全になるわけではありません。
個人識別符号にも注意する
個人情報保護法では、特定の個人を識別できる一定の情報を「個人識別符号」として扱っています。
例えば、一定の生体認証情報や公的な番号などが該当します。
LLMへデータを入力する際には、文章だけでなく、画像や音声、識別番号などに個人を特定できる情報が含まれていないか確認することが重要です。
なぜLLMで個人情報の取り扱いが問題になるのか
入力した情報が外部サービスへ送信される場合がある
クラウド型のLLMサービスでは、ユーザーが入力したプロンプトやアップロードしたファイルが、サービス事業者のサーバーへ送信されて処理される場合があります。
例えば、顧客から届いたメールを生成AIに要約させる場合、メール本文に氏名、住所、電話番号などが含まれていれば、それらの情報も一緒に送信される可能性があります。
そのため、業務でLLMを利用する場合には、入力する情報が業務上必要な範囲に収まっているかを確認することが重要です。
入力データが保存される場合がある
LLMサービスへ入力した情報が、処理後すぐに完全消去されるとは限りません。
サービスによっては、サービス提供、不正利用対策、障害調査、セキュリティ監視、品質改善などを目的として、プロンプトや生成結果などが一定期間保存される場合があります。
保存期間や保存方法はサービスや契約プランによって異なります。
そのため、企業で利用する場合は、利用規約やプライバシーポリシー、データ処理契約などを確認することが重要です。
モデル改善や学習に利用される場合がある
サービスによっては、ユーザーが入力したデータがモデル改善や品質向上などに利用される場合があります。
ただし、すべてのLLMサービスが入力内容を自動的に学習するわけではありません。
入力データの取り扱いは、サービスの種類、契約プラン、管理者設定、ユーザー設定、API利用の有無などによって異なります。
したがって、「生成AIに入力すると必ず学習される」と考えるのも、「学習されないから情報は一切保存されない」と考えるのも適切ではありません。
LLMでは「入力」「保存」「学習」を分けて考える
入力とは
入力とは、ユーザーがプロンプトやファイルなどのデータをLLMサービスへ送信することです。
例えば、顧客メールを要約するために文章を生成AIへ入力する行為が該当します。
保存とは
保存とは、入力された情報や生成結果がシステム上に一定期間保持されることです。
LLMのモデル改善に利用されなくても、セキュリティ監視や障害調査などのために保存される可能性があります。
学習とは
学習やモデル改善とは、入力されたデータを将来のモデル性能向上などに利用することです。
したがって、LLMの個人情報対策を考えるときは、「入力されたか」「保存されたか」「学習に使われたか」を別々に確認する必要があります。
LLMから個人情報が漏えいする可能性
機密情報が意図せず出力される可能性がある
LLMシステムでは、個人情報や機密情報が意図しない形でユーザーへ表示されるリスクがあります。
特に、社内データベースや文書管理システムとLLMを接続している場合は注意が必要です。
アクセス制御が不十分な場合、本来閲覧できない顧客情報や人事情報などが、生成結果として表示される可能性があります。
プロンプトインジェクションにも注意が必要
LLM特有のセキュリティリスクの一つに、プロンプトインジェクションがあります。
プロンプトインジェクションとは、悪意のある指示によってLLMの挙動を変化させる攻撃です。
LLMが外部システムやデータベースへ接続されている場合、攻撃によって機密情報が表示されたり、本来想定していない処理が実行されたりする可能性があります。
そのため、「個人情報を表示しないでください」とLLMへ指示するだけでは十分ではありません。
データベースや検索システム、APIなどの側で適切なアクセス制御を行う必要があります。
学習済みLLMから個人情報が出力される可能性
LLMは単純なデータベースではない
一般的なLLMは、学習した文章をそのままデータベースのように保存し、検索して回答する仕組みではありません。
大量のデータから言語のパターンや関係性などを学習し、その情報をもとに文章を生成します。
しかし、学習データの一部をモデルが記憶し、特定の条件下で類似した情報を再生成する可能性については研究されています。
そのため、「学習したモデルには元データが一切残らない」と断定することは適切ではありません。
学習後に元データを削除しても注意が必要
学習用データセットから個人情報を削除したとしても、すでにモデルの学習に使用されている場合には、モデル側への影響が完全に消えるとは限りません。
個人データを利用してAIモデルを開発する場合は、モデルから個人を識別できる可能性や、情報を再生成できる可能性なども考慮する必要があります。
RAGを利用しても個人情報対策は必要
RAGとは
RAGとは「Retrieval-Augmented Generation」の略で、日本語では検索拡張生成などと呼ばれます。
ユーザーの質問に関連する情報をデータベースなどから検索し、その情報をLLMへ渡して回答を生成する仕組みです。
モデルそのものへ情報を追加学習させなくても、社内文書などを利用した回答を生成できる点が特徴です。
RAGでも情報漏えいは起こり得る
RAGを利用すれば、個人情報に関する問題が自動的に解決するわけではありません。
例えば、検索システムのアクセス制御が不十分な場合、本来閲覧できない顧客情報や人事情報を取得し、その内容をLLMが回答として表示してしまう可能性があります。
そのため、RAGを利用する場合は、LLM側だけでなく、検索システムやデータベース側でユーザーごとの権限を適切に設定することが重要です。
ファインチューニングで個人情報を扱う場合
学習データに個人情報が含まれていないか確認する
ファインチューニングでは、特定用途向けのデータを利用してモデルの挙動を調整します。
企業では、顧客とのチャット履歴やコールセンターの記録、メールなどを学習データとして利用したいケースも考えられます。
しかし、これらのデータには個人情報や機密情報が含まれている可能性があります。
そのため、学習前にデータの内容を確認し、不要な個人情報を削除したり、識別情報を置き換えたりする必要があります。
単純な置き換えを「匿名加工情報」と呼ばない
例えば、氏名を「USER_001」に置き換える方法があります。
これは個人を直接識別しにくくする方法として有効ですが、それだけで個人情報保護法上の「匿名加工情報」になるとは限りません。
日本の個人情報保護法には、「匿名加工情報」と「仮名加工情報」という法律上の定義があります。
これらには一定の加工要件があるため、一般的なマスキングや名前の置き換えとは区別して考える必要があります。
記事や社内ガイドラインでは、「匿名化」という言葉を曖昧に使用せず、「削除」「置換」「マスキング」「仮名加工」などを使い分けることが重要です。
匿名化すれば必ず安全になるわけではない
他の情報から再識別される可能性がある
氏名を削除したとしても、年齢、勤務先、役職、居住地域、経歴などを組み合わせることで、特定の個人を推測できる場合があります。
また、元データとの対応表を保持している場合、置換されたIDから本人を特定できることもあります。
そのため、氏名やメールアドレスを削除しただけで、「個人情報ではなくなった」と判断するのは適切ではありません。
必要な情報だけを残すことが重要
個人情報の保護では、単に名前を隠すだけではなく、LLMの処理に必要な情報だけを残す考え方が重要です。
例えば、問い合わせメールの文章を改善するだけであれば、顧客の住所や電話番号までLLMへ送信する必要はない場合があります。
業務目的に必要な範囲まで情報を削減することが重要です。
一般利用者が安易に入力しない方がよい情報
LLMを個人で利用する場合でも、機密性の高い情報を必要なく入力することは避けた方がよいでしょう。
特に注意したい情報には、次のようなものがあります。
- パスワード
- APIキー
- 秘密鍵
- クレジットカード番号
- 銀行口座情報
- マイナンバーなどの重要な識別情報
- 住所や電話番号
- 他人の個人情報
- 医療記録や健康情報
- 顧客情報
- 人事情報
- 未公開の契約書
- 営業秘密
- NDAの対象となっている情報
特に業務で利用する場合は、自分自身の情報だけでなく、顧客や従業員など第三者の情報を入力するケースに注意する必要があります。
企業がLLMを利用する際に必要な個人情報対策
入力してよい情報を明確にする
企業で生成AIを導入する場合は、社員個人の判断だけに任せないことが重要です。
社内ルールでデータを分類し、どの情報をどのLLMサービスへ入力できるかを明確にすると管理しやすくなります。
例えば、データを次のように分類できます。
- 公開情報
- 社内一般情報
- 機密情報
- 個人情報
- 要配慮個人情報
- 認証情報
特にパスワードやAPIキーなどの認証情報については、生成AIサービスへ入力しない運用が基本です。
必要最小限のデータだけを入力する
顧客情報をLLMで処理する場合は、業務に必要な情報だけを送信することが重要です。
例えば文章の校正だけが目的であれば、氏名や電話番号などを削除してから入力することで、リスクを減らせます。
これはデータ最小化の考え方にもつながります。
個人情報を自動的に検出・マスキングする
企業向けのLLMシステムでは、プロンプトを送信する前に個人情報を検出し、マスキングする仕組みを導入する方法もあります。
例えば、メールアドレス、電話番号、氏名、住所などを検出し、別の記号やIDへ置き換えてからLLMへ送信します。
ただし、自動検出には漏れや誤検知が発生する可能性があるため、完全な対策として依存するのではなく、複数の対策を組み合わせる必要があります。
アクセス権限を適切に設定する
社内LLMやRAGを導入する場合は、ユーザーごとに閲覧可能な情報を制御することが重要です。
例えば、営業担当者が営業資料を閲覧できても、人事評価データや役員向け資料まで閲覧できる必要はありません。
アクセス制御はLLMのプロンプトだけで行うのではなく、検索システムやデータベース側で強制することが重要です。
ログに個人情報が残っていないか確認する
LLM利用時の個人情報は、LLMサービスだけに保存されるとは限りません。
アプリケーションログ、API Gateway、監視サービス、エラーログ、分析ツールなどにプロンプトや生成結果が保存される場合があります。
そのため、LLM事業者のデータ保存ポリシーだけでなく、自社システムを含めたデータフロー全体を確認することが重要です。
APIを利用すれば個人情報が安全になるとは限らない
APIでも外部事業者へデータが送信される可能性がある
ブラウザ版ではなくAPIを利用すれば安全だと考えられることがありますが、APIであること自体が安全性を保証するわけではありません。
APIを利用する場合でも、自社システムからLLM事業者のシステムへデータが送信される可能性があります。
重要なのは、Web版かAPI版かではなく、そのサービスや契約でデータがどのように扱われるかです。
契約条件を確認する
企業がLLM APIを利用する場合は、少なくとも次の項目を確認するとよいでしょう。
- モデル改善への利用の有無
- データ保存期間
- データ保存地域
- 暗号化の方法
- アクセス管理
- 再委託先
- データ削除方法
- インシデント発生時の対応
- 契約終了後のデータ処理
海外のサーバーで個人情報を処理する場合
海外保存と第三者提供は同じではない
LLMサービスによっては、入力データが海外のサーバーで処理・保存される場合があります。
企業利用では、この点も確認する必要があります。
ただし、データが海外サーバーへ保存されることと、個人情報保護法上の「外国にある第三者への提供」に該当することは必ずしも同じではありません。
サービス事業者がデータをどのように取り扱うのかや、契約上の関係などによって判断が異なります。
そのため、単に「サーバーが海外だから問題」と判断するのではなく、データの取り扱い全体を確認することが重要です。
保存国だけでなく処理主体も確認する
企業でLLMサービスを利用する場合は、データセンターの所在地だけでなく、誰が個人データを取り扱うのかについても確認する必要があります。
確認すべき項目としては、次のようなものがあります。
- サービス提供企業の所在地
- データセンターの所在地
- データを処理する法人
- 再委託先
- 適用される法令
- データの保存期間
- データ削除の方法
LLM導入時に確認したいチェックポイント
企業がLLMを導入する場合は、次のような項目を事前に確認しておくとよいでしょう。
- どのような個人情報をLLMへ入力するのか
- その利用が業務目的の範囲内か
- 入力データはどこへ送信されるのか
- 入力データは保存されるのか
- 保存期間はどの程度か
- モデル改善や学習に利用されるのか
- 学習利用を無効化できるのか
- データはどの国や地域で処理されるのか
- 第三者や再委託先がデータを扱うのか
- データの削除方法が用意されているか
- 通信や保存データが暗号化されているか
- RAGのアクセス権限は適切か
- ログに個人情報が残らないか
- プロンプトインジェクション対策が行われているか
- 退職者や異動者のアクセス権限を適切に変更できるか
LLM単体だけを見るのではなく、「ユーザーから入力された情報がどこを通り、どこに保存され、誰がアクセスできるのか」を全体として把握することが重要です。
LLMでは個人情報を一切扱ってはいけないのか
適切な管理を行えば個人情報を扱うことは可能
LLMだから個人情報を一切扱えないというわけではありません。
企業向けの適切なサービスやシステムを利用し、契約条件、安全管理措置、アクセス制御、データ最小化などを実施したうえで、業務上必要な個人情報を処理するケースもあります。
重要なのは、「個人情報が含まれているから即座に禁止する」という考え方ではなく、どのような目的で、どのような仕組みを使って、どのように管理するのかを確認することです。
一般向けLLMへ無条件に個人情報を入力するのは避ける
一方で、利用条件を確認せずに顧客名簿を入力したり、従業員の人事評価を一般向け生成AIへ貼り付けたりすることは避けるべきです。
特に他人の個人情報を業務目的で取り扱う場合には、企業のルールや契約条件を確認する必要があります。
LLMにおける個人情報管理の基本
LLMで個人情報を扱う際に重要なのは、生成AIだけを特別な仕組みとして考えるのではなく、外部のクラウドサービスや情報システムと同様に、データ管理の対象として考えることです。
基本的な対策としては、次のようなものがあります。
- 業務に必要な範囲だけ個人情報を利用する
- 不要な識別情報を削除・置換・マスキングする
- サービスの利用規約や契約条件を確認する
- データ保存期間や学習利用の有無を確認する
- ユーザーごとのアクセス権限を設定する
- ログや外部連携サービスまで含めて管理する
- プロンプトインジェクションなどのセキュリティ対策を行う
- 社内ガイドラインを整備する
LLMの個人情報対策では、「AIが安全かどうか」だけを確認するのでは十分ではありません。
ユーザーが入力したデータが、どこへ送信され、どこに保存され、誰が利用できるのかというデータの流れ全体を把握することが重要です。
業務上必要な範囲を超える個人情報をLLMへ渡さず、必要な情報についても契約、技術、運用の3つの側面から適切に管理することが、LLMを安全に活用するうえでの基本となります。
以上、LLMにおける個人情報の取り扱いについてでした。
最後までお読みいただき、ありがとうございました。
