AIに入力してはいけない情報は、他人に見られたくないものと、悪用されたら困るものです。
仕事でAIを使う際、取引先の名前や社内資料など、どこまで入力してよいのか迷う人も多いのではないでしょうか。
入力内容は学習に使われる場合があり、運営側のスタッフが確認する可能性もあるため、送信前の確認が欠かせません。
ただし、すでに個人情報を入力してしまった場合でも、履歴の削除や設定の変更によって、その後のリスクを抑えられることがあります。
また、AIを使う際には情報漏洩だけでなく、生成された回答をそのまま信じてしまうことにも注意が必要です。
本記事では、入力してはいけない情報の種類と理由に加え、実際の漏洩事例や入力後の対処法、安全な使い方を解説します。
AIを安心して活用するための判断基準として、参考にしてください。
最短ルートで
生成AIを使いこなしたい方へ
- 生成AIを使ってみたが、思うような
結果が出ない - 生成AIの活用方法がわからない
- AIを使って業務を効率化したい
生成AIコース無料体験してみませんか？
- 無料で120以上の教材を学び放題！
- 理解度を記録して進捗管理できる！
- テキストの重要箇所にハイライトを
残せる！
1分で簡単！無料！
無料体験して特典を受け取るAIに入力してはいけないこと3種類【ChatGPT・Geminiなど】
AIに入力してはいけない情報は、個人情報・機密情報・認証情報の3種類です。
いずれも、他人に見られたくない情報や、悪用されると困る情報にあたります。
| 種類 | 具体例 |
| ①個人情報 | 氏名・住所・電話番号・マイナンバー |
| ②機密情報 | 顧客リスト・社内の議事録・ソースコード・未公開情報・契約書 |
| ③認証情報など | ID・パスワード・APIキー |
ChatGPTやGeminiなど、どの生成AIを使う場合も、注意すべき情報の種類は変わりません。
そのため、何を入力しないかという基準を持ち、利用するサービスごとに判断することが大切です。
ここからは3種類の情報を順に説明します。
①個人情報｜名前と住所の組み合わせで特定される
氏名・住所・電話番号・マイナンバーなどの個人情報は、AIに入力してはいけない情報の代表です。
メールアドレス・生年月日・顔写真も同じ種類に含まれ、複数の情報がそろうほど個人を特定される可能性が高まります。
例えば、名前だけでは特定できなくても、住所や電話番号と組み合わさると、個人にたどり着く手がかりとなります。
個人情報保護委員会も、入力した個人情報が機械学習に利用され、ほかの情報と統計的に結びついて出力されるリスクを指摘しています。
対象は自分だけでなく、家族や取引先の担当者の情報も同じです。
他人の情報を入力する際は本人の同意が必要になる場合もあるため、自分の判断だけで扱ってよい情報かを事前に確認しましょう。
②機密情報｜顧客リスト・議事録・ソースコード・未公開情報・契約書
顧客リスト・社内の議事録・独自のソースコードは、AIに入力してはいけない機密情報です。
発表前の製品情報や決算なども未公開情報にあたり、漏洩した場合は会社に大きな影響を与えるおそれがあります。
特に、資料の要約や翻訳を依頼する際は、中身を確認しないまま機密情報を貼り付けないよう注意が必要です。
また、会議の音声を文字起こししたデータにも、社外へ出せない発言が残っている場合があります。
さらに、契約書の内容を整理してもらおうとして、そのままAIに貼り付けてしまうケースにも注意が必要です。
契約書には取引の条件だけでなく、相手の会社名や担当者名も書かれています。
つまり、契約書には機密情報と個人情報の両方が含まれています。
個人情報保護委員会は、本人の同意を得ずに個人データを入力し、回答の出力以外にも使われる場合は、個人情報保護法に違反する可能性があると注意を促しています。
会社の情報は個人の判断だけで扱えない場合もあるため、AIへ入力する前に社内ルールを確認しましょう。
③ID・パスワード・APIキー
ID・パスワード・APIキーも、AIへ入力してはいけません。
APIキーは、アプリケーションと外部のサービスをつなぐ時に使う鍵のようなものです。
開発の経験がない方には、なじみが薄いかもしれません。
APIキーが流出すると、第三者に自分の契約でサービスを使われ、高額な請求が発生する可能性があります。
パスワードについて相談したい場合も、実際の文字列は入力せず、「英数字8文字のパスワードは安全か」のように伏せて質問しましょう。
いずれの情報も送信後には取り消せないため、入力前に内容を確認してください。
AIに入力してはいけない理由は？
AIに情報を入力してはいけない理由は、学習に使われる場合があり、運営側のスタッフが確認する可能性もあるためです。
さらに、履歴を削除しても一定期間は保存されるため、一度送信した内容を自分だけで管理することはできません。
以下では、入力前に知っておきたい3つの理由を順に解説します。
入力した内容がAIの学習に使われる
AIに入力した内容は、モデルの精度を改善するための学習に使われる場合があります。
設定を変更していなければ、入力内容が学習の対象になっている可能性もあるため、利用前に確認が必要です。
Googleの公式ヘルプによると、Geminiと共有した内容はアクティビティに保存されます。
個人情報保護委員会も、入力した個人情報が機械学習に利用され、正確または不正確な内容として出力されるリスクを挙げています。
個人情報だけでなく、AIと交わしたプライベートな会話も漏れる可能性があります。
運営側のスタッフが内容を確認することがある
サービスを提供する企業のスタッフが、回答の品質改善や不正利用の確認を目的として、入力内容を見る場合があります。
Googleの公式ヘルプには、人間のレビュアーが収集したデータの一部をレビューすることがあると明記されています。
レビュアーには、訓練を受けたGoogleのサービスプロバイダも含まれます。
同じヘルプでは、利用者に対して次のように案内されています。
「レビュアーに見られたくない機密情報や、Google のサービス（機械学習技術など）の改良のために使用されたくない機密情報は入力しないでください。」
※引用：「Gemini アプリのプライバシー ハブ」Google
AIと1対1で話しているつもりでも、人の目に触れる可能性がある点には注意が必要です。
確認の対象は一部のデータですが、どの会話が選ばれるかは利用者にはわかりません。
そのため、自分の会話は対象にならないと考えず、入力内容と設定の両方を確認してください。
履歴を削除しても一定期間は保存される
AIに入力した内容は、履歴を削除してもすぐに消えるとは限りません。
Googleの公式ヘルプによると、レビュアーが確認した過去のチャットは、Googleアカウントから切り離して最長3年間保存されます。
このデータは履歴を削除しても消えないため、画面上から見えなくなることと、完全に削除されることは別です。
したがって、入力前に送信の可否を判断することが、最も確実な対策となります。
後半で紹介する対処法は被害の拡大を抑える手順であり、入力前の確認に代わるものではありません。
AIの危険性の例｜実際に起きた情報漏洩
AIの危険性を示す例として、企業の機密情報が流出した事例があります。
2023年には、サムスンの社内エンジニアが機密のソースコードをChatGPTへ入力し、情報が流出したと報じられました。
作業を効率化し、コードの不具合を早く直すことが目的でも、結果として取り返しのつかない事故につながる場合があります。
同じ構図はコードを扱う職種に限らず、資料や文章をAIへ入力する仕事でも起こり得ます。
AI使用時に注意すべきリスク
AIを使用する際は、個人情報の入力によって法律に違反するリスクと、共有リンクから会話を第三者に見られるリスクに注意が必要です。
ここからは、AI使用時に注意すべき2つのリスクを解説します。
個人情報保護法に違反するリスク
医療機関や行政機関が患者や住民の個人情報をAIへ入力した場合、個人情報保護法に違反する可能性があります。
個人情報保護委員会は、行政機関等が保有個人情報を入力し、回答の出力以外にも使われる場合は、個人情報保護法に違反する可能性があると注意を促しています。
医療や行政の現場では、本人の同意なしに扱えない情報が日常的に登場します。
医療や行政で扱う情報は個人の判断だけで入力できないため、組織としてAIの使い方を決めておく必要があります。
入力してよいか迷った場合は、自分で判断せず、組織の窓口へ確認してください。
共有リンクから会話を見られるリスク
共有リンクは、URLを知っている人なら会話を閲覧できる場合があります。
共有した相手がURLを第三者へ転送したり、意図しない場所へURLが公開されたりすると、想定していなかった人に会話を見られるおそれがあります。
そのため、共有リンクを作成する前に、会話に個人情報や機密情報が含まれていないか確認してください。
作成した共有リンクが不要になった場合は、第三者に閲覧されるリスクを減らすため、早めに削除しましょう。
AIに個人情報を入力してしまったときの対処法
AIに個人情報を入力してしまった場合は、履歴の削除・設定の変更・削除申請の順に進めます。
入力した情報を完全に消せるとは限りませんが、気づいた直後に対応すれば、被害の拡大を抑えられます。
なお、パスワードやAPIキーなどの認証情報を入力した場合は、履歴の削除だけでなく、直ちに変更・失効・再発行してください。
| 手順 | やること |
| 手順① | 入力したチャットの履歴を削除する |
| 手順② | 学習に使わせない設定に変える |
| 手順③ | 提供元へ削除の申請を出す |
| 手順④ | 顧客や取引先の情報なら上長に報告する |
時間が経つほど確認や報告に必要な情報が曖昧になるため、次の4つの手順を早めに進めましょう。
手順①チャットの履歴を削除する
最初に、必要な情報を控えたうえで、個人情報を入力したチャットの履歴を削除します。
履歴は削除すると元に戻せません。
手順③の削除申請や手順④の社内報告で必要になる場合があるため、実際に削除する前に、入力した情報の種類・入力日時・利用したサービス名・会話の内容などを必要な範囲で控えておきましょう。
必要な内容を控えたら、ChatGPTでは次の手順で履歴を削除してください。
- 削除したい会話にカーソルを合わせる
- 会話名の横にある3点のマークをクリックする
- メニューから削除を選択する
一方、Geminiでは、Geminiアプリアクティビティの画面から該当の会話を削除できます。
同じ情報を複数の会話へ貼り付けている場合は、検索機能を使い、該当する履歴をすべて確認してください。
手順②学習に使わせない設定に変える
履歴を削除したら、以降の会話が学習に使われないよう設定を変更します。
一度変更すれば、その後の入力に適用されます。
ChatGPTでは、次の手順で設定してください。
- 画面から設定を表示する
- データコントロールを選択する
- モデルの改善に関する項目をオフにする
Geminiでの手順は次のとおりです。
- Geminiアプリアクティビティの画面を表示する
- アクティビティの設定をオフにする
設定の場所はサービスによって異なるため、見つからない場合は設定画面で「データ」という語を探してみてください。
ただし、設定を変更しても、それまでに学習へ使われた分には適用されません。
Googleの公式ヘルプによると、アクティビティをオフにしたあとのチャットも72時間は保存されます。
利用者への応答と、不正利用などからの保護のためだと説明されています。
また、設定をオフにしても会話の履歴は残るため、手順①の削除とあわせて行う必要があります。
手順③削除の申請を出す
回答に個人情報が含まれる場合は、サービスの提供元へ削除を申請できます。
ChatGPTでは、公式サイトのプライバシーポータルから申請の種類を選び、手続きを進めます。
申請時に本人確認や削除対象の説明を求められる場合があるため、手順①で控えた情報を確認しながら手続きを進めましょう。
なお、申請には審査があり、必ず削除されるとは限りません。
それでも、自分の情報が回答に現れる状態を解消する手段になるため、手順①と手順②に続いて申請してください。
申請内容と回答は記録として残しておくと、社内への報告や後日の確認に役立ちます。
手順④顧客や取引先の情報なら上長に報告する
顧客や取引先の個人情報を入力した場合は、自分だけで対処せず、速やかに上長へ報告します。
報告が遅れるほど対応の幅が狭まるため、入力した情報の種類・日時・利用したサービス名を整理して伝えてください。
社内に専用の窓口がある場合は、決められた手順に従います。
報告を受けた側が取引先への連絡の要否を判断するため、情報を隠さず早く共有することが重要です。
また、業務でAIを使う場合は、入力できる情報の範囲と報告の流れを事前に決めておきましょう。
安全にAIを使うには？注意点
安全にAIを使うには、個人情報や機密情報を仮の名前や記号へ置き換えてから入力します。
このように秘密の情報を別の文字へ置き換えて伏せる方法が、マスキングです。
例えば、打ち合わせのお礼メールを作る場合は、次のように置き換えます。
| 変更前 | 変更後 |
| 田中太郎さん（35歳・東京都目黒区在住）へのお礼メールを作って | Aさん（30代男性・都内在住）へのお礼メールを作って |
仮の情報へ置き換えてもメールの内容は作れるため、回答を受け取ったあとに実際の名前へ戻せば利用できます。
また、入力データの扱いはサービスによって異なるため、利用規約とプライバシーポリシーも確認しておきましょう。
個人情報保護委員会も、一般の利用者に対して利用規約等の確認を求めています。
以下では、マスキングする際の3つのポイントを紹介します。
氏名はアルファベット1文字に置き換える
氏名は、AさんやBさんのようにアルファベット1文字へ置き換えます。
田中太郎さんをTさんとするなど、頭文字を使っても構いません。
複数の人物が登場する場合は記号を分ければ、誰と誰のやり取りなのかをAIへ伝えられます。
会社名や店舗名も同じ考え方で、取引先を「X社」、勤務先を「当社」のように置き換えましょう。
また、対応関係を手元にメモしておくと、回答を実際の名前へ戻す際に迷いません。
置き換えのルールは自分が理解できればよく、複雑な記号を使う必要はありません。
住所は地域の表現に置き換える
具体的な住所は、「都内」や「関東」のような広い地域の表現へ置き換えます。
例えば、東京都目黒区を都内と書けば、番地や建物名を入力せずに相談できます。
移動時間に関する相談では市区町村まで残し、地域が回答に関係しない場合は住所自体を省略しても構いません。
「近くの店舗」のような表現でも相談は成り立つため、必要な範囲まで情報を減らしましょう。
住所を詳しく書いても、必ずしも回答の精度が上がるわけではありません。
数字は大まかな範囲に置き換える
年齢や金額などの数字は、35歳なら30代、120万円なら100万円台のように大まかな範囲へ置き換えます。
日付も月単位までにとどめれば、生年月日などから個人を絞り込まれるリスクを下げられます。
情報をそれぞれ大まかにすることで、複数の項目を組み合わせた個人の特定も難しくなるでしょう。
範囲で伝えても回答が大きく変わらない場合は、必要になった段階で正確な数字を当てはめてください。
氏名・住所・数字をマスキングするだけでも、情報漏洩のリスクを下げられます。
AIにうっかり入力してしまうことを事前に防ぐ方法
AIにうっかり情報を入力するのを防ぐには、利用するAIサービスの履歴・学習・メモリ・共有に関する設定を確認することが大切です。
サービスによって機能名や設定項目は異なりますが、履歴を残さない機能を使い、記憶された内容や共有範囲を見直すことで、情報が残る範囲を狭められます。
学習に使わせない設定は対処法の手順②で解説したため、ここではAIサービスを使う前に確認したい2つの方法を紹介します。
ただし、設定はあくまで補助であり、入力してはいけない情報を送らないことが前提です。
履歴を残さない機能を使う
AIサービスによっては、会話履歴を残さない一時利用機能や、履歴を保存しない設定が用意されています。
例えば、ChatGPTの一時チャットは、新しいチャットで専用のボタンを選び、履歴を残さずに会話する機能です。
公式ヘルプによると、一時チャットの会話は学習に使われず、30日以内にシステムから削除されます。
手動で削除しなくても消えるため、通常の会話よりも履歴の消し忘れを防ぎやすくなります。
一方、過去の会話や記憶は引き継がれず、毎回説明し直す必要があるため、継続的な相談には向きません。
一度だけ相談したい内容では履歴を残さない機能を選ぶなど、利用するAIサービスの仕様に合わせて通常の会話と使い分けましょう。
メモリ機能と共有設定を確認する
AIサービスによっては、過去の会話や利用者の情報を記憶し、次回以降の回答に反映する機能があります。
例えば、ChatGPTではメモリの内容を設定画面で確認して個別に削除できるため、個人情報や覚えてほしくない内容が残っていないか確認しましょう。
利用者が明示的に指示しなくても記憶される場合があるため、メモリ機能があるAIサービスを長く使っている方ほど定期的な見直しが必要です。
また、会話を共有できるAIサービスでは、共有リンクの公開範囲も確認してください。
ChatGPTの共有リンクは、削除するまでURLを知る人が内容を閲覧できるため、作成前に会話の内容と公開範囲を見直しましょう。
AIに聞いてはいけないこと｜判断を任せられない質問
AIに判断を任せてはいけない質問には、医療・法律・税務・緊急時の対応・投資・法的な文書に関するものがあります。
AIを使う際は、入力した情報が外へ出るリスクだけでなく、AIの回答をそのまま信じてしまうことにも注意が必要です。
回答が間違っていても、責任は利用者側が負います。
そのため、AIの回答は参考情報として受け取り、影響が大きい判断ほど専門家や公的な窓口へ確認してください。
医療・法律・税務の専門的な判断
病気の自己診断や法律の解釈、税務の判断はAIに任せず、最終的には専門家へ確認しましょう。
個人情報保護委員会は、生成AIの応答結果に不正確な内容が含まれることがあると示しています。
AIは文章として自然な回答を生成できますが、もっともらしい内容でも正しいとは限りません。
また、症状や契約内容などを入力すると、個人情報をAIサービスに提供することになる場合もあります。
そのため、AIは情報を調べるための材料として使い、診断や法的な判断、税務上の判断は専門家へ相談してください。
緊急時の対応
けが・事故・災害などの緊急時は、AIへ質問せず、119番や自治体の窓口などへ直接連絡してください。
AIは目の前の状況を確認できず、回答を待つ時間が対応の遅れにつながる場合もあります。
一方、状況が落ち着いたあとに、出来事を時系列で整理したり、報告書の下書きを作ったりする用途には活用できます。
緊急時の手順を確認したい場合は、平常時に公的な情報を調べておきましょう。
投資や資産運用の判断
投資する銘柄や資産の配分は、相場の状況によって結果が変わるため、最終的に自分で判断する必要があります。
AIの回答は学習時点の情報に基づく場合があり、実際の相場と離れていても、AIやサービスの提供元が損失を補償するわけではありません。
また、資産額・口座情報・金融機関名を入力すると、個人を特定する手がかりが増えます。
AIは仕組みや用語を調べるために使い、金額を動かす判断は自分で行いましょう。
法的な効力を持つ文書の作成
遺言書などの法的な効力を持つ文書を作成する時は、AIの出力を完成版ではなく、下書きとして扱いましょう。
文書によっては、書き方や署名の方法などが法律で決められており、要件を満たさなければ効力が認められない場合があります。
AIが作った文章が自然でも、法律上有効とは限りません。
そのため、重要な文書ほどAIには下書きの作成までを任せ、最終的な内容は専門家に確認してもらいましょう。
まとめ
AIに入力してはいけない情報は、個人情報・機密情報・認証情報の3種類です。
入力内容は学習に使われる場合があり、運営側のスタッフが確認したり、履歴の削除後も保存されたりする可能性があります。
実際に企業の機密情報が流出した事例もあり、共有リンクから会話を第三者に見られるリスクにも注意が必要です。
すでに入力してしまった場合は、履歴の削除・設定の変更・削除申請・上長への報告を順に進め、被害の拡大を抑えましょう。
AIへ相談する際は個人を特定できる部分をマスキングし、必要な情報だけを入力してください。
また、AIの回答へ判断を任せず、医療・法律や法的な文書については専門家へ確認する必要があります。
まずは、利用しているサービスの設定と、入力してよい情報の範囲を確認しましょう。
