生成 AI (ChatGPT や Gemini) の利用における情報漏洩のリスクと安全に使うための対策についてご案内します。
生成 AI で情報漏えいが起こる要因
生成 AI を利用する際に、個人情報や機密情報が意図せず外部に流出してしまうリスクがあります。情報漏えいが起こる原因を3つ紹介します。
プロンプトへの個人情報や機密情報の入力
生成 AI に質問や指示を入力する際、氏名や電話番号などの個人情報もしくは社内資料や顧客データなどの機密情報を含めてしまうケースがあります。生成 AI に入力した情報は、AI の学習データとして利用されり、AI サービスのサーバーに送信・保存されたりすることがあります。思わぬ形で個人情報や機密情報の流出につながる可能性があります。
AI による学習データへの利用
生成 AI に入力した情報は、AI モデルの改善や学習に利用される場合があります。入力した個人情報や機密情報が AI に学習された場合、他のユーザーが特定の質問をした際、AI が過去の学習データから類似パターンを見つけ出し、個人情報や機密情報を含む回答を生成してしまうリスクがあります。
悪意ある第三者によるサイバー攻撃
ユーザーが入力した情報を含むデータは、AI サービス提供者のサーバーに保管されています。このサーバーがサイバー攻撃を受けた場合、ユーザーが過去に入力した情報が流出するリスクがあります。
生成 AI による情報漏えいを防ぐための対策
安全に生成 AI を使うために、情報漏えいを防ぐための対策を解説します。
個人情報や機密情報を入力しない
情報漏えいを防ぐために、氏名や電話番号などの個人情報やは生成 AI に入力しないようにします。業務で利用する場合も、社内資料や顧客データなどの機密情報の入力は避けます。
AI の学習利用をオフにする
生成 AI をそのまま利用している場合、初期設定では入力した会話が AI モデルのトレーニングに使用される可能性があります。
該当設定をオフすることで、学習させたくない情報を入力してしまった場合でも、その内容が他のユーザーへの回答に使用されるリスクを回避できます。