生成 AI (ChatGPT や Gemini) を使う時のリスクと安全に使うコツについてご案内します。
生成 AI のリスク
個人情報の漏えい
生成 AI に入力した情報は、 AI の学習データとして利用されることがあります。氏名や住所などの個人情報を入力すると、その情報は他の利用者への回答に使用される可能性があります。
ハルシネーション
生成 AI は現実には存在しない情報や誤った内容を作り出すことがあります。この現象を「ハルシネーション」(幻覚) と呼びます。AI の回答は一見する正しい情報に見えますが、その中に誤情報が混ざる場合があります。
詐欺の悪用
生成 AI を利用して本物そっくりの詐欺メールや偽サイトを簡単に作れるようになりました。また、AI を使った偽画像・動画による詐欺も確認されています。
著作権の侵害とバイアスの再生成
AI が生成する内容が既存の著作物に似ている場合、意図せず著作権を侵害するリスクがあります。また、学習データの偏りにより、AI が性別、人種、文化などに関する固定観念や差別的な内容を生成してしまう可能性があります。
生成 AI を安全に使うコツ
個人情報や機密情報を入力しない
情報漏えいを防ぐために、氏名や電話番号などの個人情報やは生成 AI に入力しないようにします。業務で利用する場合も、社内資料や顧客データなどの機密情報の入力は避けます。
AI の学習利用をオフにする
生成 AI をそのまま利用している場合、初期設定では入力した会話が AI モデルのトレーニングに使用される可能性があります。該当設定をオフすることで、学習させたくない情報を入力してしまった場合でも、その内容が他のユーザーへの回答に使用されるリスクを回避できます。
AI の回答を鵜呑みにしない
生成 AI の回答は常に正確とは限らないため、重要な情報は必ず公式サイトや信頼できる情報源で確認してください。特に医療・法律・金融に関する情報は、専門家への相談を合わせて行うことをおすすめします。
詐欺に注意する
技術の進化により、生成 AI で作成した詐欺メールや偽画像と本物の見分けは難しくなっています。心当たりのない連絡を受けた場合は、安易に信用せず、本物かどうかを確認してください。
著作権とバイアスに注意する
AI が生成した内容をそのまま利用せず、また、AI の回答に偏りや差別的な表現が含まれていないかを確認し、適切に修正した上で利用することをおすすめします。