生成 AI (ChatGPT や Gemini) の回答は、一見正しく見えますが、誤った情報や古い情報が含まれている場合があります。本記事では、生成 AI の信頼性と AI 回答のファクトチェックについてご案内します。
生成 AI の信頼性
生成 AI はあらゆる質問に流暢に答えますが、その回答は必ずしも正確とは限りません。以下では AI の信頼性に関わる性質について紹介します。
AI のハルシネーション
「ハルシネーション」とは、AI が現実には存在しない情報や誤った内容を作り出すことを指します。例えば、架空のデータや情報を引用したり、実在しない人物や出来事をあたかも正確であるかのように提示したりします。AI の仕組み上、膨大な学習データから統計的に回答を導き出すため、回答に誤情報が混ざることはあります。
情報の鮮度
AI の回答は、過去に学習したデータをもとに生成されます。そのため、AI の回答に最新の情報が反映されていない場合があります。また、多くの生成 AI はネット上の情報を検索する機能を持っていますが、最新のニュースや直近のデータなど、最新の情報を正確に把握できないことがあります。
常識の欠如
生成 AI の回答のファクトチェック
生成 AI の回答は、仕組み上、誤った情報や古い情報が混ざっている場合があります。AI が提供した情報の正確性を確保する方法を紹介します。
情報のクロスチェック
AI が提供した情報を鵜呑みにせず、異なるソースを用いて同じ情報を確認します。例えば、官公庁が公表している資料や企業の公式発表などの情報を確認したり、取材と編集を経て発行される新聞記事をチェックしたりします。AI は「補助的なツール」として使い、最終的な判断は信頼できる情報源に基づいて行います。
健康や法律、金融など、専門的な知識が要求される分野では、AI の回答だけで判断せず、専門家の見解を参考にすることで、より確かな情報が得られます。
情報源の確認
AI に対して、回答に含まれる情報の出典や根拠を示すよう求めます。「情報源を明示してください」、「確実な情報ではない場合、その旨を明記ください」のように AI に指示することで、より信頼性の高い情報が期待できます。また、存在しない情報を提示するケースもあるため、AI が情報源として提示してくれたリンクや資料を検索などで自ら確認することを推奨します。