“事実”でない情報を出力する生成AI 「ハルシネーション」現象とその対策

生成AIにおける「ハルシネーション」は、事実に基づかない情報をあたかも真実であるかのように生成する現象である。

この問題は、大規模言語モデルの普及に伴い、ますます顕在化しており、AIの信頼性や安全性に関わる重要な課題となっている。ハルシネーションは、特に医療や金融といった専門分野での活用において深刻なリスクを招く可能性があるため、早急な対応が求められている。

ハルシネーションには「事実ハルシネーション」「文脈ハルシネーション」「構造ハルシネーション」「創造的ハルシネーション」などの種類がある。

事実ハルシネーションは、実際には存在しない情報を事実として提示するものであり、例えば、架空の人物や製品に関する情報を生成することが挙げられる。文脈ハルシネーションは、質問の文脈にそぐわない内容で回答するケースである。さらに、構造ハルシネーションは回答の形式や内容の構造が不適切である場合、創造的ハルシネーションは事実に基づかない新しい概念やストーリーを生成することである。これらはすべて、AIが大量のデータからパターンを学習する過程で、誤った関連付けや推測を行うことが原因とされている。

生成AIがなぜハルシネーションを起こすのかという点については、主に三つの原因が指摘されている。

第一に、学習データの偏りや誤りである。AIは膨大なデータから学習するが、そのデータに誤情報が含まれている場合、誤った内容を出力するリスクが高まる。第二に、AIモデルのアーキテクチャや学習プロセスの問題である。AIは確率的なアルゴリズムを基に予測を行うため、質問と全く関連のない内容が回答として生成されることがある。第三に、言語モデルの特性に基づく推測である。AIはユーザーに自然な対話体験を提供するため、文脈からの推測を行うが、それが過剰に働くとハルシネーションを引き起こしやすくなる。

この問題に対処するため、いくつかの対策方法も出てきている。まず、学習データの質を向上させることで、信頼性の高い情報を提供すること。誤情報や偏見を含むデータを取り除き、より精度の高い学習を実現することも重要である。また、出力結果へのフィルタリングを施すことで、誤った情報が表示されないようにする方法もある。さらに、「RLHF(人間からのフィードバックを用いた強化学習)」や「RAG(Retrieval-Augmented Generation/情報源の付与による回答の裏付け)」といった新しい技術が導入されている。RLHFでは人間のフィードバックを取り入れてAIの応答精度を高めることができ、RAGでは関連する情報源を加えることでAIの出力を現実に近づけることができる。Googleは、検索結果を利用してAIの回答に裏付けを持たせる「グラウンディング」という機能を新たに提供しており、この機能により情報の信頼性が一層向上すると期待されている。

しかしながら、これらの対策が全ての問題を解決するわけではない。グラウンディングによって最新の情報をAIの回答に反映させることが可能になっても、依然としてAIは人間と同様に間違いを犯す存在である。また、情報の裏付けに検索結果を用いると特定の視点に偏る可能性があるため、情報の客観性に欠ける場合も考慮する必要がある。さらに、情報源の信頼性そのものも問われるべきであり、AIの出力にどのようなデータが影響しているかの透明性が今後求められる。

生成AIのハルシネーション問題に対しては、今後も技術の向上と共に倫理的な議論が進められるべきであり、AIの特性から、膨大なデータを効率的に処理し有用な情報を提供する一方で、誤情報の拡散を防ぐための慎重な管理も求められる。生成AIを利用する際には、AIが提示する情報が正しいとは限らないという認識を持ち、ユーザーが常に情報の正確性を確認する姿勢もまた重要ではないだろうか。

執筆 / 菅原後周

関連記事

最新ニュース記事

  1. 労働環境を一新、DXでつなぐ信頼の輪! 三共電機・二代目社長のDX改革

  2. いつまでも美味しく食べる幸せを支える! 宮城県にある歯科クリニックの取り組み

  3. 『ものづくりワールド【大阪】2024』に出展された、半導体ひずみセンサ「STREAL(ストリアル)」を取材

  4. クラウドでの内視鏡映像処理が現実に、NTTとオリンパスが低遅延技術を実証

  5. 【コラム】大企業でもおこるステルスマーケティング問題を考える!

  6. 勝手に学習されるトラブル?SNS「X」の新しい規約と、AIによる投稿の利用

  7. マイクロソフト、東京にAI研究拠点を新設

  8. ランサーズ、生成AI支援サービスを発表。実証された成果を基に、企業の生産性向上を後押し

  9. AIアシスタント「Gemini」iPhone専用アプリ登場!GeminiがiPhoneで利用可能に

  10. UUUMの買収から見えるエンターテインメント業界の転換点

365AIニュースセンター最新記事

  1. 不登校からの復学へ!お子様の心を動かす7つのきっかけ

  2. 入学できないことも?「フリースクール入学拒否問題」の現実とその対処法

  3. フリースクール中学校・通信制高校生の卒業後の進路:進学以外の就職という選択肢

  4. 中学生の不登校、30万人突破 – 教育現場の危機と新たな希望

  5. 【専門家が伝える】不登校のお子様を持つ親御様の「心の荷」を軽くする5つのヒント

  6. 不登校脱出への道?フリースクールの魅力と注意点-親子で考える新たな一歩-

  7. Amazonが「プライムデー夏祭り」を六本木で開催!

  8. 甘いとうもろこしとフライドチキンの絶妙コンビ。夏限定!「もろこしチーズバーガー」新登場