はじめに：生成AIにおけるハルシネーション現象
近年、ChatGPTやGeminiに代表される大規模言語モデル（LLM）の普及が進み、生成AIは私たちの日常やビジネスに欠かせない存在となりました。しかし、その利便性の裏で、AIがもっともらしく架空の事実を作り出す「ハルシネーション」が大きな課題として残っています。最新の研究では、学習データに誤りや偏りが含まれていることだけでなく、誤りのないデータであっても学習目標自体が必然的に誤った出力を生み出すことが示されています。したがって、ハルシネーションは単なるデータ品質の問題ではなく、LLMの設計や評価方法に深く根ざした現象なのです。
本記事では、従来のAI研究者による分析に加えて、2025年9月に発表されたOpenAIとGeorgia Techによる論文「Why Language Models Hallucinate」の知見も踏まえ、ハルシネーションの原因と解決策、2030年までの展望を再検討します。
1. ハルシネーションの定義と重要性
- ハルシネーションの定義：LLMが実在しない人物の経歴や架空の判例をあたかも事実のように生成する現象を指します。論文では、これは「学生が試験でわからない問題に対して推測で答える」ことに例えられています。多くのモデルは「分からない」と答えるのではなく、自信を持って誤った情報を生成するため、ユーザーの信頼を損なう原因となります。
- 社会的影響：法曹や医療など高リスク分野では、AIのハルシネーションが訴訟や誤診につながる危険性があり、正しい情報源の確認が不可欠です。LLMは試験型の評価で訓練されるため、不確実なときに推測する傾向があり、そのまま応用すると重大な影響を引き起こす可能性があります。
2. 生成AIハルシネーションの根源：最新研究による原因の解明
2.1 学習データと統計的性質
従来、ハルシネーションは学習データの質に起因するものと考えられてきました。実際、インターネットに由来する大量のデータには誤情報やバイアスが存在し、モデルがそれらを模倣してしまう可能性があります。一方、最新論文では、完全に正しいデータセットであっても、言語モデルの学習目標が誤った出力を生成してしまうことが示されています。モデルは確率分布を学習するため、稀な事実や一度しか登場しない知識に対しては正解よりも誤りの方が統計的に優勢となるからです。
さらに、学習データに含まれる固有名詞や誕生日のような“パターン化できない事実”では、たとえ1回しか登場しない事実であっても、その割合に応じて最低限のハルシネーション率が存在することが証明されています。例えば、誕生日データの20%が学習コーパスに一度しか出現しない場合、基礎モデルは少なくとも20%の誕生日に対して誤った回答を生成することが理論的に示されています。これはGood–Turing推定と呼ばれる統計理論に基づき、どんなにモデルを大きくしても完全なゼロ・ハルシネーションは実現できないことを意味します。
例えば、モデルが学習するコーパスにおいて1回しか登場しない事実は、モデルにとってほぼノイズのように扱われます。そのため、モデルは推論時に「ありふれた値」を回答しがちです。誕生日の質問に対して頻度の高い日付を回答するなどがその例です。この現象を統計的に説明するのがグッド・チューリング推定であり、稀にしか現れない出来事はモデルにとって未知と見なされ、予測分布の尾側で無視される傾向があります。
データセットの偏りも無視できません。例えば、特定の文化圏や言語圏の情報が過剰に含まれている場合、モデルはその文脈に依存した出力を生成する傾向があります。逆に、少数派の視点や低リソース言語に関する情報はデータベースに十分含まれていないため、モデルが誤った推測を行いやすくなります。このような状況では、モデルが架空の地名や人物を生成する「混乱」が発生しやすくなり、多様な文化背景を持つユーザーにとっては信頼性が低下します。
2.2 モデルアーキテクチャと推論プロセス
ハルシネーションの発生は、LLMの内部構造や推論プロセスとも関係します。トランスフォーマー型モデルは次に続く単語を確率的に予測する仕組みであり、事実の正誤を判定する明示的なモジュールはありません。そのため、文法的に整合していても内容が誤っている文章を生成しやすいのです。さらに、温度パラメータやサンプリング手法といったデコーディング戦略は、出力の多様性を高める一方でハルシネーション率を押し上げる傾向があります。また、内部に明確な長期記憶装置を持たないため、入力されたコンテキストにない事実を正確に回答することができず、即興で埋め合わせる際に誤りが生まれます。
2.3 評価方法とポストトレーニングによる影響
さらに重要なのは評価方法の問題です。現在のベンチマークの多くは正解1点、無回答0点という二値評価を採用しており、モデルが「知らない」と答えることを罰しています。このため、モデルは不確実なときにも推測して答える方が総合スコアが高くなり、ハルシネーションが助長されます。論文では、モデルAが正しく不確実性を示しハルシネーションしない一方、モデルBが常に推測を行う場合、現在の評価法ではモデルBが優秀と判定されるため、「不確実性を罰する評価」がハルシネーションを固定化していると指摘しています。
さらに、最近の理論研究では、モデルの「一貫性（正しい情報のみを生成）」と「幅広さ（多様で豊かな言語生成）」の間にはトレードオフが存在することが示されています。学習データの外に一般化しようとするモデルは、完全なモード崩壊（画一的な出力しか生成しない）を避けるためには一定量のハルシネーションを許容せざるを得ません。この点も、ハルシネーションが根本的に避けがたい現象であることを意味しています。
2.4 ハルシネーションのタイプ：内在的・外在的
AI研究の文献では、ハルシネーション現象をいくつかのタイプに分類しています。例えば、ある研究では、内在的ハルシネーションと外在的ハルシネーションを区別しています。内在的ハルシネーションは、モデルが学習データやプロンプト内の情報と矛盾した内容を生成してしまう現象です。これには語句の取り違えや場所の誤認など、プロンプトに含まれる要素との整合性が取れていないケースが含まれます。外在的ハルシネーションは、プロンプトが要求する事実が学習データに存在しない場合やモデルが知識を持っていない場合に、架空の情報で穴を埋めようとする現象を指します。
さらに、ハルシネーションの発生要因に基づいて知識欠如型と知識を持ちながら発生する型に分類することもできます。前者は、モデルが適切な知識を持たないために誤情報を生成してしまうケースであり、特に発生の度合いが高い分野です。一方後者は、モデルが正しい知識を持っているにもかかわらず、文脈の解釈違いや混同によって誤った情報を出力するケースで、人間でも発生する「混同」に近い現象と考えられます。これらの分類はハルシネーションの検出と緩和策を設計する際の出発点として重要です。
2.5 ドメインごとの影響とリスク
ハルシネーションが特に懸念される領域として、医療、法務、金融が挙げられます。医療分野では、LLMが提示した疾患名や治療法が正確かどうかは患者の健康に直接影響するため、誤った情報は重大な危険をもたらします。ある医療に関する研究では、モデルに診断候補の一覧を出力させたところ、現実には存在しない疾患名や治療法が含まれており、誤診のリスクが指摘されました。また、モデルが参考として提示する臨床論文の多くに架空の論文が含まれていたケースも報告されています。このような事例は、医師や医療従事者がAIを使用する際に必ず原典を確認する必要性を示しています。
法務分野では、2023年にニューヨークの弁護士がLLMを用いて判例を検索したところ、AIが存在しない判例を生成し、裁判所に提出された文書に誤りが含まれていたため罰金を科されたという有名な事件がありました。裁判や契約文書の作成においてLLMが架空の情報を紛れ込ませることは、訴訟リスクを大幅に高めます。金融分野でも、AIが生成した誤った情報に基づいて投資判断を下すことは莫大な損失を引き起こしかねません。そのため、これらの分野では人間のチェックを義務付ける運用プロセスや明確な責任分担が不可欠です。
3. 精度向上への探求：既存および新たな解決策
ハルシネーションを抑えるための対策は多岐にわたります。本節では、従来の方法に加え、最新論文が提案する社会技術的な方策を紹介します。
3.1 検索拡張生成（RAG）と外部知識利用
RAGは、モデルが回答を生成する前に検索エンジンやデータベースから関連情報を取得し、その情報に基づいて生成を行う手法です。これにより、モデルは内部記憶に頼ることなく、最新かつ信頼できる情報を参照できます。ただし、検索結果の品質や関連性が低い場合、逆に誤った情報を強化してしまうリスクがあります。RAG単独では万能ではないものの、精度向上には有効なアプローチであり、性能評価やフィルタリングアルゴリズムとの組み合わせが重要です。
検索拡張生成の応用例として、GraphRAGやRAGFixといった派生手法も提案されています。GraphRAGは、検索で得られた文書をノードとエッジからなるグラフ構造に整理し、情報間の関係性を明示することでモデルが関連性をより正確に理解できるようにします。エッジの重み付けや構造化によって、複数の情報源に基づく一貫した回答が得られやすくなるのです。一方RAGFixは、検索フェーズで取得した候補文書の中から不適切な記述や矛盾を検出し、モデルがそれらを回答生成に利用する前に修正・フィルタリングする仕組みを備えています。これらの手法は、外部情報を利用する際の品質管理を強化し、検索エンジン由来のハルシネーションを抑制するために有望です。
3.2 ファインチューニングと人間・AIによるフィードバック
特定ドメインの高品質データでモデルを再学習させるファインチューニングは、ドメイン固有のハルシネーションを減らす効果があります。さらに、人間の判断や別のAIモデルからのフィードバックを報酬に取り入れる強化学習（RLHF/RLAIF）や直接好み最適化（DPO）などの手法も、モデルの出力をより現実に近づけるのに役立ちます。これらは陰謀論や一般的な誤解のような明らかな誤りを減らすことが確認されていますが、モデルサイズの増大やデータの多様性が進むと再びハルシネーションが増える場合があるため、継続的な監視と調整が必要です。
しかし、RLHFの効果に過度な期待はできません。人間のフィードバックを利用してモデルの出力を調整するこの手法は、特定の誤りや偏見を修正するのには有効ですが、フィードバックそのものが偏っていた場合や評価基準が曖昧な場合には、逆に不適切な方向へ誘導されることもあります。また、RLHFを適用したモデルが「礼儀正しいが内容が希薄」な回答を生成するようになったとの指摘もあり、ハルシネーションの抑制と情報量の保持のバランスを取ることが課題となっています。
3.3 プロンプトエンジニアリングとガードレール
連鎖的思考（chain-of-thought）プロンプトや少数ショット（few-shot）学習のように、モデルに推論過程を明示させたり具体的な例を提示したりするプロンプト技法は、モデルが論理的に一貫した回答を返す助けになります。また、安全性や特定トピックに関するガードレールを設けることで、モデルの回答範囲やトーンを制限し、誤りや不適切な出力の生成を防ぎます。構造化されたテンプレートを用いて出力を枠付ける手法も効果的です。
プロンプトエンジニアリングの具体例として、連鎖的思考（Chain-of-Thought）プロンプトは、問題解決の途中経過を段階的に言語化させることでモデルの推論を誘導する手法です。たとえば「この現象が起こる理由を三つのステップに分けて説明してください」と要求することで、モデルが途中で誤った飛躍を行いにくくなります。また、「良い回答例」と「悪い回答例」をペアで提示し、どちらが望ましいかを示すコンパレート・プロンプティングは、モデルに品質の基準を理解させる方法として有効です。これらの技法は、モデルの出力を手作業でレビューする負担を軽減しつつ、ハルシネーションの発生確率を下げる効果が期待されます。
3.4 評価方法の見直しと社会的対策
最新論文が強調しているのは、評価基準を変える必要性です。現状の0–1評価はモデルに「わからない」と言わせるインセンティブを与えず、推測を助長しています。論文では、既存のリーダーボードを支配するベンチマークの採点方法を変更し、不確実な場合に「分からない」と回答するモデルにペナルティを与えない、あるいは適切に評価する仕組みを取り入れるべきだと提案しています。この変更により、モデルが根拠のない推測を避けるよう誘導でき、ハルシネーションを社会的に抑制することが期待されます。また、単一の「完璧なハルシネーション評価」を探すのではなく、複数の評価軸を改善する必要があると論じています。
3.5 ハルシネーション検出・評価技術
ハルシネーションを抑制するためには、そもそもどこで誤情報が生成されているかを判定する仕組みが必要です。近年、様々な検出・評価手法が提案されています。代表的なものには次のようなものがあります：
- 固有表現認識と含意判定の組み合わせ：モデルが生成した文章から固有名詞や数値などの事実情報を抽出し、その情報が現実に存在するかどうかを検索エンジンや知識ベースで確認する方法です。さらに、生成文が背景知識と論理的に矛盾していないかを含意関係に基づいて評価します。この手法は、生成文の語句単位で誤りを検出するのに役立ちますが、検索エンジンの結果に依存するため、言語や専門性により性能が変動する点が課題です。
- SelfCheckGPTやSelf-Refineのような自己検証：OpenAIの研究者が提案したSelfCheckGPTは、同じモデルに複数回質問し、出力間の一貫性を確認することでハルシネーションを検出します。もし複数回の生成結果が互いに矛盾していれば、その質問に対してモデルが確かな知識を持っていないことを示します。類似の発想に基づいて、モデル自身が出力を再評価し改善する自己反省型アプローチ（Self-Refine）も提案されており、モデルが自律的に誤りを修正できるようになっています。
- SAFE（Search-Augmented Factuality Evaluator）：SAFEは、LLMをエージェントとして用いて各出力事実をWeb検索し、その検索結果を要約・分析して事実を支持するか否定するかを判定する枠組みです。SAFEは複数のタスクやドメインに対して人間の評価に近い精度でハルシネーションを検出でき、専門家のアノテーションを大幅に節約します。
- FActScoreやTruthfulQAなどのベンチマーク：広範な質問セットに対するモデルの正答率や誤答率を測定するベンチマークもハルシネーション評価に利用されます。TruthfulQAは一般常識や都市伝説に関する質問に対し、モデルがどれだけ真実に沿った回答を生成できるかを測定し、FActScoreは生成文と記事ソースの整合性を自動で評価します。これらのベンチマークは研究開発段階でモデルの進歩を比較する指標として重要です。
これらの技術は単体で万能ではありませんが、複数を組み合わせることで検出精度を高めることができます。また、検出技術の改良により、人間のレビュー担当者は重点的に確認すべき箇所に集中できるようになり、運用コストの削減とリスク管理の両立が可能になります。
表2：主なハルシネーション検出・評価手法の比較
| 手法 | キー概念 | 長所 | 課題 |
|---|---|---|---|
| 固有表現＋含意判定 | 名前や数値を抽出し知識ベースと照合 | 局所的な誤りを詳細に検出 | 検索結果に依存、専門ドメインに弱い |
| SelfCheckGPT | 複数回答の一貫性を確認 | 外部情報を使わず検出 | 計算コストが高い |
| SAFE | 検索で事実を確認し支持・否定を判定 | 幅広いドメインで高精度 | 手続きが複雑、検索品質に依存 |
| FActScore | 出力とソース記事の整合性を自動評価 | 大量の生成文を迅速に比較 | ソースが存在しない場合は使えない |
3.6 マルチモーダルアプローチとコンテキスト拡張
近年では、テキストだけでなく画像や音声、動画など複数のモダリティを統合してAIの理解を深める試みが進んでいます。たとえば、医療分野では患者の画像診断や検査結果をテキストと組み合わせることで、より信頼性の高い説明が可能となります。マルチモーダルな情報を同時に処理することで、あるモダリティの誤情報を他のモダリティで検証し、矛盾があればハルシネーションの兆候として検出できます。また、コンテキストウィンドウの拡張も重要な要素です。モデルがより長い入力を処理できるようになることで、関連する文脈や前後関係を保持しやすくなり、孤立した発言が減るため誤解が少なくなります。大規模モデルでは数十万単語のコンテキストが扱えるようになると言われており、マルチモーダルな入力と組み合わせることで応用範囲が一層広がるでしょう。
3.7 継続的モニタリングとテスト
生成AIの品質を維持するには、モデルをリリースした後の継続的なモニタリングとテストが欠かせません。モデルはデプロイ後も周囲の環境やユーザーの利用パターンによって予想外の挙動を示すことがあります。そこで、定期的にハルシネーション率やバイアスの発生傾向を計測し、問題が検出された場合は迅速にモデルやデータを修正するサイクルを構築する必要があります。具体的には、定期的なA/Bテストやモニタリングダッシュボードを用いて、特定の分野やユースケースごとの誤情報率を可視化し、変化をトラッキングします。また、ユーザーからのフィードバックを収集・分析して、モデルが予期せぬ誤情報を生成していないかを確認する仕組みも重要です。継続的なテストとモニタリングにより、AIシステムは実運用環境に適応しながら品質を向上させていくことができます。
4. 専門家の見解と将来の展望
ハルシネーションを完全に排除できるかどうかについて、専門家の見解は分かれています。従来の楽観的な予測では、モデルの大型化や訓練技術の向上により2030年頃にはほぼゼロ・ハルシネーションが達成されるとされてきました。しかし、最新の理論研究では、学習データに含まれる稀な事実の割合に応じた最低限のハルシネーション率が存在し、完全な排除は原理的に不可能であることが示されています。さらに、出力の多様性と正確性の間のトレードオフが存在し、広範な応用を持つモデルが全ての質問に対して正解のみを生成することは難しいことが知られています。
それでも、多くの研究者はハルシネーション率を大幅に減少させることができると考えています。モデルの大型化や学習データの改良、RAGやRLHFの高度化、プロンプト技術の進歩、評価手法の見直しなどが進めば、特定のドメインやタスクにおいてはハルシネーションをほぼゼロに近づけることは可能でしょう。重要なのは、モデルが不確実なときに適切な警告を出したり、「知らない」と回答したりする能力を評価体系に組み込むことです。
5. 定量的予測：2030年までのAIハルシネーションの展望
市場調査によると、生成AIの市場規模は今後も高い成長を続け、2030年には数十兆円規模に達する見通しです。ハルシネーション率については、最新研究の示す理論的下限を踏まえ、以下のような見通しが考えられます。
| 年 | 生成AI市場規模（推定） | ハルシネーション率の予測（汎用モデル） | 備考 |
|---|---|---|---|
| 2024 | 約20.9～6.4B USD | 3～40% | モデル導入の加速と緩和技術の研究が進行中。 |
| 2025 | – | 2～30% | GPT-5など高度なモデルの登場。RAGとRLHFの採用拡大。 |
| 2026 | – | 1～20% | モデル規模拡大とデータ品質向上。ガバナンス強化。 |
| 2027 | 特化型：136.7B USD | <1～10% | 一部タスクでほぼゼロに近いが、理論的下限により完全排除は不可。 |
| 2028 | – | <1～5% | 評価方法の改良と高度な緩和技術が進行。 |
| 2029 | – | 理論的下限付近 | 多くのドメインで無視できるレベルだが、完全にゼロにはならない。 |
| 2030 | 汎用：136.7B USD | 理論的下限 | 明確に定義されたユースケースではほぼゼロに近いが、広範なタスクでは一定のハルシネーションが残る可能性。 |
注：ハルシネーション率の下限は、学習データ中に一度しか現れない事実の割合などに依存し、完全なゼロにはならない。
6. 結論：信頼できる生成AIに向けて
生成AIのハルシネーション問題は、学習データの質だけでなく、学習目標や評価方法に起因する構造的な現象であり、完全な排除は理論的に難しいことが最新研究から明らかになりました。しかし、RAGやRLHFなどの技術、ファインチューニングやプロンプト設計、ガードレールの実装、そして何よりも評価方法の改革を組み合わせることで、ハルシネーション率を大幅に減少させることは可能です。今後は、モデルに「分からない」と言わせるインセンティブを与える評価体系の構築や、人間との協働による継続的な監視が重要になります。
2030年に向けて、生成AIは多くの分野で人間のアウトプットを超える潜在力を秘めています。しかし、その信頼性を確保するためには、ハルシネーションを避けつつ創造性を活かすバランスを取り、技術的および社会的な観点から責任あるAIの運用を行うことが求められます。
7. 社会的課題と倫理的配慮
生成AIの普及に伴い、ハルシネーションの問題は単なる技術的課題を超え、社会的・倫理的なテーマとなっています。例えば、AIが生み出す誤情報が特定の個人や集団に不利益を与える差別や偏見を助長する可能性があります。モデルが学習するデータに含まれるバイアスがそのまま反映されるため、社会的な偏見を再生産するリスクがあるのです。また、医療や金融などの分野では、誤情報が個人の生命や財産に直接的な影響を与えるため、AIの透明性や責任所在の明確化が求められています。
これらの課題に対し、企業や規制当局はAIガバナンスの枠組みを整備し始めています。具体的には、モデルの訓練データや推論過程の説明可能性を高める「Explainable AI（XAI）」の開発、プライバシーを保護しながらデータを活用する「フェデレーテッドラーニング」や差分プライバシーの導入、さらにはAIの信頼性・公平性・安全性を総合的に管理するAI TRiSM（Trust, Risk, and Security Management）などが挙げられます。これらの取り組みを通じて、生成AIが社会に受け入れられるための基盤を築くことが重要です。
社会全体がAIに対するリテラシーを高めることも不可欠です。ユーザーがAIの出力に盲目的に頼るのではなく、自ら出典を検証する姿勢を持つことが誤情報の拡散を防ぎます。そのためには、教育機関や企業がAIの使い方や限界に関する研修を提供し、AI技術者のみならず一般の利用者も巻き込んだ包括的なリスク管理体制を整えることが求められています。さらに、EUのAI規則や日本のAI倫理指針など各国の政策動向にも目を配り、国際的な協力を通じて健全なAIエコシステムを育てる必要があります。
参考文献
- Kalai, A.T., Nachum, O., Vempala, S.S., & Zhang, E. (2025). Why Language Models Hallucinate. OpenAI and Georgia Tech.
- Manakul, P., Liusie, A., & Gales, M. J. F. (2023). SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of EMNLP 2023.
- Wei, J., Yang, C., Song, X., Lu, Y., Hu, N., Huang, J., Tran, D., Peng, D., Liu, R., Huang, D., Du, C., & Le, Q.V. (2024). Long-form factuality in large language models. arXiv:2403.18802 (NeurIPS 2024).
- Roustan, D., & Bastardot, F. (2025). The Clinicians’ Guide to Large Language Models: A General Perspective With a Focus on Hallucinations. Interactive Journal of Medical Research, 14:e59823.
