誤在を「運用の失敗」と捉えると、対策は「もっと丁寧にやる」で終わる。しかし学術研究が示すのは、引用の不完全性が、現在の検索拡張・引用付き生成の実装で反復的に観察される構造的なリスクだということである。
3-1. 引用は「付いている」ことと「支えている」ことが別である(ALCE)
プリンストン大学のグループは2023年、LLMの引用能力を自動評価する最初のベンチマーク ALCE を提示した(Gao, Yen, Yu, Chen, EMNLP 2023, pp. 6465–6488, arXiv:2305.14627)。ALCE は回答を流暢性・正確性・引用品質の三軸で評価する。引用品質を独立した軸として切り出したこと自体が、この論文の貢献である。
結果は明快である。ELI5 データセットにおいて、最良のモデルでさえ生成の50%で完全な引用サポートを欠いた。すなわち「引用元リンクが表示されている」ことは、「その主張が引用元に書かれている」ことを意味しない。
3-2. 誤った引用は、捏造より件数が多い(CiteFix)
Amazon の研究チームは、実運用のRAG製品を開発する過程で同じ問題に直面した。論文 CiteFix(Maheshwari, Tenneti, Nakkiran, ACL 2025 Industry Track, pp. 310–317/arXiv:2504.15629)は、業界調査が主要な生成検索エンジンの引用精度を約74%と報告していることに言及し、後処理で精度指標を相対15.46%改善させた。
決定的なのは、同論文が監査で示した観察である。初期状態において、誤った引用の件数はハルシネーションの件数を大きく上回っていた。「AIが嘘をつく」より「AIが実在する事実を間違った相手に結びつける」ほうが、頻度としては多い。
重要なのは、CiteFix の解決策が提供元側の後処理であり、企業が自社で適用できない点である。企業に残されているのは入力側——AIが参照する情報環境——を整えることと、出力側を測ることだけである。この非対称性が、本領域の実務設計を規定する。
3-3. モデルが賢くなると、追跡可能性はむしろ悪化しうる(Oumi × New York Times)
2026年、New York Times の依頼を受けたAIスタートアップ Oumi が、Google AI Overviews を SimpleQA ベンチマークで評価した。4,326件の検索を2回——2025年10月(Gemini 2)と2026年2月(Gemini 3)——実施し、正確性と引用先による裏付けを機械的に判定した。
表4:Google AI Overviews の正確性と「裏付けの取れなさ」(Oumi/New York Times, 2026年の計測。Google は方法論に反論。絶対値ではなく「正確性と引用支持性は別」という傾向として読む)
| 指標 | Gemini 2(2025年10月) | Gemini 3(2026年2月) |
| 正答率 | 85% | 91%(改善) |
| 正答のうち、引用先が主張を支えていない(ungrounded)割合 | 37% | 56%(悪化) |
| 「正しく、かつ引用先で完全に裏が取れる」回答の割合 | — | 全体の39% |
「正しいこと」と「出典で確認できること」は別の能力であり、片方の改善が他方の悪化を伴いうる。
反論の併記。Google はこの調査に反論し、「重大な欠陥があり、実際の検索行動を反映していない」旨を述べている。Oumi 自身も、Gemini に与えられたコンテキストを外部から確定できない点を限界として明記している。この数値は絶対値ではなく、「引用の存在が裏付けを意味しない」という定性的傾向として読むべきである。その傾向は ALCE・CiteFix・Tow Center と独立に一致する。
3-4. 同じ質問でも、AIごとに違う「現実」が返る(Answer Bubbles)
2026年3月のプレプリント "Answer Bubbles: Information Exposure in AI-Mediated Search"(Huang, Goyal, Saha, Chandrasekharan, arXiv:2603.16138)は、11,000件の実クエリを4つのシステムに投じ、生成検索が「アンサー・バブル」——同じクエリを異なるプラットフォームに投げると構造的に異なる答えが返り、しかもユーザーはそれを比較できない、システム固有の情報現実——を作り出しうると指摘した。加えて、検索を組み込むとヘッジ表現が最大60%減少する一方、確信的な表現は保持される。出典を引くほど、AIは断定的に聞こえるようになる。
なお本稿は査読前のプレプリントである。ただしこの知見は、Tow Center が独立に観察した「確信をもって間違える」現象と整合する。実務的含意は明確だ。ひとつのAIで確認して問題がなくても、他のAIについては何も語らない。誤在の測定は、原理的に複数のAIを横断して行わなければ意味をなさない。
3-5. 四つの研究が収束する一点
これらの実測研究(ALCE、CiteFix、Oumi、Tow Center)と、査読前のプレプリント(Answer Bubbles)は、方法もチームも独立でありながら、「出典が表示されていること自体は、信頼性を保証しない」という方向で整合する。AIの引用は、丁寧に運用すれば直る類の問題ではない。構造として不完全である。ゆえに誤在は「起きたら直す」不具合ではなく、継続的に測り、管理する対象である(概念の位置づけはAIPMとは)。そしてこの構造的な不完全性が、三つの問いを生む——①法的に争えるのか、②消せるのか、③どう測るのか。本記事はその全体像を示し、各問いは別稿で深掘りする。