正解表が用意できたら、次はAI回答を取得して突き合わせる工程である。ここが測定設計の核心にあたる。
3-1. なぜ1回では足りないのか
単発の回答も一つの観測ではある。しかし、単一のモデルに単一のプロンプトを1回投げて得た回答から、そのAIが自社について返す回答の安定した傾向を推定することはできない。 理由は4つある。
理由1:同じ質問でも回答が揺れる。 生成AIの出力は確率的である。温度パラメータやサンプリングの設定、内部のルーティングによって、同じ質問に異なる答えが返りうる。1回の観測は、分布からの1標本である。標本が1つでは、傾向と外れ値を区別できない。
理由2:一貫していても正しいとは限らない。 ハブ記事で見たとおり、FinQAベンチマークでは、8回の再サンプリングがすべて一致した「高確信」の回答のうち15〜23%が誤っていた。回答が安定していることは、正しさの証拠にならない。 逆に言えば、揺らぎを観測できないと「安定した誤り」を「正解」と取り違える。
理由3:エンジンによって答えが違う。 主要なAIサービスは、それぞれ異なるモデル、異なる検索インデックス、異なる引用方針を持つ。1つのサービスだけを見て「AIは自社をこう語っている」と結論することはできない。
理由4:セッションの履歴が結果を汚染する。 同じチャットの中で続けて質問すると、前の回答が文脈として残る。「先ほどの数値を修正してください」と伝えた後の回答は、その企業についてAIが平常時に返す回答ではない。測定は毎回まっさらな状態(ステートレス)で行う必要がある。
3-2. Vaipmの計測設計
Vaipmは、AI上の認知を複数のAIへの合計25回のステートレス計測によって測定している。
この設計について、3点を明確にしておく。
- 25という回数は、Vaipmの運用設計である。 研究から導かれた最適値ではない。回答の揺らぎを実務上許容できる範囲で捉えつつ、継続的な運用コストに収める点として設定している。
- ステートレスであることが本質である。各回の計測は独立しており、前の回答を文脈として引き継がない。これにより、観測されるのは「そのAIがその質問に対して平常時に返す回答の分布」になる。
- 複数のAIを対象とする。単一サービスの結果を全体像として扱わない。
自社で内製する場合も、この3点——反復すること、履歴を持ち越さないこと、複数のサービスを見ること——は設計の前提として維持することを勧める。回数は運用体制に合わせて決めればよいが、1回で結論を出す設計にはしないこと。
3-3. 記録すべき項目
照合テストの1レコードは、次の項目を持つ。
| 記録項目 | 内容 | 用途 |
| run_id | 実行の一意ID | 同一バッチの識別 |
| question_id | 正解表への参照 | 正解値の突合 |
| prompt_text | 投入した文言(一字一句) | 再現性の担保 |
| executed_at | 実行日時(タイムゾーン付き) | 開示日との前後関係の判定 |
| engine | AIサービス名 | サービス間差の分析 |
| model_label | 表示されているモデル名・版 | 更新前後の比較 |
| locale | 地域・言語設定 | 日英差、地域差の検知 |
| session_state | ログイン状態・履歴の有無 | 条件の明示 |
| response_text | 回答全文 | 後からの再判定 |
| extracted_value | 抽出した数値 | 機械照合の対象 |
| cited_urls | 回答が提示した引用元URL | 一次資料引用率の算出 |
| verdict | 判定(一致/不一致/部分一致/無回答) | KPIの母数 |
| mismatch_type | 不一致の類型(決算期/基準/通貨単位/範囲/その他) | 原因分析 |
| delta | 正解値との差 | 重大度の判定 |
`mismatch_type` を必ず持たせること。誤りの4類型(決算期・会計基準・通貨/単位・範囲)に対応させることで、「どの誤りが最も多いか」が分かる。全体の一致率だけを見ていると、対処すべき箇所が特定できない。
記録スキーマの例を示す。
run_id,question_id,prompt_text,executed_at,engine,model_label,locale,session_state,extracted_value,cited_urls,verdict,mismatch_type,delta
R2026-0816-001,Q001,2026年3月期の連結売上高は,2026-08-16T10:00:00+09:00,EngineA,modelX,ja-JP,stateless,1234567,"https://example.co.jp/ir/tanshin_2026q4.pdf",match,,0
R2026-0816-002,Q001,2026年3月期の連結売上高は,2026-08-16T10:00:30+09:00,EngineA,modelX,ja-JP,stateless,1210000,"https://example.com/news/article",mismatch,fiscal_period,-24567
3-4. 測定条件として明示すべきもの
同じ質問でも、以下の条件が変わると結果が変わりうる。条件を固定するか、条件ごとに分けて記録するか、どちらかを選ぶ必要がある。
- クエリの揺らぎ:「売上高」「売上収益」「営業収益」は、企業によって正式名称が異なる。表記を変えた複数のプロンプトを用意する。
- 地域:アクセス元の地域によって、参照される情報源が変わりうる。
- 言語:日本語と英語で回答が一致するとは限らない。英文開示を行っている企業ほど、両方を測る意味がある。
- ログイン状態:ログイン有無や有料プランの違いで、利用されるモデルや検索機能が変わる場合がある。
- モデル差・版:同じサービスでもモデル更新の前後で挙動が変わる。`model_label` を記録し、更新をまたぐ比較には注記を付ける。
3-5. 頻度の設計
以下は本稿が提示する実務上の設計例であり、研究から導かれた最適構成ではない。頻度の一例として示すものであり、リスク・開示イベント・運用コストに応じて設定すること。
| タイミング | 対象 | 目的 |
| 四半期決算の発表直後(発表当日〜3営業日) | 直近数値の全質問 | 更新の反映速度を測る |
| 発表2週間後 | 同上 | 反映されなかった項目を特定する |
| 月次 | 基本属性・株主還元 | 旧情報の残存を検知する |
| 有価証券報告書の提出後 | 全質問 | 法定開示との一致を確認する |
| 重大誤答を検知した後(是正後14日・30日) | 該当質問 | 是正の効果を確認する |
| 組織再編・役員異動の公表後 | 該当質問 | 旧情報の残存を検知する |
決算発表直後の計測が最も情報量が多い。 開示が更新された時点から、AI回答がいつどう変わるかを観測できるためである。
3-6. 他の測定手段との組み合わせ
照合テストは、AI回答の内容を測る。これに、AI経由の到達を測る手段を組み合わせる。
- Google Search Consoleのパフォーマンスレポート:AI OverviewsおよびAI Mode経由の表示・クリックは、「ウェブ」検索タイプの全体データに含まれてカウントされる。IRサイトのディレクトリ単位でフィルタし、開示更新の前後で比較する。
- サーバーログ:どのボットが、IRサイトのどのページを、どの頻度でクロールしているか。GenAI as a Readerのログ研究が示したとおり、この情報自体は取得できる。ただしユーザーエージェントは最終的な回答への採用を証明しない。クロールされていることと引用されていることを混同しない。
- リファラー:AIサービスからの流入があるかどうか。ただし、AI回答を読んだ後に検索経由で来訪する経路は捕捉できない。
この3つは、それぞれ別の層を測っている。内容の正確性(照合テスト)、検索面での露出(Search Console)、機械による取得(ログ)は、互いの代替にならない。