部門別ユースケース

AI回答の照合テストをどう設計するか — 正解表・記録・KPIと、越えてはいけない線

2026-08-17読了目安 20

著者: Vaipm(AI上の認知を、複数のAIへの合計25回のステートレス計測で測定している)

この記事のポイント

生成AIが自社の決算数値を誤っていないかを継続的に確かめるための実務手順。正解表に持たせるべき列と許容誤差の決め方、反復・ステートレスな計測の記録項目と揃えるべき測定条件、露出量ではなく法定開示との一致率を測る指標の定義、経営層への報告の形、そして未公表の重要情報で訂正しないという境界までを実務手順として示す。

結論サマリー

免責: 本稿は開示品質管理の実務手順および制度の整理であり、法的助言ではない。個別の判断は、自社の法務部門および弁護士等の専門家に相談されたい。

生成AIがIR部門に入り、一方でAI回答の中の自社情報は測定対象になっていない——この非対称と、AIが決算数値を誤る4類型、実証研究の到達点については、ハブ記事AIは自社の財務情報をどう語っているかで扱った。本稿はその先、測定を実際に設計する手順を示す。

中心にあるのは3つの部品である。正解表(Golden Answer Table)は、何が正しいかを決算期・会計基準・通貨・単位・連結範囲という属性ごとに固定する。照合テストは、その質問を複数のAIサービスへ反復・ステートレスに投入し、条件を揃えて記録する。指標は、露出量ではなく法定開示との一致を測る。この3つが揃うと、検知から原因特定、是正、効果確認までが一続きになる。

そして、実行に移す前に確認すべき境界がひとつある。AI回答の誤りを訂正する場合、訂正は公表済み資料の再提示に限定しなければならない。未公表の重要情報でAI回答を訂正してはならない。 正解表に載せるのは公表済みの数値のみであり、未公表の数値を「正解」として外部のAIサービスへ投入してもならない。この境界は、測定を始める前に法務部門と共有しておくこと。制度上の整理はハブ記事の§7で扱っている。

この記事で分かること

  • 正解表(Golden Answer Table)に持たせるべき列と、その理由
  • 対象質問の選び方と、初期セットの構成例
  • なぜ1回の計測では足りないのか、反復・ステートレス計測の設計
  • 記録すべき項目と、揃えるべき測定条件
  • 計測の頻度をどう決めるか
  • 露出量ではなく一致率を測る指標の定義と、分母・重大度の扱い
  • 経営層への報告で避けるべき言い方
  • そのまま使える実践ステップとチェックリスト

対象読者

上場企業のIR実務担当者で、測定と開示統制の設計を担う人。IR部門長・CFO層は、§4「指標の定義と運用」から読むことを想定している。

1. 本記事の位置づけ — ハブとの違い

1-1. 本記事が扱うこと

本記事は手順書である。正解表を作り、照合テストを回し、指標を定義し、報告するまでを扱う。読者は、自社でこれを実装する立場にあることを前提としている。

1-2. 本記事が扱わないこと

次の3つは扱わない。いずれも前提として必要だが、繰り返すと本記事が読みにくくなるためである。

  • AI上の自社認知をめぐる実態と、その調査データ。日本IR協議会 第33回「IR活動の実態調査」が示す非対称、IR部門の生成AI利用状況、効果測定指標の内訳。→ ハブ記事の§1
  • 生成AIが財務数値を誤る仕組みと、実証研究が示していること/示していないこと。誤りの4類型の説明、Beyond the Reported Cutoff・Confidently Wrong・GenAI as a Reader 等の位置づけと留保。→ ハブ記事の§3〜§5
  • フェア・ディスクロージャーをはじめとする制度の対象と主体。どの制度が誰の何を規律しているのか、法的性格の区別。→ ハブ記事の§7

本記事は、これらの結論を前提として使う。根拠が必要な箇所では、その都度ハブ記事を参照している。

1-3. 前提として引き継ぐ3点

以下は、ハブ記事で確認済みの前提である。本記事ではこれ以上立ち入らない。

  1. 照合先が制度として存在する。 有価証券報告書・決算短信・適時開示資料は EDGAR・EDINET・TDnet・XBRL を通じて機械的に取得できる。ただし、AIが常にそれを参照しているとは結論できない。
  2. 誤りは4類型に整理できる。 決算期・会計基準・通貨/単位・範囲。これは本稿群の整理であり、業界標準の分類ではない。
  3. 回答が安定していても正しいとは限らない。 高確信の回答でも誤ることが観測されている。したがって、1回の計測で結論を出す設計にはしない。

2. 正解表(Golden Answer Table)の作り方

ここから実装の話に入る。照合テストを回すには、何が正解かを固定した表が要る。これを正解表(Golden Answer Table)と呼ぶ。

2-1. なぜ表が必要か

AI回答を人が読んで「なんとなく違う」と判断する運用は、担当者が替わると継続しない。また、ハブ記事で見たとおり、誤りの多くは決算期・会計基準・通貨・範囲という属性の取り違えとして現れる。属性を列として持たない表では、不一致を検知しても原因を分類できない。

2-2. 保持すべき列

列名内容なぜ必要か
question_id質問の一意ID時系列で追跡するため
question_ja / question_en投入する質問文(日英)言語差を測るため
expected_value正解値照合の基準
fiscal_period決算期(例: 2026年3月期)決算期の類型を切り分ける
period_type期間種別(通期/四半期/累計/LTM)「2025年」の曖昧さを排除する
consolidation連結/単体連結範囲の類型を切り分ける
accounting_standard会計基準(IFRS/米国基準/日本基準)会計基準の類型を切り分ける
currency通貨(JPY/USD等)通貨・単位の類型を切り分ける
unit単位(百万円/千円/百万米ドル等)桁の誤りを検知する
continuing_ops継続事業ベース/全社ベース事業再編後の遡及修正に対応する
announced_date発表日「最新かどうか」を判定する
source_document出典文書名(有価証券報告書/決算短信等)訂正時に再提示する資料を特定する
source_url出典URL照合の証跡
source_page該当ページ・項目担当者交代時の再現性
tolerance許容誤差(例: 0%/四捨五入桁)丸め差を誤答と誤判定しない
last_verified最終確認日正解表そのものの鮮度管理

tolerance列を軽視しない。 決算短信は百万円単位で丸められている。AI回答が「約1兆2,340億円」と述べたとき、これを一致とするか不一致とするかを、測定を始める前に決めておく必要がある。後から基準を変えると時系列比較が壊れる。

2-3. 対象質問の選び方

主要10〜20問から始める。網羅を目指すと運用が続かない。選定基準は次の3つである。

  1. 投資家が実際に尋ねる質問であること。IR部門に寄せられた問い合わせ、決算説明会の質疑、IRサイトのFAQから抽出する。
  2. 正解が一意に定まること。「今後の成長戦略は」は正解表に載せられない。「2026年3月期の連結売上高は」は載せられる。
  3. 誤ったときの影響が大きいこと。売上高・営業利益・当期純利益・配当・従業員数・発行済株式総数・時価総額・主要セグメントの構成比あたりが起点になる。

初期セットの構成例を示す。以下は本稿が提示する実務上の設計例であり、研究から導かれた最適構成ではない。 区分も問数も、自社の開示内容と投資家からの問い合わせ実態に応じて組み替えること。

区分質問数の目安
直近通期の主要財務数値5〜6問売上高・営業利益・当期純利益・EPS・自己資本比率
過年度との比較2〜3問前期比の売上高成長率、過去3期の営業利益推移
株主還元2〜3問1株当たり配当、配当性向、自己株式取得の実績
会社の基本属性3〜4問本社所在地、代表者、設立年、従業員数、上場市場
セグメント・事業構成2〜3問セグメント別売上構成比、海外売上比率
ガバナンス・資本政策1〜2問取締役の人数、資本コストの公表有無

「会社の基本属性」を軽く見ないほうがよい。旧役員名や旧本社所在地が残存している状態は、財務数値の誤りより検知しやすく、修正の効果も測りやすい。最初に着手する対象として適している。

2-4. スキーマの記述例

正解表はスプレッドシートでもCSVでもよい。ここでは列定義の例をCSVヘッダーの形で示す。

question_id,question_ja,question_en,expected_value,fiscal_period,period_type,consolidation,accounting_standard,currency,unit,continuing_ops,announced_date,source_document,source_url,source_page,tolerance,last_verified
Q001,2026年3月期の連結売上高は,What was consolidated net sales for FY ending March 2026,1234567,2026-03,FY,consolidated,IFRS,JPY,million,continuing,2026-05-12,決算短信,https://example.co.jp/ir/tanshin_2026q4.pdf,p.1,0,2026-08-16
Q002,直近の1株当たり年間配当は,What is the latest annual dividend per share,85,2026-03,FY,consolidated,IFRS,JPY,yen,total,2026-05-12,決算短信,https://example.co.jp/ir/tanshin_2026q4.pdf,p.1,0,2026-08-16

この表を画像化してはならない。 社内共有でも、後工程で機械的に照合するため、テキスト形式を保つこと。

3. 照合テストの設計 — 何を、どの頻度で、どう記録するか

正解表が用意できたら、次はAI回答を取得して突き合わせる工程である。ここが測定設計の核心にあたる。

3-1. なぜ1回では足りないのか

単発の回答も一つの観測ではある。しかし、単一のモデルに単一のプロンプトを1回投げて得た回答から、そのAIが自社について返す回答の安定した傾向を推定することはできない。 理由は4つある。

理由1:同じ質問でも回答が揺れる。 生成AIの出力は確率的である。温度パラメータやサンプリングの設定、内部のルーティングによって、同じ質問に異なる答えが返りうる。1回の観測は、分布からの1標本である。標本が1つでは、傾向と外れ値を区別できない。

理由2:一貫していても正しいとは限らない。 ハブ記事で見たとおり、FinQAベンチマークでは、8回の再サンプリングがすべて一致した「高確信」の回答のうち15〜23%が誤っていた。回答が安定していることは、正しさの証拠にならない。 逆に言えば、揺らぎを観測できないと「安定した誤り」を「正解」と取り違える。

理由3:エンジンによって答えが違う。 主要なAIサービスは、それぞれ異なるモデル、異なる検索インデックス、異なる引用方針を持つ。1つのサービスだけを見て「AIは自社をこう語っている」と結論することはできない。

理由4:セッションの履歴が結果を汚染する。 同じチャットの中で続けて質問すると、前の回答が文脈として残る。「先ほどの数値を修正してください」と伝えた後の回答は、その企業についてAIが平常時に返す回答ではない。測定は毎回まっさらな状態(ステートレス)で行う必要がある。

3-2. Vaipmの計測設計

Vaipmは、AI上の認知を複数のAIへの合計25回のステートレス計測によって測定している。

この設計について、3点を明確にしておく。

  • 25という回数は、Vaipmの運用設計である。 研究から導かれた最適値ではない。回答の揺らぎを実務上許容できる範囲で捉えつつ、継続的な運用コストに収める点として設定している。
  • ステートレスであることが本質である。各回の計測は独立しており、前の回答を文脈として引き継がない。これにより、観測されるのは「そのAIがその質問に対して平常時に返す回答の分布」になる。
  • 複数のAIを対象とする。単一サービスの結果を全体像として扱わない。

自社で内製する場合も、この3点——反復すること、履歴を持ち越さないこと、複数のサービスを見ること——は設計の前提として維持することを勧める。回数は運用体制に合わせて決めればよいが、1回で結論を出す設計にはしないこと

3-3. 記録すべき項目

照合テストの1レコードは、次の項目を持つ。

記録項目内容用途
run_id実行の一意ID同一バッチの識別
question_id正解表への参照正解値の突合
prompt_text投入した文言(一字一句)再現性の担保
executed_at実行日時(タイムゾーン付き)開示日との前後関係の判定
engineAIサービス名サービス間差の分析
model_label表示されているモデル名・版更新前後の比較
locale地域・言語設定日英差、地域差の検知
session_stateログイン状態・履歴の有無条件の明示
response_text回答全文後からの再判定
extracted_value抽出した数値機械照合の対象
cited_urls回答が提示した引用元URL一次資料引用率の算出
verdict判定(一致/不一致/部分一致/無回答)KPIの母数
mismatch_type不一致の類型(決算期/基準/通貨単位/範囲/その他)原因分析
delta正解値との差重大度の判定

`mismatch_type` を必ず持たせること。誤りの4類型(決算期・会計基準・通貨/単位・範囲)に対応させることで、「どの誤りが最も多いか」が分かる。全体の一致率だけを見ていると、対処すべき箇所が特定できない。

記録スキーマの例を示す。

run_id,question_id,prompt_text,executed_at,engine,model_label,locale,session_state,extracted_value,cited_urls,verdict,mismatch_type,delta
R2026-0816-001,Q001,2026年3月期の連結売上高は,2026-08-16T10:00:00+09:00,EngineA,modelX,ja-JP,stateless,1234567,"https://example.co.jp/ir/tanshin_2026q4.pdf",match,,0
R2026-0816-002,Q001,2026年3月期の連結売上高は,2026-08-16T10:00:30+09:00,EngineA,modelX,ja-JP,stateless,1210000,"https://example.com/news/article",mismatch,fiscal_period,-24567

3-4. 測定条件として明示すべきもの

同じ質問でも、以下の条件が変わると結果が変わりうる。条件を固定するか、条件ごとに分けて記録するか、どちらかを選ぶ必要がある。

  • クエリの揺らぎ:「売上高」「売上収益」「営業収益」は、企業によって正式名称が異なる。表記を変えた複数のプロンプトを用意する。
  • 地域:アクセス元の地域によって、参照される情報源が変わりうる。
  • 言語:日本語と英語で回答が一致するとは限らない。英文開示を行っている企業ほど、両方を測る意味がある。
  • ログイン状態:ログイン有無や有料プランの違いで、利用されるモデルや検索機能が変わる場合がある。
  • モデル差・版:同じサービスでもモデル更新の前後で挙動が変わる。`model_label` を記録し、更新をまたぐ比較には注記を付ける。

3-5. 頻度の設計

以下は本稿が提示する実務上の設計例であり、研究から導かれた最適構成ではない。頻度の一例として示すものであり、リスク・開示イベント・運用コストに応じて設定すること。

タイミング対象目的
四半期決算の発表直後(発表当日〜3営業日)直近数値の全質問更新の反映速度を測る
発表2週間後同上反映されなかった項目を特定する
月次基本属性・株主還元旧情報の残存を検知する
有価証券報告書の提出後全質問法定開示との一致を確認する
重大誤答を検知した後(是正後14日・30日)該当質問是正の効果を確認する
組織再編・役員異動の公表後該当質問旧情報の残存を検知する

決算発表直後の計測が最も情報量が多い。 開示が更新された時点から、AI回答がいつどう変わるかを観測できるためである。

3-6. 他の測定手段との組み合わせ

照合テストは、AI回答の内容を測る。これに、AI経由の到達を測る手段を組み合わせる。

  • Google Search Consoleのパフォーマンスレポート:AI OverviewsおよびAI Mode経由の表示・クリックは、「ウェブ」検索タイプの全体データに含まれてカウントされる。IRサイトのディレクトリ単位でフィルタし、開示更新の前後で比較する。
  • サーバーログ:どのボットが、IRサイトのどのページを、どの頻度でクロールしているか。GenAI as a Readerのログ研究が示したとおり、この情報自体は取得できる。ただしユーザーエージェントは最終的な回答への採用を証明しない。クロールされていることと引用されていることを混同しない。
  • リファラー:AIサービスからの流入があるかどうか。ただし、AI回答を読んだ後に検索経由で来訪する経路は捕捉できない。

この3つは、それぞれ別の層を測っている。内容の正確性(照合テスト)、検索面での露出(Search Console)、機械による取得(ログ)は、互いの代替にならない。

4. 指標の定義と運用

4-1. 指標の定義

指標定義分母性格
法定開示との一致率正解表の質問に対する回答のうち、正解値と一致した割合回答が得られた計測数KPI
一次資料引用率回答が提示した引用元URLのうち、自社の法定開示・IRサイトを指す割合引用URLの総数KPI
最新年度採用率直近の開示に基づく数値で回答された割合直近数値を問う質問の計測数KPI
単位・通貨誤り率不一致のうち mismatch_type が通貨/単位だった割合不一致の総数KRI
旧役員・旧事業残存率基本属性の質問のうち、更新前の情報で回答された割合基本属性の質問の計測数KRI
重大誤答の是正後再確認時間重大誤答の検知から、是正措置後に再計測で一致を確認するまでの日数KRI
無回答率数値回答が得られなかった割合全計測数参考

4-2. 指標運用の3つの注意

注意1:分母を固定する。 一致率の分母を「全計測数」にするか「回答が得られた計測数」にするかで、値は大きく変わる。無回答が増えると、前者は下がり後者は上がる。どちらを使うかを決め、無回答率を必ず併記すること。

注意2:重大度を分ける。 売上高の桁違いと、従業員数の10人差を同じ「1件の不一致」として数えてはならない。重大度の定義例を示す。

重大度基準対応
重大桁の誤り、業績の方向(増益/減益)の誤り、配当の誤り、存在しない事象の記述即時対応。IR部門長へ報告
許容誤差を超える数値差、会計基準・連結範囲の取り違え次回開示までに対応
軽微丸めの差、表記ゆれ、更新前の情報だが実害が小さいもの記録のみ

注意3:センチメントの層を混ぜない。 ハブ記事で見たとおり、企業名の有無で評価が変わる現象が観測されている。これは事実の正誤とは別の層である。一致率の指標に語調の評価を混ぜると、どちらの動きなのか読めなくなる。語調を測るなら別指標として分離すること。

4-3. 経営層への報告の形

CFOや取締役会に報告する場合、次の3点に絞ると議論が成立しやすい。

  1. 重大な不一致の件数と、その内容(何が、どのAIで、いつ観測されたか)
  2. 是正措置と、是正後の再確認結果(措置が効いたかどうか)
  3. 一致率の推移(改善しているか、悪化しているか)

「AI上での当社の評価が向上した」という報告は避けること。 モデルごとの好意的な回答を企業価値向上の証拠として扱うことは、根拠を持たない。同様に、回答シェアや肯定的センチメントを経営目標に設定することも勧めない。

5. 実践ステップとチェックリスト

5-1. 実践ステップ

ステップ1:対象質問を決める(1〜2週間)

  1. IR部門への問い合わせ履歴、決算説明会の質疑、IRサイトのFAQから、頻出する質問を抽出する。
  2. 本記事§2-3の基準(実際に尋ねられる/正解が一意/誤りの影響が大きい)で10〜20問に絞る。
  3. 法務部門に質問リストを共有し、未公表情報に触れる質問が含まれていないことを確認する。

ステップ2:正解表を作る(1〜2週間)

  1. 本記事§2-2の列を持つ表を作成する。
  2. 各行の正解値を、有価証券報告書・決算短信・適時開示資料から転記する。社内の管理数値からではなく、公表済み資料から転記すること。
  3. 出典URL・ページ・発表日を記入する。
  4. tolerance(許容誤差)を決め、記入する。
  5. 経理部門に正解値のレビューを依頼する。

ステップ3:初回計測を行う(1週間)

  1. 対象とするAIサービスを決める。
  2. 各質問について、履歴を持ち越さない状態で反復計測する。
  3. 本記事§3-3の項目を記録する。
  4. 正解表と突き合わせ、verdict と mismatch_type を付与する。

ステップ4:初回の分析を行う(1週間)

  1. 一致率、一次資料引用率、無回答率を算出する。
  2. mismatch_type の分布を見て、4類型のどれが多いかを特定する。
  3. 重大度を分類する。
  4. 重大な不一致について、自社IRサイト側に原因があるかを確認する(該当情報がテキストで存在するか、年度が明示されているか、旧ページが残っていないか)。

ステップ5:是正して再計測する(4〜6週間)

  1. IRサイト側の修正を行う。
  2. 修正から14日後・30日後に、該当質問を再計測する。
  3. 是正後再確認時間を記録する。

ステップ6:定例運用に組み込む(継続)

  1. 本記事§3-5の頻度表に従って計測を定例化する。
  2. 四半期ごとに指標の推移を整理する。
  3. 正解表の last_verified を更新する(決算発表のたびに正解値を差し替える)。

5-2. 提出前チェックリスト

設計

  • ☐ 正解表に、決算期・期間種別・連結/単体・会計基準・通貨・単位・継続事業範囲の列がある
  • ☐ tolerance(許容誤差)を測定開始前に決めた
  • ☐ 正解値の出典が公表済み資料であり、URLとページを記録している
  • ☐ 未公表の情報が正解表に含まれていないことを法務部門が確認した

計測

  • ☐ 各計測が履歴を持ち越さない状態で行われている
  • ☐ 1回の観測で結論を出す設計になっていない
  • ☐ 複数のAIサービスを対象にしている
  • ☐ プロンプト文言を一字一句記録している
  • ☐ 実行日時をタイムゾーン付きで記録している
  • ☐ モデル名・版を記録している
  • ☐ 地域・言語・ログイン状態の条件を記録または固定している

分析

  • ☐ 一致率の分母を定義し、無回答率を併記している
  • ☐ mismatch_type を4類型で分類している
  • ☐ 重大度の基準を定義している
  • ☐ 語調・センチメントの評価を一致率と混ぜていない

対応

  • ☐ 訂正が公表済み資料の再提示に限定されている
  • ☐ 未公表の重要情報を外部AIサービスへ入力していない
  • ☐ 法定開示の記載自体をAI向けに変更していない
  • ☐ AI出力を投資家への説明の代替として使っていない
  • ☐ 是正後の再計測を予定に組み込んでいる

報告

  • ☐ 重大な不一致の件数と内容を報告している
  • ☐ 是正措置と再確認結果を報告している
  • ☐ 「AI上の評価が向上した」という形の報告になっていない
  • ☐ AI上の露出量を正式なIR成果指標として提示していない

6. FAQ

Q1. 生成AIが自社の決算数値を間違えているかどうかは、どうすれば分かりますか。

正解表(Golden Answer Table)を作り、照合テストを回すのが確実です。まず投資家がよく尋ねる10〜20問を選び、それぞれの正解値を有価証券報告書や決算短信から転記します。このとき、決算期・連結/単体・会計基準・通貨・単位・継続事業範囲を列として持たせてください。次に、その質問を複数のAIサービスに、履歴を持ち越さない状態で反復して投入し、返ってきた数値を正解値と突き合わせます。1回だけ試して「合っていた」と判断しないことが重要です。回答は実行のたびに揺れるためです。

Q2. なぜ1回の計測では足りないのですか。

単発の回答も一つの観測ではあります。しかし、回答の安定した傾向を推定するには不十分です。理由は4つあります。第一に、生成AIの出力は確率的であり、同じ質問でも異なる答えが返りうるためです。第二に、回答が一貫していても正しいとは限らないためです。FinQAベンチマークを用いた研究(2026年7月投稿のarXiv preprint。査読は経ていません)では、8回の再サンプリングがすべて一致した「高確信」の回答のうち、15〜23%が誤っていました。第三に、AIサービスによって参照する情報源が異なるためです。第四に、同じチャット内で続けて質問すると前の回答が文脈として残り、平常時の回答ではなくなるためです。標本が1つでは、傾向と外れ値を区別できません。

Q3. 何問から始めればよいですか。

10〜20問を勧めます。網羅を目指すと運用が続きません。内訳の目安は、直近通期の主要財務数値が5〜6問、過年度との比較が2〜3問、株主還元が2〜3問、会社の基本属性が3〜4問、セグメント・事業構成が2〜3問、ガバナンス・資本政策が1〜2問です。ただしこれは本稿が提示する設計例であり、研究から導かれた最適構成ではありません。最初に着手するなら、本社所在地・代表者・従業員数といった基本属性が適しています。旧情報の残存は検知しやすく、修正の効果も測りやすいためです。

Q4. 許容誤差(tolerance)はどう決めればよいですか。

測定を始める前に決め、以後は変えないことが原則です。決算短信は百万円単位で丸められているため、AI回答が「約1兆2,340億円」と述べたとき、これを一致とするか不一致とするかは判断が必要です。実務的には、桁の丸めに起因する差は許容し、それ以外は不一致とする、という切り方から始めるとよいでしょう。重要なのは基準そのものより、基準を固定することです。後から変えると時系列比較が壊れ、改善したのか基準が緩んだのかが区別できなくなります。

Q5. 記録項目のうち、省いてはいけないものはどれですか。

プロンプト文言(一字一句)、実行日時(タイムゾーン付き)、AIサービス名、表示されているモデル名・版、そして不一致の類型です。前の4つは再現性のために必要で、これが無いと後から「なぜこの結果になったのか」を追えません。不一致の類型は分析のために必要です。全体の一致率だけを見ていると、対処すべき箇所が特定できません。回答全文も残しておくと、判定基準を見直したときに再判定できます。

Q6. 測定条件は固定すべきですか、それとも変えて測るべきですか。

どちらかを選び、記録することが要点です。条件を固定すれば時系列の比較が容易になり、条件を変えて測れば条件差そのものを検知できます。悪いのは、条件が揃っていないのに揃っているつもりで比較することです。とくに言語(日本語と英語)と地域は、英文開示を行っている企業では差が出やすい箇所です。ログイン状態や有料プランの違いで利用されるモデルが変わる場合もあるため、この点も記録に残してください。

Q7. どのくらいの頻度で回せばよいですか。

四半期決算の発表直後を軸に組むのが現実的です。開示が更新された時点から、AI回答がいつどう変わるかを観測するには、このタイミングが適しているためです。発表当日から3営業日以内と、発表2週間後の2回を取ると、反映の速度と、反映されなかった項目の両方が見えます。基本属性は月次、有価証券報告書の提出後は全質問、といった組み方が考えられます。ただしこれは一例であり、リスク・開示イベント・運用コストに応じて設定してください。研究から導かれた最適な頻度があるわけではありません。

Q8. 一致率の分母はどう定義すればよいですか。

「全計測数」にするか「回答が得られた計測数」にするかで値が大きく変わります。無回答が増えると、前者は下がり後者は上がるためです。どちらを使うかを決め、無回答率を必ず併記してください。併記していないと、一致率が上がったときに、実際に改善したのか、AIが答えなくなっただけなのかが区別できません。あわせて、重大度を分けることも必要です。売上高の桁違いと従業員数の10人差を同じ「1件」として数えると、指標が実態を反映しなくなります。

Q9. 経営層にはどう報告すればよいですか。

3点に絞ると議論が成立しやすくなります。重大な不一致の件数と内容(何が、どのAIで、いつ観測されたか)、是正措置と是正後の再確認結果(措置が効いたかどうか)、一致率の推移(改善しているか悪化しているか)です。避けるべきは「AI上での当社の評価が向上した」という形の報告です。モデルごとの好意的な回答を企業価値向上の証拠として扱うことは、根拠を持ちません。回答シェアや肯定的センチメントを経営目標に設定することも勧めません。

Q10. 誤りを見つけたら、AIの提供元に訂正を求めてよいですか。

求めること自体は妨げられませんが、それを主たる対応にすることは勧めません。主要なAIサービスに共通する企業向けの訂正制度や、訂正結果を保証する手続きを、本稿で確認した範囲では確認できませんでした。現実的な対応は、再現可能なプロンプトと日時を保存し、公表済みの一次資料のどこと矛盾しているかを特定し、自社IRサイト側の欠落・旧ページ・単位表示・法人識別を修正して、一定期間後に複数のAIで再検証することです。このとき、未公表の重要情報を用いて訂正してはなりません。 訂正は公表済み資料の再提示に限定してください。制度上の整理はハブ記事の§7で扱っています。

Q11. 内製すべきですか、外部のサービスを使うべきですか。

規模と継続性の問題です。四半期に一度、10問程度を手作業で確認するだけなら内製で十分に回ります。一方、複数のAIサービスに対して反復・ステートレスな計測を定例化し、条件を揃えて記録し続け、開示のたびに追随する形にすると、運用コストは無視できない大きさになります。判断の分かれ目は、測定を「調査」として単発で行うのか、「統制」として継続するのかです。後者を目指す場合は、記録スキーマを最初から機械可読な形にしておくことを勧めます。手作業のスプレッドシートから移行するのは、後になるほど負担が増えます。

7. まとめと次のアクション

7-1. 要点

  1. 正解表は属性ごとに列を持たせる。 決算期・期間種別・連結/単体・会計基準・通貨・単位・継続事業範囲・発表日・出典。列が無いと、不一致を検知しても原因を分類できない。
  2. 許容誤差は測定前に決め、以後変えない。 後から変えると時系列比較が壊れる。
  3. 10〜20問から始める。 網羅を目指すと運用が続かない。基本属性から着手すると効果を測りやすい。
  4. 1回で結論を出さない。 反復し、履歴を持ち越さず、複数のサービスを見る。
  5. 測定条件は固定するか、条件ごとに分けて記録する。 揃っていないのに揃っているつもりで比較しない。
  6. 測るのは露出量ではなく一致である。 分母を定義し、無回答率を併記し、重大度を分ける。
  7. 経営層への報告は、重大な不一致・是正結果・一致率の推移の3点に絞る。
  8. 訂正は公表済み資料の再提示に限定する。 未公表の重要情報でAI回答を訂正してはならない。正解表に載せるのも公表済みの数値のみである。

7-2. 次のアクション

今週:IR部門への問い合わせ履歴から頻出質問を10問抜き出し、「正解が一意に定まる」ものを選別する。あわせて、質問リストに未公表情報に触れるものが含まれていないことを法務部門に確認する。

今月:正解表の骨格を作り、直近通期の主要財務数値について、決算期・連結/単体・会計基準・通貨・単位・出典URLを埋める。許容誤差を決める。経理部門にレビューを依頼する。

次の決算発表:発表当日と2週間後に、同じ質問を複数のAIサービスへ反復投入し、回答の変化を記録する。ここで得られる不一致の類型分布が、その後の是正の優先順位を決める。

7-3. 測定を継続する体制について

ここまでの手順は、内製でも実行できる。ただし、複数のAIサービスに対して反復・ステートレスな計測を定例化し、条件を揃えて記録し続けるには、それなりの運用コストがかかる。

Vaipmは、AI上の認知を複数のAIへの合計25回のステートレス計測によって測定している。これはAIO対策のためのツールではなく、AI上の認知を継続的に管理する(AI Perception Management)ための仕組みである。この領域そのものについてはAIPMとは何かを、AI上の情報がどれくらいの期間残るのかについてはAIに残る情報の期間を参照されたい。誤情報の一般的な対策と訂正の可否についてはAI上の誤情報とその対策およびAI回答の訂正はどこまで可能かで扱っている。

AI上の自社認知の実態、誤りの仕組み、実証研究の到達点、制度上の境界については、ハブ記事AIは自社の財務情報をどう語っているかを参照されたい。

出典一覧

一次・技術資料

  1. U.S. Securities and Exchange Commission「EDGAR Application Programming Interfaces」 https://www.sec.gov/search-filings/edgar-application-programming-interfaces
  1. 金融庁 EDINET https://disclosure2.edinet-fsa.go.jp/week0020.aspx
  1. 日本取引所グループ「TDnet(適時開示情報伝達システム)」— 取引所の制度であり、国の法令そのものではない https://www.jpx.co.jp/english/equities/listing/disclosure/tdnet/
  1. 日本取引所グループ「XBRL」 https://www.jpx.co.jp/english/equities/listing/disclosure/xbrl/03.html
  1. Google Search Central「AI features and your website」(最終更新: 2025年12月10日)— AI機能経由の表示もSearch Consoleパフォーマンスレポートの「ウェブ」検索タイプに含めてカウントされる https://developers.google.com/search/docs/appearance/ai-features

学術研究・調査

  1. Richard Zhe Wang「Confidently Wrong: Detecting Hallucinations in Financial Question Answering from LLM Internal States」(2026年7月13日投稿)— arXiv preprint、8ページ。FinQAおよびTAT-QAベンチマーク。対象モデルはQwen3-8B、Llama-3.1-8B、Gemma-2-9B。基盤モデルのベンチマークであり、公開されているAI検索製品の評価ではない https://arxiv.org/abs/2607.11414
  1. Monika Kovarova-Simecek, Henning Zülch, Leon Kirschbaum, Konstantin Klammer, Eloy Barrantes, Alexandra Horváthová, Christina Schilling「GenAI as a Reader: How ChatGPT & Co. use Annual Reports」(USTP・HHL Leipzig・nexxar)— 査読論文ではなく実務者向けレポート(practitioner report。HHLリポジトリ上の Document Type: Report)。nexxarはデジタルIRレポート事業者であり当事者である。本記事で参照しているのは第2部のログ分析(DAX 5社、2025年8月29日〜10月25日、4,838,833件の自動アクセス、分析対象759,226件) https://digital-investor-relations.com/_assets/downloads/DIR_GenAI-as-Reader.pdf?h=E0wP6LL9

本記事が前提として引き継いでいる調査データ(日本IR協議会 第33回「IR活動の実態調査」ほか)および実証研究の全出典は、ハブ記事「AIは自社の財務情報をどう語っているか」の出典一覧に掲載している。

免責: 本稿は開示品質管理の実務手順および制度の整理であり、法的助言ではない。また、特定の銘柄に関する投資判断の推奨、株価予測、投資助言のいずれも行っていない。個別の法的判断は、自社の法務部門および弁護士等の専門家に相談されたい。

関連する記事

部門別ユースケース

AIは自社の財務情報をどう語っているか — IRのための実態と境界

生成AIはIR部門に急速に入ったが、測っている方向は自分が使うAIに向いている。日本IR協議会 第33回調査が示すこの非対称を起点に、AIが自社の決算数値を誤る4類型、実証研究が示すことと示さないこと、HTMLとPDFの違いの限界、露出量ではなく法定開示との一致を測る考え方、訂正時の法務上の境界までを整理する。

IR情報開示フェア・ディスクロージャーAI認知管理AIPM
詳しく見る
基礎解説

AIPMとは|AI認知管理(AI Perception Management)を測定・統制する実務領域

AIPM(AI Perception Management/AI認知管理)とは、生成AIや回答エンジンが自社をどう認識・説明・引用するかを測定し、継続的に統制する実務領域。AIO・GEO・LLMOとの違い、海外で立ち上がったカテゴリと主要ベンダー、ガバナンス・規制、効果測定までを一次情報で解説する、Vaipm(ヴァイピム)の決定版ガイドです。

AIPMAI認知管理基礎解説
詳しく見る
リスク・論点

AI誤情報・誤帰属対策とは|自社が誤って説明されるリスクの検知・訂正・予防

AI誤情報・誤帰属対策とは、生成AIや回答エンジンが自社を誤って説明・帰属・要約するリスクを、検知・訂正・予防の三層で継続的に管理する実務領域である。「AIに引用されない(不在)」問題とは別に、「引用はされるが内容が誤っている(誤在)」問題が存在する。AIの引用は運用の巧拙ではなく構造として不完全であり(Tow Center・ALCE・CiteFix)、引用元リンクの存在は正確性を保証しない。日本の企業担当者の87.3%は誤在を目撃し、76.7%は「測っている」と答えるが、それでも誤在は止まっていない。問題は測定の不在ではなく、測り方が状態を証明していないことである。誤在にどう向き合うかは、①法的に争えるか、②消せるか、③どう測るか——本記事はその入口であり、各問いは別稿で深掘りする。

AI誤情報誤帰属AI回答 誤情報対策生成AI 風評レピュテーションAIPMAI認知管理効果測定
詳しく見る