この論文は、生成型AIが見た目は説得力があるが実際には根拠の薄い「証拠」を大量に作り出す仕組みを示します。著者らはこの現象を「幻の証拠（phantom evidence）」と名付け、観察がどれほど信念を動かすかを測る確率の言葉で定式化します。要点は簡単です。何かが「説得力がある（convincing）」ことと「本当に達成されている（target）」ことは別で、生成型AIは説得力を安く大量生産してしまうため、見た目だけでは真偽を判断できなくなる、ということです。

研究者たちはまず、観察がどれだけ仮説を支持するかを示す尺度として「尤度比（likelihood ratio）」を用びます。これは「説得力があると判定される確率が、真の場合と偽の場合でどれだけ違うか」を示すものです。重要なのは分母、つまり「ターゲットが存在しないときにも説得力があると判定される確率（Pr(C|¬T)）」です。生成型AIはこの分母を膨らませます。分母が大きくなると尤度比は1に近づき、観察はもはや証拠になりません。著者はこの崩壊を「分母の崩壊」と呼びます。

具体例も示されています。古典的な「クレバー・ハンス」（質問者の無意識な合図で答えていた馬）や、査読者がChatGPT生成の要旨を本物と誤認した実験（Gaoらの例）、および脳のイメージ再構成で写実的な画像が現れても脳情報がほとんど使われていない場合などです。これらは一見別問題に見えますが共通の構造を持ちます。名目上の選択肢の空間は広いが、実際に生成システムが到達する範囲は狭く、そのギャップが「幻の証拠」を生みます。著者はこのギャップを数学的に∆ = log(N/keff)の形で表します（Nは名目上の選択肢数、keffは実効的に到達する選択肢数）。

この分析から重要な結論が出ます。出力の解像度や流暢さを高めたり、生成系に自ら判定させたりしても、新たな情報は増えません。一次データ（観測に直接接している記録）を経た後の加工は情報量の上限を超えられないからです。したがって、見た目を磨くだけでは真の証拠にはならない。真に必要なのは、システムが到達できる範囲を本当に広げることと、ターゲットが存在しないときにも説得力が現れる確率を測る手続きです。これはフランシス・ベーコンの「欠如の表（negative controls）」の現代的再表現にほかなりません。

論文はまた、いくつかの制約や不確実さを示します。尤度比の計算は事前知識（prior odds）に依存しますし、個々の出力が独立であるという仮定は強い条件です。著者自身が「分子（真の場合の説得力）が飽和するのは近似であり、すべての場面で成り立つわけではない」と述べています（詳細は節8で議論）。さらに、データ漏洩や選択的報告、試行錯誤の過程が幻の証拠を増幅します。結論として、生成型AI時代の科学の信頼性は、より説得力のある出力を増やすことではなく、それらの出力が偶然に生じ得ないことを示す厳密な手続きにかかっている、と著者は主張します。