「テスト時スケーリング」を整理:推論手続きの違い、評価法、再現性の指針
この論文は、推論時により多くの計算を与えることで大規模言語モデル(Large Language Models, LLMs)が難しい推論問題を解けるようになるという現象を、整理して評価と再現性のルールを示したものです。著者らは「テスト時スケーリング」という呼び方が、実際には性質の異なる複数の推論アルゴリズムを含んでいる点を問題視します。単に「計算予算」を比べるだけでは、手法間の差や失敗の原因がわかりにくいと指摘します。そこで、手順を明確に区別し、比較と報告のための枠組みを提案しています。
まず論文は理論的な整理を行います。推論を自己回帰(ひとつずつ次の語を生成する)モデルが作る「接頭辞(プレフィックス)木」として捉え、そこで計算をどのように配分するかを「予算付き推論」として形式化しました。その上で三つの構造的な推論形態を区別します。1) 単一経路での連続的な熟考(single-trajectory):一つの応答を長く生成して改善する方法。2) 葉レベルでの多数生成と集約(leaf-level):多数の完成応答を生成して投票や検証で絞る方法。3) 接頭辞レベルでの探索(prefix-level):途中の未完成状態も探索して最終解に導く方法。これらは統計的性質や失敗の仕方が異なります。
次に評価方法の原則を示します。評価対象は単独のモデル重みではなく、プロンプト、デコーダー、探索や集約のルール、停止判定、検証器(verifier)などを含む「推論システム全体」であるべきだと主張します。著者らは「評価プロファイル」を導入し、それによって従来の反復サンプリング指標(たとえば複数生成からの最良選択)を再現したり上界・下界を与えたりできます。また、実験では計算量と不確実性の報告を手順に合わせて行うべきだと勧めています。論文は、検証器やスコア代理が候補集合の増大によって過適応(過度に最適化)される危険や、生成の確率的性質や実装差で結果が揺らぐ点も指摘しています。
再現性についても具体的な区別を設けています。完全に同じ挙動を再現する「正確再生(exact replay)」と、分布として同等の振る舞いを得る「分布的再現性(distributional reproducibility)」を区別し、それぞれを保証するために必要なアーティファクト(たとえばトレースや検証信号、設定の細部)を明記するべきだと述べます。さらに、公開重み(open-weight)コミュニティでの手法群を、モデル側の訓練や蒸留、報酬最適化といった「モデル側メカニズム」と、推論時の制御や検証といった「インターフェース側メカニズム」に分けて整理しました。論文は複数のベンチマーク(広範な知識問題、記号的推論、競技数学など)にこの枠組みを適用し、大量の推論トレースを公開することを報告しています(論文中で公開されるトレースの規模は数百万〜数十億の範囲で示されています)。
なぜ重要かと言うと、同じ「より多くの計算」であっても中身の手続きが違えば結果や欠点が大きく変わるからです。研究者や実装者が手法を比較する際に、どの部品が性能に効いているかを切り分けられるようになります。一方で注意点もあります。評価は必ず推論プロトコルに合わせて行う必要があります。検証器やリランキングのスコアは完璧ではなく、候補集合の増加で逆にバイアスが入ることがあります。また、ランダム性や実装の差によるばらつきがあるため、結果には不確実性の提示や再現性のための詳細な記録が欠かせません。論文はこうした手続き的な明示を通じて、推論時の「計算を増やす」戦略をより公平かつ再現可能に評価することを目指しています。