高次ネイマン直交性で「雑音」に強い推定式を作る方法を提案
この論文は、主に経済学で使う推定法において「雑音となる余計なパラメータ(ニューイサンス)」の影響を小さくする新しい道具を示します。研究者らは、推定に用いる「モーメント関数」と呼ばれる式を、選んだ次数までネイマン直交(Neyman-orthogonal)にする一般的な構成法を導き出しました。直観的には、直交性を高めるほど余計なパラメータの推定誤差による偏りが減り、より正確な推定と検定が可能になります。著者はStéphane Bonhomme、Koen Jochmans、Whitney K. Newey、Martin Weidnerです。
具体的に研究者たちがしたことは、パラメトリックなモーメント条件モデルに対して、q次までのネイマン直交性を満たすモーメント関数を閉形式で構成した点です。「q次直交」とは、余計なパラメータに関する期待される推定方程式の導関数が真の値で0になることをq次まで要求することを意味します。構成は非再帰的(再帰的な手順に頼らない明示的な式)で、線形あるいは非線形の両ケースを扱います。非線形の場合は補正項を含み、その表現には「根付き木(rooted trees)」に基づく形を用いています。
この手法の利点は実務的です。第一に、直交性の次数を上げることで、ニューイサンス(余計なパラメータ)の推定速度に対する要求が緩和されます。論文で示す一般的な結果では、q次直交を用いればニューイサンスが収束する速度として n^{-1/(2(q+1))} 程度で十分になります。例を挙げると、一次直交では n^{-1/4} が必要だったところを、二次直交では n^{-1/6} で良くなる、という改善が得られます。第二に、追加で導入するニューイサンス量の次元は直交の次数に依存しない点を示しています。さらに、導入する余分なパラメータを一つのスカラーにまで減らす技術も提案しています。
論文は具体例も示します。線形のモーメント関数が成り立つ場合(例えば線形回帰や線形の道具変数法=instrumental variables)には明示的な式が得られます。二段階で生成した回帰量を扱う「生成された回帰子(generated regressor)」の例も取り上げています。構成の一部はヤコビアン(モーメント関数の変化率を表す行列)の左逆行列に依存し、その左逆行列を追加のニューイサンスパラメータΛとして扱います。実装やシミュレーション結果、推定量の漸近分布に関する理論的結果も論文で扱われています(本文はセクション5、6などに対応)。
重要な注意点もあります。提案手法は有限次元のニューイサンスを想定している点です。無限次元の関数的なニューイサンス(例えば完全な非パラメトリック場面)への拡張は今後の課題とされています。また、ヤコビアンに左逆行列が存在すること(列ランクが満たされること)など、モデルの識別条件が必要です。構成は独立なデータのコピーを利用する点にも依存します。最後に、追加で導入するパラメータΛの次元は直交化の理論には影響しませんが、実際の推定精度には関わるため、Λを小さくする技術の利用やその推定の難しさを考慮する必要があります。