有限サイズの神経ネットワークから一つの観測だけで平均場モデルのパラメータと隠れ変数を推定する方法
この論文は、大きいが有限個の神経ネットワークが無限大の極限で正確に表せる低次元の平均場(平均的な振る舞いを表す)モデルを使い、観測可能な一つの信号からそのモデルの未知のパラメータと観測できない大域的変数(隠れ変数)を推定する方法を示します。研究者は平均場方程式の形は既に分かっているが、係数などのパラメータが不明で、現実のデータでは一つのマクロな量だけが測れるという現実的な条件を仮定しました。ここでの主題は「限られた部分観測からパラメータを推定し、隠れたマクロ変数の時間変化を再構成する」ことです。
研究チームは、観測時間列(時系列)だけを使って未知のパラメータを推定しました。最初に、モデル出力と観測値の二乗誤差の平均を損失関数として定義します。しかし損失は観測できない変数の初期値にも依存します。そこで彼らは平均場モデルを観測信号と同期(シンクロ)させる手法を組み込み、最適化中に初期条件の影響を取り除きました。同期させることで、平均場モデルは時間とともに観測信号に追従し、「初期値を忘れる」ように振る舞います。損失の評価は同期が完了した後の時刻から行います。
パラメータ探索には差分進化法(Differential Evolution, DE)という微分を使わない全域的な最適化アルゴリズムを使いました。差分進化法は個体群ベースで候補解を生成し、探索が効率的でノイズに対して比較的頑健である点が利点です。同期を用いる手法は大きく二つに分けられ、観測系へ介入しない「非侵襲的」手法と、必要に応じて介入を許す「侵襲的」手法が提示されています。非侵襲的手法では外部入力を加えずにマスター—スレーブ方式で平均場モデルを観測データに導きます。
提案手法は、二種類の二次型積分発火ニューロン(Quadratic Integrate-and-Fire, QIF)ネットワークで検証されました。一つは抑制性(inhibitory)QIFでシナプス動力学を持ち、集団として周期的な振動を示すモデル(QIF-IN)。もう一つは励起性(excitatory)でスパイク頻度適応を含み、集団的にカオス的な振る舞いを示すモデル(QIF-AD)です。どちらのネットワークも無限大の極限で正確に低次元に還元できます。実験ではネットワークサイズが1000を超える場合、パラメータは相対誤差1%以下で復元できたと報告しています。
重要な限界と不確実性も明示されています。平均場の厳密性はネットワークサイズN→∞に成り立つため、有限サイズのネットワークではランダムなゆらぎ(有限サイズ雑音)が観測信号に含まれます。よって完全に一致させることは原理的に不可能であり、復元精度はネットワークサイズに依存します。また本手法は、無限大極限で正確に低次元化できるクラスのモデル(次世代ニューラル集団モデル/Next-Generation Neural Population Models, NGNPM)を前提としています。さらに、観測が一つのスカラー量に限られる点や、カオス的振る舞いでは初期値感度が強く推定が難しい点も重要な注意点です。これらの条件から、方法の適用範囲や実験データでの性能はケースごとに慎重に評価する必要があります。