階層的メモリと複数エージェントで長期間の科学計算の文脈問題を抑える——Ensemble QSPの提案
この論文は、大規模言語モデル(LLM: 大量の文章から学んだAI)が持つ「状態を残さない」設計が、数週間〜数ヶ月にわたる研究プロジェクトには向かない問題を扱います。著者らはEnsemble QSPという多エージェントフレームワークを示し、会話履歴や中間成果が増えても投入する文脈(コンテキスト)を一定に保てる階層型メモリ構造で、長期間の自律的な計算ワークフローを可能にしました。要点は、必要な情報だけを上手に圧縮・注入し、完了した作業は削除することでモデルの文脈窓(token数)を膨らませない点です。
アーキテクチャは三層のメモリから成ります。短期層は直近の会話数ターン(4–20)や作業用スクラッチパッド(専門エージェントで最大20,000文字、PI=主任研究者エージェントで最大8,000文字)などを保持します。中期層は構造化されたプロジェクト状態(JSON)で、直近5件の要求、20件の更新ファイル、直近のセッション要約3件などの「必要な部分だけ」を注入します。長期層は分野別の手引きや物理チェックリスト(例:心カルシウムで13項目)などで、必要時に参照します。著者らは104回のプロジェクト実行で中期状態の注入トークン中央値が301(四分位範囲215–478、最大4,050)と報告し、履歴をただ連結する方式に比べて文脈の膨張(O(N×T))を避けられると説明します。
計算は階層的指揮系統で行います。領域ごとの主任(PI)エージェントが戦略的監督を行い、その下で5つの専門サブエージェントが役割分担します。役割は最適化(パラメータ調整)、モデリング(常微分方程式の実装)、レポート作成、インフラ(文献検索・計算資源の調整)、コードレビューです。物理的妥当性を保つために、物理チェックリスト、分野知識をJSONで与える仕組み、そして文献を取り出して比較する手法(RAG: retrieval-augmented generation、文献参照を組み合わせる生成)を組み合わせています。構造は分野非依存で、新しい分野を追加するにはPIエージェントの設定だけ用意すれば良く、論文ではPKPD(薬物動態・薬力学)用のPIを1日未満で追加できたと報告しています。
性能評価は合成データと既知解のベンチマークで示されます。一つはPKPDモデル選択で、20件の合成データが6候補構造(薬物動態:1区画or2区画 × 薬力学:Emaxモデル、シグモイドEmax、間接応答=IDR)から生成されました。Ensemble QSPの多エージェント系(MAS)は人の介入なしで初回で全20件を正しく選択しましたが、単一エージェント(GitHub Copilot相当、GHCP)は初回で14/20(70%)にとどまり、最良結果を得るのに平均9回の自己デバッグ反復が必要でした。特にIDR(硬い常微分方程式が必要な例)ではMASが100%正解でPDパラメータ誤差の中央値が14.1%だったのに対し、GHCPは62%正解で誤差中央値68.4%でした。もう一つの評価は難しい2区画皮下注PKプロファイル20件でのパラメータ復元です。MASは14/20(70%)を真の値から10%以内で回復しましたが、GHCPは4/20(20%)にとどまりました。計算時間はMASの方が長く、平均105分に対してGHCPは18–25分でした。
この仕事が重要な点は、LLMを使った科学的計算を「一回限りの対話」から「継続的なプロジェクト」に拡張し、物理的妥当性やドメイン知識の適用を組み込めたことです。とはいえ重要な限界もあります。提示されたベンチマークは合成データやモデル化実験が中心であり、臨床や実験現場での運用が示されているわけではありません。計算的なオーバーヘッドは増え、壁時計時間が長くなる点も実用上の考慮が必要です。また、結果の安定性や精度は与える分野知識ファイルやチェックリストの設計に依存する可能性があります。報告は104回の実行に基づく中期状態の統計など具体的な数値を含みますが、全文が与えられていない抜粋に基づく点もあるため、詳細な一般化は慎重に行う必要があります。