安全基準を追い越すと危険が高まる。企業の「競争」か「協調」かを連続時間モデルで分析
この論文は、二つの企業がどれだけ急いで技術を進めるかを選ぶときに、安全性との関係でどんな行動が生まれるかを調べています。両社のうち前面に出た能力が「安全閾値」を超えると、共通の災害リスクが発生します。著者は、いつ企業が全速力で競争(レース)し、いつ抑えて進む(ペーシング)かを、数学的に分類しました。
研究では、時間を連続とするゲームを使います。各社は常に開発速度を0(停止)から1(最大速度)まで選べます。各社の能力は過去の速度の積み重ねです。安全閾値は外部要因として一定の速さで上がります。能力の先端が安全閾値を上回る差が大きいほど、災害の発生率(ハザード)が大きくなります。ここでの「ハザード」は、単に一定時点で災害が起こる確率の割合を表す仕組みです。
分析の中心はマルコフ完全均衡(Markov perfect equilibrium, MPE)という概念です。これは企業の戦略が「現在の安全閾値と各社の能力だけ」に基づく均衡を指します。主な結果は三つに分かれます。ハザードが低いときは、唯一のMPEとして両社が常に全速で開発する「レース」しか残りません。中程度のハザードでは、レースとペーシングの両方が均衡として共存します。ハザードが高いと、ペーシングだけが残ります。さらに、割引率(将来の利益をどれだけ重視するか)や安全の進み方は、どちらの行動が支持されるかに影響します。具体的には、安全が速く進むこと、ハザードが高いこと、割引率が低いことは、抑える(ペースを落とす)行動を支持します。
著者たちはまた、すべての部分ゲーム完全均衡(subgame-perfect equilibria, SPE)を調べ、低リスク下では永久的なレースが一意的なSPEの帰結になること、高リスクではレースが成立しなくなることを示しました。さらに、任意の時点での災害確率に対する上界(上限)を示す結果も提示します。モデルの一部として、内部での能力が実際の公開・配備まで遅れて見えない場合を考えると、遅延が長いほどペーシングを維持するのが難しくなります。つまり、内部能力の透明性が協調の実現にとって重要だと論じられます。
重要な前提と限界も明示されています。モデルは二社だけを扱い、災害の唯一の影響を「両社の利益が永久に終わること」に限定しています。社会全体の損失を企業が内部化するなら、抑制(ペーシング)を支持しやすくなるはずだと著者は指摘します。また、開発に直接的なコストを入れていないなど簡略化されています。テクソースの抜粋で説明が一部切れている箇所もあり、詳細な式や追加結果は本文全体で確認する必要があります。