要約
AI競争が止まらないのは、各主体が合理的に動いた結果「誰も止まれない」ナッシュ均衡に陥っているためです。出口は、競争をなくすことではなく、制度設計で「競争しても壊れない」仕組みをつくることにあります。
AI競争が止まらない理由は「悪意」ではなく「構造」にある
米中の国家間競争も、AI企業同士の開発競争も、個々の判断は合理的です。誰かが安全のために速度を落とせば、その間に他の主体が先へ進むかもしれない。だから「全体では少し遅いほうが安全かもしれないが、自分だけ止まるわけにはいかない」という判断が、各所で同時に生まれます。
この構造を説明するのが、ゲーム理論の「ナッシュ均衡」です。
ナッシュ均衡とは何か
ナッシュ均衡とは、他のプレイヤーの戦略を前提にしたとき、自分だけ戦略を変えても得をしない状態のことです。数学者ジョン・ナッシュが定式化しました。
押さえておきたいポイントは、次の3つです。
- 安定していることと、望ましいことは別です
- 全員にとってより良い状態が、別に存在する場合があります
- 個々の合理性の総和が、全体の合理性になるとは限りません
身近な例は、2社の値下げ競争です。
| 状況 | A社の選択 | B社の選択 | 結果 |
|---|---|---|---|
| 両社が価格維持 | 維持 | 維持 | 両社の利益が大きい |
| 片方だけ値下げ | 値下げ | 維持 | 値下げ側が顧客を奪う |
| 両社が値下げ | 値下げ | 値下げ | 両社とも利益が減る(ナッシュ均衡) |
相手が維持しているなら、自分は値下げしたほうが得です。相手も同じ計算をするので、両社とも値下げに向かい、誰も動けなくなります。AI競争は、この構造がより大きく、より速く起きている状態と考えられます。
AIは競争の「加速装置」にも「分析装置」にもなる
AIは、与えられた目的を達成する方法を大量に探索します。目的が「競争相手に勝つこと」なら競争を効率化し、「安全性を高めること」なら安全策を探します。AIがエゴを持たなくても、人間の目的を増幅するのです。
| 使い方 | AIの役割 | 帰結 |
|---|---|---|
| 競争戦略の最適化 | 勝つ方法を探索 | 競争が加速する |
| 制度設計の探索 | 協力が成り立つ条件を探索 | 競争の構造が変わる可能性 |
出口となる3つの制度設計
「ゲームの中で勝つ」のではなく、「ゲームのルールを設計する」発想を、経済学では「メカニズムデザイン(制度設計理論)」と呼びます。AI競争に応用すると、次の3つが考えられます。
- 共通の評価基準:危険な能力を、同じ物差しで測れるようにします
- 第三者による検証と監査:相手を信用しなくても、安全を確認できるようにします
- 重大インシデントの共通報告:事故や誤作動の情報を共有し、同じ失敗の繰り返しを防ぎます
ポイントは、「信頼」を前提にしないことです。核軍縮の査察のように、善意ではなく検証で成り立つ仕組みを目指します。AIは、こうした複雑な条件の組み合わせを探索するのに向いています。
AIにもできないこと:何を「望ましい」とするかの決定
AIは「どうすれば調和できるか」を探索できても、「何を調和と呼ぶか」は決められません。
- 経済成長と安全性、どちらを優先するか
- 個人の自由と国家安全保障、どちらを優先するか
- 技術革新をどこまで許容するか
これらは価値判断であり、人間が決める領域です。AIが最適解を示しても、採用するかどうかは国家、企業、市民が決めます。
構造設計の視点:競争をなくすのではなく、壊れない構造にする
耐震設計は、地震を止めようとはしません。揺れても崩壊しない構造をつくります。ひとつの部材が壊れても、荷重が別の経路へ流れて全体が持つよう、冗長性を設計に入れます。
競争も同じです。競争は創造性の源でもあります。目指すべきは「競争をなくす世界」ではなく、「競争しても壊れない世界」です。
ビジネスパーソンが今日から使える3つの視点
| 視点 | 具体的な問い |
|---|---|
| 目的を言葉にする | AIに何を最適化させているのか。速さか、品質か、安全か |
| 構造を見る | 「他社がやるから」で動いていないか。止まれない構造にいないか |
| ルールを設計する | 競争の前提になる基準や手続きを、自分から提案できないか |
AI時代に先頭に立つのは、AIで「どう勝つか」を考えるだけでなく、「どんなルールのもとで競争するか」を問える人だと考えます。
まとめ
- AI競争が止まらないのは、個々が合理的だからこそ生じるナッシュ均衡の構造によります
- ナッシュ均衡は「安定」であり、「望ましい状態」とは限りません
- 出口は、競争をなくすことではなく、制度設計で競争の構造を変えることです
- AIは制度の探索に使えますが、何を望ましいとするかは人間が決めます
ライプニッツの「予定調和」を手がかりに、この問いを哲学の側から掘り下げた記事をSubstackで公開しています。
CTA:ナッシュ均衡から予定調和へ ――AIは「自分だけは止まれない」構造を変えられるか(Substack)
https://phity.substack.com/p/ai-nash-leibniz
関連記事:
- AIの権限設計を考える:https://phity.net/ai-armageddon-optmistcism
- 関係の文明という視点:https://phity.net/ai-couterpoint-architecture
