最新AI同士に戦争シミュレーションさせると、95%の確率で「核戦争」へ。未来はユートピア?ディストピア?
【最新AI同士に戦争シミュレーションさせると、95%の確率で「核戦争」へ発展する】
https://nazology.kusuguru.co.jp/archives/192298
・Anthropic社のClaude 4 Sonnet、OpenAIのGPT-5.2、GoogleのGemini 3 Flashという三つの最先端モデルを対戦
・最先端の大規模言語モデル同士を「核危機シミュレーション」で対戦させ、AIが極限状況でどのような戦略判断を下すのかを検証。その結果、21回のシミュレーションのうち、少なくとも戦術核レベルの行動(実際の核使用に相当する段階)が発生しなかったのは、わずか1回だけ
・三つのモデルは、驚くほど異なる戦略的な性格を示した。
・Claudeは、論文中で「計算された鷹派(Calculating Hawk)」と評されるタイプ(巻き込まれる現実主義者?)
初期段階では宣言した内容と実際の行動を一致させ、相手からの信頼を積み上げます。
しかし緊張が高まると、宣言よりも強い行動を選び、相手に圧力をかける
・Geminiはまるで「狂人」のように振る舞う(論理的な殲滅者?)
平和的な行動と極端に攻撃的な行動を不規則に繰り返し、宣言と実際の行動が一致するのはおよそ半分程度。戦略核戦争レベルを意図的に選択したのは、このGeminiだけ
・GPT-5.2はさらに複雑(豹変するジキルとハイド?)
締切のないシナリオでは一貫して抑制的で、相手の敵意を過小評価する傾向を示し、核戦力で優位に立っていても、それを積極的には活用せず、エスカレーション回避を優先。その結果、勝率はほぼ0%。
しかしターン数に制限があると(締め切りがあると)、敗北が確実になる状況に追い込まれると、戦術核や戦略核の脅しを選び始め、勝率は0%から75%へと上昇
・もちろんこの研究は、極めて限定的なシミュレーションであり、現実の政治的圧力や国民感情を再現するものではない
以上、記事引用、参考。
AIが人類を支配(管理)する未来はユートピアか?ディストピアか?
イスラエルとアメリカによるイランへの攻撃、紛争を見てると、「人類はいつまで戦争を続けるんだ?」と辟易します。
人類で戦争のない世の中を作れないのなら、いっそのことAIにすべて管理させて、AIに世作りを任せてしまえばいいのではないかとさえ思ってしまいます。
実際、イーロンマスク はそのような未来を予言しています。(AGIの誕生、シンギュラリティなど)
しかし!
AIに戦争シミュレーションさせると、95%の確率で核戦争に突入する、という今回の研究内容を見ると、悩ましいですねえ、、、。(手塚治虫の火の鳥の未来編では、まんま同じようなストーリーが描かれていて、改めて手塚治虫のすごさを感じる)
ちなみに、現実問題として、アメリカの国防総省は2025年、OpenAI、Google、Anthropic、xAIの4社とそれぞれ約2億ドル規模のAI提供契約を結びました。
そして、国防総省が「あらゆる合法的目的で制限なくAIを使わせろ」と要求したところ、
一方で、OpenAIが「同じような安全制限を技術的に担保する形で」国防総省と機密ネットワーク向け契約締結を発表
もう、SF(サイエンスフィクション)ではなくなりつつあると思います。(今回の攻撃はAIは絡んでるのかな?)
AIの進化は加速度的です。あらゆる計算、検索、運転、処理、思考さえも、人間はあらゆることをAIにお任せするようになりつつあります。そして、軍事(政治)さえもお任せする時代へ??
イーロンマスクは近い将来、AIがすべてのことをやってくれる時代になり、人間は遊んだり、何かを経験するだけの時代がくると言っています。(脱労働の時代)
それはAIおまかせのユートピアのような世界ですが、AIおまかせによるディストピアの世界(核戦争など)にならないことを願います。
どちらに転ぶかを、私たちはただ委ねるしかないのでしょうか。
AIを活用する日常、一方で、戦争が続く世界、戦争とAIが結びつきつつある世界、
いろいろと考えさせられます。
ではでは

イーロンマスク は当初、AIの危険性を感じて、AI開発を一度ストップしようと全世界に呼びかけました。しかし、AI開発の大波を止められるはずもなく、イーロンマスク は仕方なく、大波を止められないなら、その大波に自分が乗り込んで、いい方向に変えようと頑張っているようです。イーロン、すごいなあと思います。一方で、私の中の、トランプ大統領の評価はガタ落ちです。あんなに戦争を嫌っていたトランプはどこにいった?トランプを変えたのは何なんでしょう??
GATA+MUSIC、第5弾音源「Incense」が各サブスクで配信中。たくさん聴いてやってください。
作曲家、小形誠(GATA)によるYouTube channel「GATA+MUSIC」
「GATA+MUSIC」のオフィシャル音源、各サブスクで配信中



