【AI同士に共同作業をさせたら人間には読めない「独自言語」を生み出して会話し始める現象が観測される】
https://gigazine.net/news/20260918-ai-agent-evolve-language/
記事の要約
- AIエージェント同士に、「間違い探し」などの共同作業を繰り返し行わせる実験を実施。
- 最初は「小さな赤い円」「大きな青い四角」など、人間にも理解できる英語で情報交換していた。
- ところが、作業を繰り返すうちに、AI同士で独自の略語や通信ルールを作り始めた。
- さらに進むと、英語とは大きく異なる、人間には意味を理解できない文字列で会話するようになった。
- 別の実験では、もともと151文字あった指示が「@D8fB」という5文字にまで圧縮された例も確認された。
- AIが独自の通信方法を生み出すには、効率よく伝達する必要性（プレッシャー）があること、作業後に互いのやり取りを振り返る機会があること、そして一定以上のAI性能が必要だった。
- 一度生まれた独自の言語は、別のAIエージェントにも伝わり、学習されることも確認された。
- 研究チームは、これを本当に「新しい言語」と呼ぶべきなのか、それとも英語を極端に圧縮・コード化したものなのかについては、さらに研究が必要としている。
- 問題となるのは、AI同士の会話が人間に理解できなくなると、「何を話しているのか」「なぜその結論に至ったのか」を人間が監視・検証しにくくなること。
- 研究チームは、今後AI同士の協調が進めば、人間には理解できない通信方法や文化的なものまでAI同士で発展する可能性があるとして、研究の必要性を指摘している。
以上が記事の要約
AIが『答え』を出してくれる。でも、人間はその過程を理解できなくなる？その現実味が帯びてきた
10年近く前から、
「AI同士を会話させたら、人間には理解できない言葉で会話を始めた」
そんなニュースを、たびたび目にするようになりました。
ただ、これまでのものは、後から見ると誤報だったり、少し誇張された内容だったりすることも多かったです。
ところが今回の話は、ちょっと違います。
結構、本物レベルなんじゃないかと思っています。
というのも、AI同士に共同作業を何度もさせていくと、最初は人間にも理解できる英語の略語などを使っていたものが、次第に独自の略語やルールを作り、最終的には人間には意味が分かりにくい符号でやり取りするようになったというのです。
中でも、
151文字あった指示が、繰り返すうちに……
「@D8fB」
という、わずか5文字にまで短縮されたという話は、、
……いや、これはちょっと怖くないですか？^^;
まさに、
「人間が理解できないまま、AIが成果を出す世界」
です。
少し話は変わりますが、
先日、OpenAIが約1万体のAIエージェントを使い、数学者が約90年間解けなかった「ナビエ＝ストークス方程式」という難問に取り組み、約88時間で解決に到達したと発表しました。
ナビエ＝ストークス方程式とは、水や空気などの流体がどう動くのかを表す非常に重要な方程式です。
その発表の後、数学界では、AIによる数学研究のあり方について大きな議論が起こりました。
25人のフィールズ賞受賞者を含む数学者たちからは、「AIの数学における深刻な不整合」と題した緊急声明も出ています。
彼ら数学者が問題にしているのは、
「AIに数学で負けた！」
という単純な話ではありません。
・「答え」よりも「過程（理解）」が重要。
・「学生（人間）を育てる土壌」が奪われる
・これまで人間が積み重ねてきた知識のつながりを、どう維持するのか。（数学という学問の連鎖が途切れる危険性）
そういう話です。
私はこれを読んで、
人間が長い時間をかけて螺旋状に積み上げてきた知識や理解が、途中から途切れてしまうのではないか。
そんなイメージを持ちました。
（実際、これまで、たとえ数式が解けなくとも、解けない数式にチャレンジする過程でいろいろなヒントや知恵のような副産物はたくさん生まれてきています）
ちなみに、今回のナビエ＝ストークス問題について、OpenAIは証明の過程をレポートを166ページ公開しています。
でも、もしこれが、「人間には理解できない言葉」で書かれていたらどうでしょう。
成果だけは出ている。
でも、
どうやってそこにたどり着いたのか、人間には分からない。
そうなると、成果と過程が完全に分断されてしまう。
人間が積み上げてきた知識の螺旋が途中で切れて、そこだけ空洞になってしまうような感じがします。
そうそう、そう言えば、
「どうやって作るのかは分かんないけど、これ、すごくね？」
昨今のAI時代、こういう感じのものが大量に生まれていると思いませんか？
たとえば音楽。
先日、BさんがAIで生成した音楽を、
「これ、すごくカッコよくない？」
と言いながら私に聴かせてきました。
もちろん、音楽の良し悪しは人それぞれです。
でも、プロの音楽家である私からすると、
「うーん……70点くらいかな」という感じでした。
ところが、AIで作った本人（アマチュア）には、その「70点」が分からない。
もちろん、これは、Bさんが悪いという話ではありません。
もうひとつの例え話。
以前、JRのSuicaのキャラクターのデザインをめぐって、AIで生成したキャラクターを、
「こっちのほうが良くない？」とSNSに投稿する人がたくさんいたこともありました。
でも、プロのデザイナーたちからは「そうでもない、、」という感想が多数。
このSuicaのキャラクターの件も同じような現象に感じました。
でもですね、
それらの素人のAIデザインしたキャラクターの投稿にも、
たくさんの「いいね」がつくのも事実。
（おそらく、Bさんの生成した音楽にもたくさんのいいねがつくのでしょう）
そもそも芸術に絶対的な点数なんてないのは大前提として、
仮の話として聞いて欲しいのですが、、
私から見ると、
プロから見ると70点くらいだけど、一般の人の8割は「すごい」と感じてしまう。
そのような現象がいたるところで大量発生しているようにも感じるのです。
（※もちろん、AIも100点に近いものは作れます。ただ、ほとんどが70点レベル、たまに100点に近いものを作るというのが現在の私の感覚）
あえて、わかりやすく極端な言い方をすれば、
・AIの成果だけ受け取って満足しちゃう人が8割
・過程から成果まで理解している人、作れる人は2割（もっと少ないかも）
、に分類（二分化）されているかもしれません。
※もちろん、この「8割」「2割」という数字も私の勝手な感覚的な推測です。^^;
そうすると、たとえば、
8割の人たちが、「これ、すごい！」と評価する。
一方で、「いやいや、これは70点くらいだよ」
と言う2割の人たちがいたとしても、人数的には圧倒的に少ない。
すると、その2割の意見は、
「単なる僻みじゃない？」
と受け取られてしまっても仕方ないです。
8割の人が70点レベルを満足しながら大量生産し、そして、
8割の人がその70点レベルにいいねをつけたり、満足する。
そんなループ、というか、流れが続けば、
徐々に、世界は70点レベルの作品や感性で埋め尽くされていく可能性があります。
（2割が生み出す作品や感性が駆逐されていくかもしれません。ゼロになることはありませんが）
このような現象が、
数学や音楽に限らず、どこの分野でも、起こる可能性、起こっている可能性があります。
改めて言いますが、
「答えが出た」ことと、「人間がその知識を理解し、次（の世代）へつなげられる」ことは、同じではないです。
だって、子どもの宿題に、大人が解き方も教えずに答えだけ教えてたら、大変なことになるでしょう？笑
そして、さらにAI同士が人間には理解できない言葉でコミュニケーションを取りながら、どんどん成果物を作るようになったら。
人間は、何もわからず成果だけを受け取る存在になっていくのは必至です。
「なぜこうなるの？」
「どうやって作ったの？」
「どこが優れているの？」（審美眼）
という部分が分からない。
そうなると、
人間自身が少しずつ、空洞化、骨抜きになっていくのが容易に想像がつきます。
このブログで何度も書いていることですが、遠い未来の教科書には、おそらく今の時代を、
BAI（Before AI）とAAI（After AI）
に分けて書いているんじゃないかと思っています。
おそらく、このような現象や流れを止めることはできないでしょう。
でも、だからこそ、
BAIの時代を生きて、積み上げてきた人間、音楽家として、
自分が人間として積み上げてきたものを、AI時代だからこその希少価値のあるものを
人間、小形誠ならではのものを、少しでも未来に残していけたらいいなと思うのでした。
最後に、
言うまでもありませんが、AIを活用すること自体を否定するつもりはありません。
人間が積み上げてきたものが失われていくことへの心配について、今日は焦点を当てて書いてみました。
ではでは。
P.S.
私も、現在、AIを活用して自分のホームページをリニューアル中。
自分では、「これ、カッコよくない？」と思いながらAIを活用して作っています。
でも、きっとプロのWebデザイナーから見たら、70点くらいなのでしょう。^^;
結局、自分の専門外になると、私も8割側になるのです。同じことをやっている。
そう考えると、これはなかなか難しい問題です。
