人間を超えたAIを、人間はどう評価していくか、使用していくか。理解不能になりつつある原理と結果

【AIモデルが爆速で賢くなっているのでテスト方法が追いついていない】
https://gigazine.net/news/20241226-ai-getting-smarter-test-threatening/

・近年、医療や科学などさまざまな分野に応用できるAIが増えており、人間を上回る能力を発揮するものも少なくない。こうしたAIの実力は性能を定量化する評価試験で測られているが、評価試験を作る速度がAIの進歩に追いついていない

・加えて、評価試験はAIの基礎的な能力を測るだけなので、現実的なシナリオで評価通りの実力を発揮できるのかという疑問もある

・AIモデルの急速な進歩に伴い、評価もそれに追いつこうと競争しているが、効果的な評価試験を設計するのは依然として困難で、コストがかかり、危険な能力を早期に発見するという評価試験の重要性に比べて資金が不足している。主要な研究所が数カ月ごとに高性能なモデルを発表する中、モデルの能力を評価するための新しいテストの必要性はかつてないほど高まっている

以上、記事引用参考

人間を超えたAIをどう評価していくか、使用していくか。理解不能になりつつある原理と結果

昔、こんなブログを書いたことを思い出しました。

【ノーベル賞クラスの実験を人工知能がたったの1時間で再現。しかも人間に考えられぬ方法で。。】
https://amimako.com/%e3%

人間の能力を超えるケースは今では珍しくありませんし、そっちのケースの方が多いかもしれませんね。

上の記事では、「AIがものすごいスピードで進化していて、それをテストする方法、評価する方法が追いつかない」と言っていますが、

そもそも、人間を超えたAIを、人間は評価することができるのか？とも思ってしまいます。

初期のAIに、足し算とか、簡単な計算をさせていた時は、AIが導き出した答えについて、人間は答え合わせができました。評価できました。なぜなら、答えを知っているから。

しかし、

たとえば、

円周率の0.1の100000000兆個目の数字は3です。とか、現在知りうる情報から計算できる宇宙の大きさは〇〇みたいなことをAIに導き出されても、評価する側の人間は困っちゃいますよね。^^;

シンギュラリティのように、

今後、人間をよりいっそう超越したAIが導き出したものについて、人間はどう評価して、向き合っていくべきかは本当に考えないといけない問題だと思います。（現段階で、AIの評価方法が追いついていないわけですし）

これまで、人間は、飛行機がなんで飛べるのかなど、どういう原理でこうなるのかをわかっていなくても、その結果（現象）をうまく利用し、活用してきました。

ただ、しかし、

ツールはツールでも、AIは飛行機などのツールとは次元が違うような気がします。

「どういう原理でこうなるかわからない」はもちろん、

人間は、AIが導き出した結果までも、評価（理解）できない可能性があるわけです。

こういうことを考えると、

なかなか危険なレールの上を、人間は進み出している気がするのは私だけでしょうか。

もちろん、AIからの恩恵はとてつもなく大きいです。AIを否定するわけではありません。

上記したような、AIと人間の関係性が心配というお話です。

原理もわからん、結果もわからん、という状態になってしまえば、

人間がわけがわからないうちに、大変なことになっている可能性もあるでしょう。

これらの問題について、具体的にどうすればいいのかという案は、素人の私にはありませんが、

まずは、こういう問題もあるということを、多くの人が知るということが大事だと思います。

このことを多くの人が知っていけば、わかっていけば、「わけがわからないうちに大変なことになる」ということへの、ひとつの防御壁にはなるでしょうから。

ではでは

そもそも、日常生活の私たちだって、パソコンやスマホ、車や電子レンジなど、どういう原理で動いているのかわからずに、多くのものを使用しています。このように、私たちは結果（現象）だけを利用しているのですが、その結果さえも評価不能、理解不能になることはとても怖いと思います。

作曲家によるYouTube channel「GATA+MUSIC」

音源どんどんアップしてます。