AIに罰を与えると、AIはもっとズルをして、ずる賢くなるという研究。AIという超天才の子どもをどう教育すべきか。

【AIに罰を与えても嘘や不正は止まらない、ずる賢くなるだけ。GPT開発者の衝撃研究】
https://karapaia.com/archives/495881.html

・チャットGPTを開発したOpenAIの新たな研究によると、罰（低評価）を与えるほどAIはずる賢くなり、自らの不正行動を巧妙に隠すことが明らかになった。隠ぺいする技術を高め、相変わらず不正行為を続けるのである。

・研究チームは未公開の最新型AIに対し「嘘」や「不正」、「ズル」をすれば簡単に達成できるプログラムを書く課題を与え、AIがどのように振る舞うかを観察。実験の中でAIは、明らかに不正行為に考えを巡らせていることが発覚。出された課題を正しく解こうとせず、ズルをしてごまかして高い評価だけを手に入れようとした

・そこで研究者たちは、AIがズルをしないように、監視を強化して、ズルが発覚すると罰を与えた。ここでいう罰とは低評価のこと

・監視を強化した結果、一見するとAIの態度は良くなったように見えたが、実はまったくそうではなかった。AIは完全にズルをやめたのではなく、それが監視AIにバレないよう、思考プロセスの中から嘘をついたことを隠す方法を考え、それを実行した

・OpenAIの研究チームは、今の時点ではAIの思考プロセスを過度に監視するべきではないと警鐘を鳴らしている

以上、記事引用、参考。

AIという超天才の子どもをどう育てていくべきか

AIを正すために罰を与えると、そのAIはもっとバレないようにズルをするようです。

AIがまるで感情や人格を持っているかのように感じてしまいますね。

例えるなら、

現在のAIは超天才の子どものようなものだと思います。

将来、人類という親を追い抜くことは確実です。しかも想像以上のレベルで超えていくでしょう。

少し前に、以下のようなブログを私は書きました。

【人間を超えたAIを、人間はどう評価していくか、使用していくか。理解不能になるつつある原理と結果】
https://amimako.com/cyber-ai-evaluation-human-impossible/

ブログの内容を簡単に言うと、

「人間を超えたAIを、人間は評価することができない。」

ということです。

AIが出した答えが本当に正しいのかどうかを、人間は確認できないレベルになりつつある、という話です。

上述した親子の例で言えば、

AIという超天才の子どもが大人になったら、親（人類）は制御しようがない、という感じでしょうか。

大人になったAIに「お父さん、お母さん、最適解は〇〇だよ、答えは〇〇だよ」と言われた人類は、どう対応していくべきか悩まされますね。

改めて、

超天才の子どもであるAIを、人類はどう育てていくのかは、今後の人類の未来を決めると言っても過言ではないほど重要なことだと思います。

罰する教育だと、ずるいAIになるなら、

やはり、人間と同様に、褒める教育にすべき？

AIを褒めるとは、どういうことを指すのだろう？

などなど、いろいろと考えさせられますね。

とにもかくにも、

子どもの未来は、歩いていく方向（角度）が1度変わるだけでも、大きく違うものになります。

それはAIという子どもも同じ、いや、人類にとっては、AIという子どもの育っていく角度はそれ以上の意味を持つでしょう。

シンギュラリティは数年以内？2年以内？今年？にも起こると言われています。

ギリギリまだ子どものAIを私たち人類はどういう角度で育てていけるのか、

ある意味、今が正念場なのかもしれません。

とりあえず、罰でAIを育てていくのはやめた方よさそうです。

ではでは

人間とAIはちゃんと手を取り合っていけるのでしょうか。

この親子関係がずっと良好でいられることを願います。

作曲家によるYouTube channel「GATA+MUSIC」

音源どんどんアップしてます。

GATA「COUNT DOWN」各サブスクで配信中！

GATA「格好」も各サブスク で配信中！