動画生成AI「Sora」がすごい！国レベル、個人レベルのディープフェイクとの向き合い方。

【米国防総省、ディープフェイク検出に240万ドル　新興企業と契約】
https://www.technologyreview.jp/s/351184/the-us-department-of-defense-is-investing-in-deepfake-detection/

・ディープフェイクは今や、国家安全保障にとって深刻な脅威となっている。米国防総省（DOD）はディープフェイクの検出と影響力をテストするために、スタートアップ企業のハイブAIと2年間で240万ドル相当の契約を結んだ

・「ハイブAIの技術は、ほとんどの企業の技術や私たちが試したいくつかの研究技術よりも優れているのは確かです。しかし、検出を回避するのが困難ではないことも明らかになりました」と指摘する教授もいる

以上、記事引用参考

国レベル、個人レベルのディープフェイクとの向き合い方。

前回同様、AIの話題で、すみません^^;

ただ、日進月歩の業界なのでね。。

先日、OpenAIの動画生成AI「Sora」が正式にリリースされました。

【OpenAIが動画生成AI】を正式にリリース、ChatGPT Plus・Proプランで利用可能
https://gigazine.net/news/20241210-openai-sora/

どんな感じにすごいかは、海外のYouTubeのこちらの動画を見てもらえればわかると思います。

この動画の12分あたりの、AI生成されたニュース映像なんて、本当、本物のニュースと区別がつきません。

芸術系の生成AIもやばいですが、ニュースの生成AIはよりやばいというか、深刻な問題に感じます。

上記の記事のように、

アメリカがディープフェイク対策（検出）に予算をかけるのも納得です。

（ディープフェイクによって事実関係を見誤ると、国としては致命的ですからね）

こういう話題を読んでいると、日本は大丈夫かなと心配になります。

しかし、残念ながら、

日本政府のデジタル庁など、日本国民の個人情報を扱う政府系のクラウド（サーバー）の多くをアメリカのアマゾンに託している時点で、日本の「AIを含めたデジタル、サイバー系」の危機感や対策は期待できないというのが、私の日本政府に対する印象です。。

【政府系クラウドに初の日本企業、「国産」導入に期待⋯顧客である自治体採用が関門】
https://www.yomiuri.co.jp/politics/20231128-OYT1T50182/

話が少しそれましたが、

とにもかくにも、

「Sora」が生成するようなハイレベルなディープフェイクによって、よりいっそう、何が本当で何がフェイクかわかりづらい世の中（ネット世界）になりそうです。

前のブログでも書きましたが、AI生成物に「これはAIが生成したものです」というラベルをどこまで義務付けるのかどうかが、今後のひとつの大きなポイントだと思います。（「Sora」は使用プランによってはラベルが入るようですが）

あと、私の妄想ですが、

今後、自分自身の行動を24時間記録（動画）、証明するようなサービスが出てくるのではないかと考えています。

（最終的には人体に埋め込むような生体記録）

だって、もしも、本物と区別がつかないようなディープフェイクで、自分が悪さをしている動画を生成、拡散されたら、どうしますか？どうやって反証しますか？

そのように、ディープフェイクでいくらでも人を貶めることも可能ですからね。特に、政治家や有名人には、24時間記録サービスは必要になってくるのではないでしょうか。（そのようなサービスがまだないなら、ビジネスチャンス？まだ零細企業なら株でも買っとくか。笑）

以上、

すごい技術が出てくる度に、妄想が爆発する私なのでした。

ではでは

Soraによって生成された、1980年代の原宿、たけのこ族の動画です。多少、違和感はありますが、すごいクオリティです。ゆくゆくは本当に本物と区別がつかなくなるでしょう。

あと、イギリス・EU・中国ではSoraが利用できなという点も、少し気になります。

丸井産業さんのTVCMの音楽と企業サウンドロゴを制作しました。

作曲家によるYouTube channel「GATA+MUSIC」

音源どんどんアップしてます。