偽装されるネットコンテンツと生成AIの掛け合わせ

先日書いたGoogleマップのクチコミ問題のほか、著名人に偽装したSNS広告問題が話題になっています。

事例として上がってくる代表格は、Facebookや Instagramでの広告。名の知れた経営者や経済ジャーナリストが無断で顔写真を使用され、投資方法を教えるという詐欺広告が増えているとか。

SNSで「有名人詐欺広告」がバンバン表示されるのはなぜ？　プラットフォーマーの対策はどうなっているのか

詐欺広告に使用されたご本人たちも訴えを起こし、メディアでも大きく取り上げられるようになりつつあり、今後の動向が注目されるところです。

今後より恐ろしいと思われるのが、こうした詐欺広告に生成AIが大きく関係してくることかなと。すでに生成AIを使用した画像や映像の生成は一般ユーザーでも使えるようになってきていますが、動画についてはよりそのクオリティや、作り手が作りたいとイメージする映像を手軽に作りやすくなってくるはずです。

そうした時、たとえば詐欺広告であたかも著名人本人が投資について熱心にPRする映像が表示された場合、どこまで真贋を見極められるかはかなり難しくなってくるのではないかなと。

この影響は現在動画コンテンツなどにも及ぶわけで、たとえばYouTubeや TikTokなどで、詐欺とはいかないまでも著名人やインフルエンサーになりすましたコンテンツを第三者が作り上げるということも容易になってくる可能性が出てくるのではと。

そう考えると、動画関係ではライブコンテンツに光明を見出す動きになってくるのかなと思ったりします。動画と違いオンデマンド、ライブのコンテンツの場合はリアルタイムで擬似映像を生成し続けるというのはハードルが高いのではないかなと。

もちろん今でも顔を他者に入れ替えて配信するアプリはあるし、技術的にゆくゆくは違和感のないものになってくるのだと思いますが、静止画広告や動画といったコンテンツに対するユーザーからの信頼性が揺らぎつつあることを考えた場合、情報発信側が生でリアルタイムに発信する情報は、ある程度の信頼性を担保する可能性があるんじゃないかなと。

生、リアルタイム、アナログ、ハードといったものが多少なりとも重視される傾向が出てくるんじゃないかなとちょっと予想してみたりなんだりです。