偽動画作成 生成AIで簡単に 政治広告など 規制の動きも(2023年11月11日)

 AI(人工知能)を活用して作られた岸田総理の偽動画がSNSで拡散した波紋が広がっています。今や簡単にできるという偽動画作成のプロセスを取材しました。

■偽動画作成 生成AIで簡単に

 日進月歩のAI技術。所村アナでフェイク動画を作ってもらいました。最初に声をAIに学習させます。そして、音声を合わせる動画を撮影。言わせたい文言を入力し、映像と合成していきます。ここまで1時間ほど。完成です。

 身体の動きがないなど違和感はありますが、そうした部分も修正できるといいます。本物かフェイクか、見極め方は…。

 サンエイト 竹内亢一代表取締役:「言葉と口が本当に合っているかをちゃんと見ればずれているし、しゃべっている時の目の動きとか、今のAIだとまだ不自然に動く。これが1年後、3年後だったら、僕らでも見分けられなくなる」

■政治広告など 規制の動きも

 こうした技術はやはり悪用されるもので…。日本テレビは「放送、番組ロゴをこのようなフェイク動画に悪用されたことは、到底許すことはできません。フェイク動画について今後も必要に応じてしかるべき対応をして参ります」とコメントしています。

 アメリカでもひと騒動ありました。フェイク動画を見たバイデン大統領は…。

 バイデン大統領:「そんなこと言ったっけ?」

 この後、AIの規制に関する大統領令に署名。大統領選を控えるなか、フェイスブックは政治的な広告に生成AIを使った場合は表示を義務付けると発表しました。

 “どう規制するのか”が各国の課題となっています。
[テレ朝news] https://news.tv-asahi.co.jp