生成AIによって作成・加工された可能性の高い女性の動画がユーチューブに公開され、一部で拡散されたが、投稿したアカウントは停止されている。

このようなディープフェイク動画は性的なコンテンツや広告収入を稼ぐ手段として悪用されている。

ユーチューブもこの問題に取り組み、生成AIで作成された動画は特定されるようになった。

今後、生成AIによる動画の規制基準が整備される必要性が議論されている。

（要約）

ユーチューブに公開された生成ＡＩで作成・加工されたとみられる女性の動画。投稿したアカウントは現在停止されている 

生成人工知能（ＡＩ）によって作成・加工されたとみられる若い女性の扇情的な動画が、交流サイト（ＳＮＳ）上などで拡散されている。一見しただけでは生身に見えるほど精緻で、再生回数が数百万回に達するものも。より性的に過激な動画へ誘導するものもあり、専門家は「アクセスを稼いで収益をあげる仕組みが確立されていることが背景にある」と指摘する。 

【写真】生成ＡＩによって作成された「AIタレント」 

■「ミス東大」 

モデルのような容姿の若い女性が、画面を向きながら公園や屋外を１人で歩く数分の動画。ＳＮＳのインスタグラムや動画投稿サイトのユーチューブなどに昨年から登場した、あるアカウントから投稿されたものだ。 

「ノーブラ散歩」などの刺激的なタイトルがつけられ、プロフィル欄には東京大学の理系学生をうたい「ミス東大」を目指すなどと記載。他にも、服を着た状態で下着を脱ぐ様子を見せたりする動画が十数本投稿され、登録者は瞬く間に数万人に達した。 

ただ、東京大広報課はこの人物について「認知しておりません」と回答。この動画を投稿したユーチューブのアカウントは現在、停止されている。 

投稿された動画について、国立情報学研究所の越前功教授は「影や動きが非常に高精度で自然に見えるが、横顔になる部分が切り取られていたり（別の物体が）顔を遮る場面がなかったりするものも多い。生成ＡＩで作成された『ディープフェイク』の可能性がある」と指摘する。 

インターネット上には、これ以外にも「ミス東大出場予定」と記載した女性の動画がアップされるなどしており、生成ＡＩで作成された可能性のある同種の投稿は後を絶たない。 

■「稼ぐツール」に 

ネットで生成ＡＩ動画の作り方を検索すると、解説するユーチューブ動画が無数にヒット。動画の作成方法が「教材」として販売されているケースもある。 

東京工業大の笹原和俊准教授（計算社会科学）は、生成ＡＩ動画の広がりについて「技術の浸透や作成方法を分かりやすく簡単に教えてくれるノウハウがあることが理由。今の環境なら素人でも数分で作れる」と話す。 

その上で、動画投稿サイトやＳＮＳに、再生回数や登録者数に応じて広告収入が投稿者に還元される仕組みがあることから「ディープフェイクを用いて稼ぐ仕組みができている」とする。 

こうした動画の投稿者の中には、アカウント上に別のサイトのリンクを掲載し、有料会員になればより性的に過激な動画を閲覧できるページへと誘導するものもある。笹原氏は「ディープフェイクポルノが大量生産されるようになれば、公序良俗の面で問題になる」と危惧する。 

ユーチューブは昨年１１月、生成ＡＩで作成された動画を投稿する場合、画面上で明記することを投稿者に今後義務付けると発表。プラットフォーム側も生成ＡＩのリスク対策に動きはじめた。 

笹原氏は、生成ＡＩを巡る状況について「表現の自由もあり規制は難しいが、拡散を抑制する仕組みが必要。今後はコンテンツそのものを見るのではなく、信頼できるアカウントか、どのように載せているかを見ることも大事だ」としている。 

■「動画規制の基準作りを」 

精巧化する生成ＡＩ動画。インターネットの悪用を防ぐため活動する団体の関係者は、規制する際の基準作りの必要性を指摘する。 

「近い将来、人間か生成ＡＩによるものか、判断がつかなくなる恐れがある」。ネット上の違法投稿を確認、通報などを行っている「セーファーインターネット協会」（東京都渋谷区）の中嶋辰弥事務局長は、警戒感を示す。 

同協会は法律に基づきガイドラインを策定。成人の性的な動画などであれば、実在の人物か生成ＡＩによるものかは関係なく「性器が明らかに確認できるもの」が通報対象となるという。 

ただ、登場する人物が未成年だった場合、児童ポルノに該当するかは現在の規定だと「実在する人物」であることが要件。実物か生成ＡＩによるものかの判別が難しく、捜査や削除が困難になる恐れもある。 

中嶋氏は「（ネット上の性的な動画などを）規制する際、『何が違法であるべきか』を議論する必要がある」と話した。（梶原龍）