生成ＡＩとみられる女性の「扇情動画」乱立　再生回数稼ぎ、収益目的も背景か

産経新聞　3/16(土) 19:21　配信

https://news.yahoo.co.jp/articles/48f4cd2cc1df2bfe3b6ef03ea06c7c85a3025b8d

生成AIによって作成・加工された可能性の高い女性の動画がユーチューブに公開され、一部で拡散されたが、投稿したアカウントは停止されている。

このようなディープフェイク動画は性的なコンテンツや広告収入を稼ぐ手段として悪用されている。

ユーチューブもこの問題に取り組み、生成AIで作成された動画は特定されるようになった。

今後、生成AIによる動画の規制基準が整備される必要性が議論されている。

（要約）

ユーチューブに公開された生成ＡＩで作成・加工されたとみられる女性の動画。投稿したアカウントは現在停止されている 

生成人工知能（ＡＩ）によって作成・加工されたとみられる若い女性の扇情的な動画が、交流サイト（ＳＮＳ）上などで拡散されている。一見しただけでは生身に見えるほど精緻で、再生回数が数百万回に達するものも。より性的に過激な動画へ誘導するものもあり、専門家は「アクセスを稼いで収益をあげる仕組みが確立されていることが背景にある」と指摘する。 

【写真】生成ＡＩによって作成された「AIタレント」 

■「ミス東大」 

モデルのような容姿の若い女性が、画面を向きながら公園や屋外を１人で歩く数分の動画。ＳＮＳのインスタグラムや動画投稿サイトのユーチューブなどに昨年から登場した、あるアカウントから投稿されたものだ。 

「ノーブラ散歩」などの刺激的なタイトルがつけられ、プロフィル欄には東京大学の理系学生をうたい「ミス東大」を目指すなどと記載。他にも、服を着た状態で下着を脱ぐ様子を見せたりする動画が十数本投稿され、登録者は瞬く間に数万人に達した。 

ただ、東京大広報課はこの人物について「認知しておりません」と回答。この動画を投稿したユーチューブのアカウントは現在、停止されている。 

投稿された動画について、国立情報学研究所の越前功教授は「影や動きが非常に高精度で自然に見えるが、横顔になる部分が切り取られていたり（別の物体が）顔を遮る場面がなかったりするものも多い。生成ＡＩで作成された『ディープフェイク』の可能性がある」と指摘する。 

インターネット上には、これ以外にも「ミス東大出場予定」と記載した女性の動画がアップされるなどしており、生成ＡＩで作成された可能性のある同種の投稿は後を絶たない。 

■「稼ぐツール」に 

ネットで生成ＡＩ動画の作り方を検索すると、解説するユーチューブ動画が無数にヒット。動画の作成方法が「教材」として販売されているケースもある。 

東京工業大の笹原和俊准教授（計算社会科学）は、生成ＡＩ動画の広がりについて「技術の浸透や作成方法を分かりやすく簡単に教えてくれるノウハウがあることが理由。今の環境なら素人でも数分で作れる」と話す。 

その上で、動画投稿サイトやＳＮＳに、再生回数や登録者数に応じて広告収入が投稿者に還元される仕組みがあることから「ディープフェイクを用いて稼ぐ仕組みができている」とする。 

こうした動画の投稿者の中には、アカウント上に別のサイトのリンクを掲載し、有料会員になればより性的に過激な動画を閲覧できるページへと誘導するものもある。笹原氏は「ディープフェイクポルノが大量生産されるようになれば、公序良俗の面で問題になる」と危惧する。 

ユーチューブは昨年１１月、生成ＡＩで作成された動画を投稿する場合、画面上で明記することを投稿者に今後義務付けると発表。プラットフォーム側も生成ＡＩのリスク対策に動きはじめた。 

笹原氏は、生成ＡＩを巡る状況について「表現の自由もあり規制は難しいが、拡散を抑制する仕組みが必要。今後はコンテンツそのものを見るのではなく、信頼できるアカウントか、どのように載せているかを見ることも大事だ」としている。 

■「動画規制の基準作りを」 

精巧化する生成ＡＩ動画。インターネットの悪用を防ぐため活動する団体の関係者は、規制する際の基準作りの必要性を指摘する。 

「近い将来、人間か生成ＡＩによるものか、判断がつかなくなる恐れがある」。ネット上の違法投稿を確認、通報などを行っている「セーファーインターネット協会」（東京都渋谷区）の中嶋辰弥事務局長は、警戒感を示す。 

同協会は法律に基づきガイドラインを策定。成人の性的な動画などであれば、実在の人物か生成ＡＩによるものかは関係なく「性器が明らかに確認できるもの」が通報対象となるという。 

ただ、登場する人物が未成年だった場合、児童ポルノに該当するかは現在の規定だと「実在する人物」であることが要件。実物か生成ＡＩによるものかの判別が難しく、捜査や削除が困難になる恐れもある。 

中嶋氏は「（ネット上の性的な動画などを）規制する際、『何が違法であるべきか』を議論する必要がある」と話した。（梶原龍） 

（まとめ） 

コメントの中には、AIによる生成コンテンツが進化しているが、その悪用や問題点が指摘されている意見が多い。

特に、倫理的な問題や現実との区別がつかなくなる可能性に対する懸念が多く見られた。

一方で、生成AIがエンターテイメント業界に革新をもたらす可能性や、ニーズに対応する効果も期待される意見もあった。

保護法益の問題や人権の観点からの考察もあり、今後の技術の進展や社会の変化に対する不安や期待が対立する意見が複数存在していることがわかる。

・大半はまだAIだとわかります。通常の動画に顔だけ置き換えただけとかもありますけど。 

AI特有の感じ。 

でもすぐに本当に見分けがつかないクオリティになるかなと。 

結局、悪用が多発すれば世界的に禁止か、かなり制限がされる状況になるかなと思うし、犯罪ではなくともSNSやYouTubeなどもAIばかりになると信頼性が失せて離脱に繋がって過疎る可能性もある。 

動画もイラストも文章だけで生成されるから言葉悪いけどバカでも作れるのでそんなのが増殖してしまうとちゃんと作ってる動画にヒットしなくなる影響がある。 

これは映画や音楽も同様で、「人が作った」という事実と背景に人は感動や価値観を得るので「誰でも文章だけで数分で作れる」ものには興味はなくなります。努力なく自分でも出来ることだから。 

ただAIそのものは非常に利便性はあるので役に立つ。でもそれで儲け狙いで大量に溢れさせて汚せば淘汰すると思う。 

・AIでつくられたものはなかなか判別が難しいレベルまで進化してしまった。でも今までも加工してきれいに魅せることはなんの問題もなく行われてきた。加工しすぎて別人のような人もいるのではないかな？とにかくSNSできれいな人は疑ってかかるしかないようですね。もう幻想の世界に一喜一憂しているのが馬鹿らしくなることが正解なのかもしれません。 

・生身の女優が許可なく無修正動画を配信された。とか契約トラブルとか色々問題がでているから、AIセケシー女優ってのはいいんじゃないか？ 

逆に日本人のプロポーションでは、物足りなさを感じるからAI女優は歓迎かも。 

自分はエロければ漫画でも3Dでも実写でも問題にしない。 

理想の顔立ち・理想のプロポーション最高じゃん 

・AV新法で制作会社は多大なリスクを孕むようになりました。であればAIで生成すればリスクを回避でき、かつ多種多様なニーズに対応できるようになります。恐らくそちらにシフトするでしょう。 

現時点で何を問題視しているのかよくわかりませんが、3大欲求を拠り所とする産業を完全に統制することは事実上難しいでしょう。 

・「ただ、登場する人物が未成年だった場合、児童ポルノに該当するかは現在の規定だと「実在する生身の人物」であることが要件。実物か生成ＡＩによるものかの判別が難しく、捜査や削除が困難になる恐れもある。」 

なんでだろう…これがフリにしかみえない… 

心が汚れているからかな… 

・タイミングよく押すと際どい水着になる動画が何故か定期的におすすめに出てくる 

あれもAIで作ってるんだろうな 

誰のインスタが関連とされてるのか不思議 

・商魂たくましい連中は本当沢山いる。ヤフオクではAI生成のタペストリーやポスターの出品が多数。売り切れ表示もチラホラあるので儲かるんだろうな。そのうち、どこもかしこもAIだらけになるかもね。広告でも見かけるようになってきたし(顔はアジア人だけどあっち系なので今はまだ判別出来る) 

・VTuberなんかも普通になってきてるし、普通に生成AIですって言って動画を公開しても、気にせずにみる人は多いと思うけどな。 

・SNSでAIグラビアなどに成人男性が「会いたい」とかその他気持ち悪いコメント残してたりするが、あれはAIって分かってんだろうか、それとも実在の人物だとでも思ってるのだろうか 

・ビデオが普及したのもアダルトものが牽引した。生成AIも同じでそちらのニーズにお金が集まり、広がるんでしょう。今のVRゴーグルだってそうでしょ。 

・そもそも保護法益が何かって根本的な問題になりますね。憲法が価値相対主義に基づいてるから、国が健全な風俗を定義するのには無理がある。 

・もはや生身と生成ＡIの区別がつかない 

これからはポルノなど様々な生成が出てきそう 

生身じゃないからなんでもありになりそうで 

どうなることやら。。 

・単に、女性が分かりやすいから言うのではなく、人種差別もそうだけど、日本では部落差別とかにも使われることにも、批判するのかね。 

・全世界で生成ＡＩ禁止なんて無理だから、すでに手遅れでしょう。 

今後生成ＡＩの氾濫で、どれが生身の人間か区別がつかなくなるでしょう。 

・既得権を持っている連中は大反対するだろうなあ。 

だって、こんなのがのさばったら稼げない人たちが出てくるから。 

芸能事務所とか。 

色々と難癖付けて、 

「生成AIによるタレントは許すべきではない」 

とかいう道徳を作り出すんだろうな。 

・ガイドラインや法制度を整備しないと、収益だけでなく、犯罪目的に悪用されてしまう。 

・やっぱり技術の発展は戦争、金儲け、性欲に傾いた時に大きく進む気がする。 

バーチャルキャバクラ、ホストが出るまであと少しかなぁ 

・AIで生み出された人物には人権は設定されていないだろうから、好き放題にされるんだろうな。 

・いいんじゃないこういうのなら　実在しないと収益剥奪っておかしくない　偽でも技術は本物何だし 

・なんだろう、生身の人間のオーラが感じられない、表情が死んでる感じ、AIの限界かな。 

・生成AI美女はそつのない美女なのですぐわかる。人間のよさはそつにある 

・もう商利用を目的としたAI生成は国で規制するべき 

・これでも生成AIを推奨するのかな 

日本も終わりだな 

・ついに夢が叶った 

・なぎさぁぁぁぁ 

・大谷の奥さんもこれだよ 

・大体の新しい文化ってエロから始まる。 

ディープフェイクでAVが作れるようになると次は本格的な映画に発展する。 

人間が一人も出演しないディープフェイクだけの映画。アニメとも実写とも別の新しい表現手法。 

俳優のいらない実写のような映画が近い将来誕生する。 

・そのうちAVは生成AIに席巻されるのかもね 

一気に価格破壊がすすみそう 

これでChatAIが更に進化して普通に会話できるようになると、嫁がPCから出てこない世界が本物になるのか 

・まあ人間がやりたがらない仕事を代替してくれる方向ならむしろいいんじゃないのかとすら思います。無理矢理AV出演のような犯罪も減っていくことでしょう 

・どう見てもCGにしか見えない。 

生成AIの作る人間の特徴 

顔や表情に生気がない、皮膚があまりにつるつるでのっぺりしてる。 

こんなのでヌケるやつの気が知れない。 

・AV女優も顔も身体もイジりすぎて人造人間だから…もうAIで良いよ。 

・あらゆる技術や商品はエロにより発展してきたのだから仕方がない 

・時間が大量に余ってるニートが必至で金稼ぎしてる市場だからナ。 

今後爆発的に増えてくるでしょ。 

変な時代ｗｗｗ 

・こんなので興奮してる層ってマヌケだなー 

これ系の垢にキモコメいっぱいついてるし。 

・結局エロが一番儲かるということか。 

・ゆっっ○りなの事か