( 176697 ) 2024/06/02 15:04:02 2 00 実在児童に酷似した性的画像、生成AIで作成か…ネット上で追加学習用データを売買読売新聞オンライン 6/2(日) 5:00 配信 https://news.yahoo.co.jp/articles/983d54334edd721f1e31f0443bdcd7a30db9e7b6 |
( 176700 ) 2024/06/02 15:04:02 0 00 (写真:読売新聞)
画像生成AI(人工知能)で、実在の児童に酷似した画像を生成できる追加学習用データが、ネット上で売買されていることがわかった。過去に日本で活動した児童タレントの追加データもあり、追加データで作ったとみられる児童タレントに酷似した性的画像が別のサイトで販売されていた。日本の児童買春・児童ポルノ禁止法で規制することは困難とみられ、専門家は法整備の必要性を訴えている。
【図解】ひと目で分かる…生成AIによる性的画像で実在児童が被害を受ける構図
画像生成AIは、膨大な画像データを学習し、文章で指示を受けただけで、写真のような精巧な画像を生成する。特定の人物名を入力するだけでは酷似した画像を生成することは難しいが、一部の画像生成AIは、その人物の画像数十点を基に作った追加データを学習させれば、酷似した画像を生成できる仕組みになっている。追加データは「LoRAファイル」などと呼ばれ、こうした手法は「ファインチューニング(微調整)」と呼ばれる。
読売新聞は、過去に国内外で活動した複数の児童タレントの追加データを販売している英語のサイトを確認。サイト上では説明文に実在のタレント名が記され、1点あたり暗号資産で3ドル相当で取引されていた。成人の女性のデータもあった。
追加データが販売されていた日本の児童タレントと酷似した性的画像は、別の日本語サイトで数百円で販売されていた。AIで製造したと記され、複数の専門家によると、画像の特徴から、追加データで生成したとみられる。
画像生成AIは、大量の画像を短時間で生成でき、ポーズや表情を自由に設定できる。児童だけでなく、成人を含めて、実在の人物の追加データが流通すれば、酷似した性的画像が大量に拡散する恐れがある。
法務省によると、児童ポルノ禁止法は、被害児童が実在していることが適用の要件とされる。判例では、コンピューターで製造したものでも、特定の実在児童に見えるように描写した場合は規制対象となる。しかし、複数の専門家によると、顔以外に体の特徴なども酷似していないと対象にはならない可能性があり、AIによる性的画像が規制できるかどうかは不透明だ。
ネット上の表現を巡る問題に詳しい元裁判官の長瀬貴志・金沢大教授の話「生成AIと追加データが悪用され、児童の権利が侵害されている実態が明らかになった。水面下で被害が拡大している恐れがある。現行法が想定していない事態で、AIによる児童の性的画像の規制について、法整備を検討する必要がある」
|
( 176701 ) 2024/06/02 15:04:02 0 00 ・問題になるのは児童だけではない。大人の女性も、やがては男性もターゲットになるだろうな。ポルノという形だけではなく、冤罪や不名誉な行為の証拠写真として、嫌がらせ目的に使われる未来が容易に想像できる。それが一般に認知されてしまえばまだマシだが、それまでの過渡期は、本当に本人なんだと信じられて、すごい被害を被るんだろうな。いよいよ人間がコンピューターに圧倒される未来が来たな。
・性的なAI作成画像を自分で楽しむのは自由だけど、それを販売したりネットで流したりするのはダメでしょう。しかし、今のAIは凄いですよね。特に医療の画像診断に使われる様になったのは、人による見逃しなどが軽減されて良い事です。良い事に使って欲しいですね。
・この問題の本質は児童かどうかではなく所謂フェイク画像の問題です。 ですので児童ポルノ禁止法などではなく名誉毀損や肖像権、パブリシティ権での対応となるはずです。 言ってみれば昔からあるコラージュ画像と同じ類の問題です。 生成AIによって品質は劇的に上がってますが本質は変わりません。
・この技術を使えば有名なアイドル、タレント、モデル、女子アナなどの超リアルなAVを作ることも可能で、今後それらを作成販売する人が次から次へと出てきそう。一度でもネットにアップされれば消すことはほぼ不可能なので、罰則を懲役数十年、罰金を億単位にでもしない限りこの手の犯罪に歯止めがかからないのではないか。
・違法の児童ポルノだけでなく、なりすまし詐欺にも悪用されると思います。
パスポート、運転免許証、マイナカード、なりすまし偽造天国の中国は日本がターゲットです。 生成AIを使えば精度の高い偽カードが作れるので、勝手にスマホ機種変更され、高額商品を買われる可能性があります。
・もうこれ、すでに色んな場所で散見されますよね。 辞書系のサイトを見ると大量に貼り付けられている下世話なPR画像。首から上が女優さんそっくりなことがままある。 今はまだアラが目立つけど、これから本当に見分けがつかなくなると思う。ただでさえポルノ産業が活性化している日本なだけに規制をしっかりかけないと大変なことになる。問題点がよくわからない人は、自分の娘息子に置き換えて考えてみればいい。
・画像は見た訳ではないですが、おそらく似ていると言ってもほぼ本人と見分けはつかないような気がします。やられた本人はたまったもんじゃないです。身に覚えがないのに‥これが世に出回る前に規制しないと、でもイタチごっこになりそうな気もします。
・本質的には、児童に限った話ではなく、実在の人物に酷似したフェイク画像全般にどう制限を掛けるかという問題です。技術を導入する前から分かっていたことで、何年も前に検討しておくべきことだったと思います。今頃騒ぎ出すのはむしろ恥ずかしいです。
・今後は写真に気軽に写ることもやめた方が良く、作品も撮影禁止現物のみ公開になるかもね。 ネットに写真や画像をアップロードしただけで、勝手に学習されていたということ、事前にみんな念頭においてなかったよね?作家さんたちなんかクリエイティブな仕事も自分たちが作り上げた作品を学習されて奪われて。 利用する側には優しい時代。自分たちの価値や権利は予防的に守っていくしかないよね。
・今後ますます様々な技術が進歩していくことが想定され、法整備や規制が追いつかないまま被害が拡大する可能性が高い。あくまでも生成AIはその内のひとつに過ぎない。 個人的には、法整備を行うことで性犯罪者予備軍にいる人たちが犯罪に手を染めるのを防ぐ効果があると思っている。被害者を守るだけでなく、抑止力としての法整備も同時に期待している。
・前々から思うに、人工知能と呼ぶなら、自ら素材やコマンドされた情報から判断して、指示通り作って良いものなのかどうかまで判断出来る様にならないと、ただの自動生成機能の進歩。よくSFとかで意思をもったロボットとか出てきて、主の命令にそれは倫理に違反する行為で実行出来ませんみたいなシーンなどあるが、そこまでの技術になって初めて人工知能と言えると思う。いずれにせよ、今はまだまだ過渡期で黒子が後で操っている様な感じで、使い方次第で倫理的問題が起きる様では、まだまだ人間を越える様な時代とは程遠いだろう。
・何がAIで一番の問題かですが、素人が考えても直ぐに思いつく問題のあるの使い方を、AI技術を出す前に検討や対策を全く本当にまっったくしていないことが一番の問題です。
過去の事例や法的に問題なければ「ナイフや車に罪はない。ナイフや車が、人を傷つけるわけではないから製造者に罪はない」と、理論をすぐに振りかざす人がいますが、銃刀法や道路交通法があります。
つまり、法律を作らなければならないほど、危険な使い方ができる開発は予め対策を考えて世に出すモラルは必要なのです。
しかし、残念ながら儲けが先行しています。裏金問題の議論は大切ですが、もっと国会で至急を要する審議は山のようにありますよ。岸田さん
・これはまた人間の知性が問われていると思いますね。こういったツールを違法にするのは間違っています。
昔、画像にモザイクを掛けたり外したりするツールが裁判になったこともありましたが、今となっては知性に欠けたくだらない裁判だと思われているでしょう。
ツールが問題なのではなく、生成したデータを流布することが問題です。ここを間違えてはいけないと思います。
・最近、YouTubeで子を配信する親が増えたけど、後悔ない様に、本当によく考えてほしい。前例がないだけに、何が起こりるか知れない。彼らが成人する頃「親に勝手に晒されたせいで…」「稼いだ金を貯金してくれていなかった。結局、だしにされたんだ」などが、ないとは言えない。親自身が料理やドライブなどの趣味を配信する分には一向に構わない。親の人生、好きにしたら良い。けれども、子どもの成長記録は、子ども自身の、かけがえのない宝物。まだ判断ができない年頃のを「本人は喜んでいる」と勝手な憶測で正当性バイアスを働かせる親が、自分は理解できない。
・音楽やアートなどの著作権の侵害ですら、認められるためのハードルが高いのに、膨大な量のデータを食わせたAIは元データに辿り着くことが困難な気がします。「他人の空似」で言い逃れられたときにどうやって証明できるんでしょう。教
こういうリスクの部分を関節定年に説明しないと、国民は知らず知らずにAiに養分を与え続けてしまうことになります。
こういう酷似しているものであれば、分かりやすく取り締まること出来るのかもしれませんが、少しでも別のデータを混じらせれば別人と言い張れますよねキット。
AIも大事ですが、まずは人権と周知を重んじてほしい。
未来はテクノロジーの進化ととおもにい明るいはずだったのに、やっぱり使う人間が進化しなきぇればいけないんだなと改めて思いました。
・SNS上で有名人のAI動画を利用した事件をはじめ、心配されていた生成AI技術の不正利用による社会的な弊害が次々と露呈しつつあります。 今回の技術で懸念されるのは、実在する人物の仮想画像だけでは飽き足らず、次第にエスカレートして、本人に危害が加わる可能性がある点です。 他国の動きを踏まえ、生成AI技術の適正な運用が図られるよう、運用の在り方について日本国内でも法整備が急がれます。
・今みたいな明らかにAIが作りましたって感じの綺麗な顔じゃなくて、もっと多様性が出てきて現実的な描画をできるようなったら、必ずこの世界のどこかに似た人は出てくるよね。 写真をベースにAIで描くことだってすでにできる訳だし。 どこまで規制できるのか、してもいいのか、なかなか難しいところだな。
・世界中に張り巡らされたインターネット網であるが、一説にはそのトラフィックの3分の1はアダルト系動画が占めるという、まんざら嘘でもなさそうな噂がある。つまるところ最先端技術の商業化に、エロは欠かせないコンテンツなのである。 画像生成系AIが有名人に酷似した(あるいは真偽の見分けがつかない)アダルトコンテンツを生み出したのも、実現はまさに時間の問題だった訳で、AIによる仮想アダルトコンテンツが世に出た時点で、法整備を急ぐべきだった。 ところで、デジタルにやたら詳しいと自負する現デジタル相は、一連の件について何らかのアクションを起こしていたのだろうか?
・2015年頃から実写と見分けのつかない画像ってのは存在しているが、近年は加速度的に増えている。
一方で、ずっと見てきた人にとっては「見慣れてきた」のも事実で、 私が1年前に「このクオリティはすごい」って思わずリポストした画像を改めて見返したら、「あ、これはどうみてもAIね・・(そっと閉じ)」でした。
自分はそうやすやすとは騙されない自信はありますね。画像じゃなくてもニュースを見るときはまず出どころと信憑性を確認する習慣がついていますしね。 随分前から言われているネットリテラシーを実践しているだけ。
生成AIを取り締まれば取り締まるほど、逆にフェイクに騙されやすくなるリスクがあります。「集団免疫」の考え方と同様に、AIとどんどん触れ合って免疫を付けさせるというアプローチもあります。
人間の適応力をナメたらあかん。
・もうポルノとか関係なく世の中への規制って難しいのでは?
自分(に非常に良く似た)性的な画像が、意図せず世の中に出されるショックは大きいと思う。 見た人がリアルか創作物かを正確に判断できていれば、まだマシなんでしょうけど・・・。
ネットに上げられただけの画像や動画の全てに対して、リアルかAI含めた創作物かを判定して表示するなんて事が現実的に可能なんだろうか。現段階ではそこまでできないでしょう。
今回は実在の人物を直接学習させています。仮にその事を規制したとしても、ここで作った創作物をAIに学習させれば、実在の人物に非常に似た画像が作られるはずです。 さて、これは?どこまで規制しますか?ずっと履歴を残させるとしても、何回まで?人の手作業なら大変ですが・・・。
うーん。
・何年も前から有名キャラのポルノ化は普通にある、あれ取り締まってない時点で終わり、画像処理技術があがれば当然実在人物のポルノ化の精度は増すばかりだし、いづれ動画も実在者と変わらなく作られていくことだろう、偽造マイナンバーカードといい、先端術を使いこなすヤツが方が法を作るより先に使いこなすのだから遅れをとる、先々を見て法ややられないようなホワイト技術を悪しき人間より早くやらなくてはいけない。
・画像生成AIは個人のサーバーでは無く大手の専用サーバーでしか稼働してない。 Copilotで「画像生成AIは性的画像のフィルタリングはされない?」と聞いてみたら 「はい、画像生成AIは性的画像のフィルタリングを行わないことがあります」 とのことだったので問題が大きくなって規制が掛かるまで野放しということでしょう。
・生成AIの進歩は止められない流れだし、まずは一般人の意識としてそこらで見られる画像や映像は常に偽物の可能性を頭に入れておくことじゃないかな。
法整備ももちろん必要だけど、スパムメール等の振込詐欺すら引っ掛かったら泣き寝入りな状態だし、法だけ整備してもなくすのは難しいと思う。
画像に限らないけど、性的なものだけでなく出所不明の情報を安易に信じ込む人が減らないと。
・児童の性的画像自体の規制自体はしていると思うのだけれども。
それは生成に関係なく起きることだけれども、生成であろうが、取引とかは禁止だろうし、自分の子の記録以外は基本的に禁止でしょうね。 それすらも、成人後は本人所有に移るだろうし、消えていくものになるのかな。
基本的に他人の子どもの裸ニーズって、天使の絵画とか描くのでも無いなら、医療や生物学とかの教材とか以外では、異常性癖用途ぐらいと言うのが厄介よね。
しかも芸術と性癖は一部被るところがある。 なかなか難しいが、単純所持禁止の部分で規制が入っているので、追加規制って何がいるの?って部分じゃ無いかな。 性癖としてなぜか確立している以上、取り締まりしても表に出さないとか行動しないところまでしか無理でしょうに。
・世の中、有名人に似ている人間はゴマンといるし、似ている似ていないは、見る個人によって変わる非常に曖昧な基準だ。
批判を覚悟で言うと、感情的に ただ単に「似ているから」という抽象的、 あるいは主観的な理由で取締りが可能になると、極端な話、世の中全てが取締り対象になってしまう。
表現の自由とバランスを取って、客観的な 要件を冷静に考えるべきだよ。
・こんな事はびっくりすることではない。 こうなる事はわかっていたし売買されていない個人的なところではもっと酷いことがおきてるんじゃないですか。 本当にわからなかったのならかなりの善人です 笑 善な利用にだけAIを使われると思ったら大間違いで近い未来、天才的な人が一般人には理解できないとんでもない使い方をするでしょう。 もう始まってしまったのでそれが善である事を祈るしかない。
・保身、票集めしか興味のない年老いた国会議員には全く興味のないことだろうから、対策を進めるのは困難だと思われる。 有名人から一般人まで誰もが被害者になりうる恐ろしい流れを止めるべく、まずは各マスメディアが徹底的に取り上げて世間に広めることで、その声が届き重い腰をあげるきっかけになってほしい。
・AIがポルノ画像を作るにあたって、実際に児童の裸体などが利用されていたら法律に違反するでしょう。 しかし、成人女性の画像と、ポルノではない着衣の児童の画像を読み込ませてAIで生成した場合特に被害者は無い。 その児童は誰かに服を脱がされたり、裸にされたりしたわけではないからだ。 ただ、これはAI以前の「コラージュ」の時代からあるのだが、あまりに精巧に作られた自分のヌード画像はたとえ偽物であったとしても拡散されたら社会的なダメージはとても大きい。 その場合、犯罪扱いで良いのではなかろうか?
・AIとか架空の題材から作成するポルノより、もっと現実を考えた方が良い。 出回っている現状のほとんどが実在の本人が児童ポルノメーカーになっている。 しかも本人が営利を目的として作成している。 これも児童に安易にスマホを与えた結果だと思う。対策を考えるのはまずここだ。
・法律を作る側の政治家・官僚にこうしたデジタル情報に疎い文系高齢者が多いから、何が問題なのか認識も理解もできず対応も遅い。 何か問題が起こってからでしか動こうとしない。 AIの進展は急だから、素早く動いてもらいたい。
・ユーチューブで毎回の様に投稿されるとても可愛い赤ちゃんや子供に癒されてよく見ますが、反面何か犯罪に巻き込まれないのか心配になる側面もあります。科学の進歩により、理解が追いつかないうちに知らぬ間に事件化していたなんて時代になり、保護者にもより注意深い行動が求められるのかもと思います。
・今のうちにデータを蓄積しておこうという動きが出てくるでしょうね。 それをネット上にばらまいておけば、「こんな画像と文書がある」としてネガキャンに利用したり、なかには脅迫に利用する者も出てくるだろう。 過去のデータはすべて証拠価値なしとはできないし、個人が真贋を判別できるわけもない。 逸億総被害者時代がやってくるでしょう。 お互いが脅迫し合う時が来る。
・今や時代は手塚治が描いた未来都市となりロボットも進化をとげている。AIに関しても進化の度合いが凄まじいが、使い道を決めるのは人間。核や兵器と同じく良心を持った人間が持てば社会の役に立つが、不純な動機でAIを使えば規制が強まり後退してゆく。様々な進化や変化は人によって創られるが、一部の愚かな人間により進化が止まってしまう事が悲しい事です。この時代一人一人が欲というものに支配されている感が強いと感じる。震災や戦争に関しては無欲で援助を行ったり反対行動を起こすのに、自分自身の欲に対しては誠に弱い我々人類。人類の明るい将来の為にも心の中の無欲な部分を強くしなければいけないのではないかと思う。欲に囚われ過ぎた人間に将来はない!
・これを言ってもなかなか信じてもらえませんが、私は恐らく子供の頃から家を盗撮されポルノのような映像を作られて流通しているようです。私自身は見たことはありませんが何人からか指摘を受けました。以前もカナダで留学先学校の先生からも盗撮されていると言われましたが韓国人留学生が立ち上がり話をやめないと殺すと先生を脅してその続きは聞けませんでした。この証拠を取るのはリスクがあり恐らくは知っていても脅されるなどでしらないふりをしていると思われます。警察にも相談しており証拠が無いと言われて困っています。証言してくれる人がいれば解決します。日本やカナダだけではなくあらゆる所で見ている人がいると思います。大変な人権侵害です。推測として統一教会が関与していると思います。そうなると自民党やアメリカも関与してなかなか解決が困難です。やっていることが半在だと自覚していると思います。
・日本にも児童ポルノ禁止法があるが、これは「実在の児童」を保護するのが目的だ。 たとえ、実物でなくても実在児童に酷似した画像なら罪になる可能性が高い。
なお、日本の法律では「(実在していない)架空の児童ならOK」であるが、これも規制すべきかは、議論がありそうだ。
・さっさと取り締まるべき。特に児童は絶対ダメ 成人も(性別問わず)ダメだけど、未成年は特にダメ。作った人全員しょっぴいて、それを保存した人も特定しなきゃダメ。酷似してる、でもダメ。児童(のようにみえる)の18禁画像(イラスト)についても規制する時が来たんだと思う。自分も同人や絵師さんの絵などたしなむから、ぶっちゃけ規制されたくない気持ちはあるが、出産してからは児童コンテンツについては表に出すのはNGと強く感じている。 二次元だからいいみたいなグレーゾーン、ちゃんと法的に整理しましょう それが成人のフェイク画像被害から守ることにもつながる
・やっぱりこうして悪用されてしまうんですよね。 AIによる犯罪はAIで監視、取り締まってほしい。 生成AIで作成された性的画像はAIで自動的にBANするみたいな…。 犯罪なのだから、これくらいしても良いと思う。
・ポルノ市場的には、自分(男性も、女性も)と自分が望む相手(有名人なのか、実際に知り合いなのか、架空の理想的な人物像なのか、はともかく)が激しく愛し合う画像・動画・RPGに対する需要は大きそうだ。そんなコンテンツが自由自在に作れるようになる時代は、性的欲求をAI技術で満足させて、ますます実際に行為をする人、そして結婚する人が減ってしまうのかな。
・恐れていたことが起きたと思う。 やはりどこかで何かしらの歯止めがなければならなかったと思うけど、それでもやってしまう人はやってしまう、そしてイタチごっこで終わるんだろうか。 それにしてもどうにもこうにもAIって便利だけど便利すぎるんだろうね。 頭をあまり使わなくなってくる人間、どんどん増えてくるんだろうか。
・それが実際の性犯罪の抑止となるなら必要悪と捉えた方がいい場合もある。 全てに蓋をしたら絶対に溢れ出すのが人間なので、どこかに逃げ道を作らないと爆発するだろう。
まず風俗の規制をある程度とっぱらい本番行為を認めるべきだ。 あとモザイクの撤廃はネット時代的にあっても意味ないので必須でしょう。 そこに新しい技術をどこまで認めるかと言う問題だな。
人間にとって性欲はデフォルトで備わった本能なので変に規制する事で歪みが出てしまうのだと思う。 犯罪に走らない様に息抜き場所をしっかり作ってやる事がルールを作る人達がやらなけらばならない事だ。
・営利目的に依るポルノ画像の流出で幾らかの罰金刑と云うニュースを見る事が有りますが、被害者が名誉毀損とか肖像権侵害で裁判で争って幾らの賠償金を受け取れるのだろうか。おそらくは裁判費用と弁護士費用を考えると泣きたく成ると思うけどね。一方で稼ぎまくった犯罪者は罰金額以上に元を取っていて、実質的にはただ前科が付くだけで損害らしいのは何も無いと云うのが、この犯罪の悪質な所なのかも知れないね。
・児童でなくてもダメじゃないの? 人気の綺麗な女優さんやアイドルでやっても需要はあるでしょうよ、でも勝手に作られた方は嫌じゃないかな? イラストや昔の3Dアニメーションみたいな感じでもなく、本物に見えて、さらに本物と言われて流通されたらたまったもんじゃないですよね。
有名人に限らず、一般人でもやってもいない事、アダルトしかり、犯罪しかりをねつ造されたらたまったもんじゃないのでちゃんと規制して欲しいですね。
・たとえばネットRPG空間で 無限大にキャラクターと会話で生活をして楽しめる というような健全な使い方なら良いのでしょうけど 利用ハードルが下がってくると犯罪への利用がでてしまいますね 今はネットがあって拡散も非常にはやいので法整備が追いつかないのが課題ですね。
・正しく公共の場で使用出来ない市民、ケースはいち早く処罰の対象になるように法整備を進めて頂きたい。いち早く。子供や将来のある人達に先々の時間、経験しなくてもよいことで傷付かないように。 国民の日々の生活にとって必要なことは時間が掛かり、政治家が必要と感じていることは国民の対応必要時間関係なしにドンドン制度改定を進める。そんなズレを認識出来ない政治家を選んでいる我々も必要なことはしっかり訴えていかないといけないと、最近、痛感する。 野党の方々も本腰を入れて活動をお願いしたい。ネット社会での変化に我々も負けないようにしないといけない。
・現行法での規制は難しいのかもしれませんが、ゼロから生成されたAI画像でもそれで傷つく人がいるならばそれは犯罪だと思っていて、「都知事に立候補した声の甲高い元タレント」みたいなかんじでボカしてはいるけどそれが当人だとわかる状態ならば悪意があるかどうかとかその画像がポルノかどうかではなく、肖像権とか名誉棄損みたいなアプローチで規制をかけたほうがいいと思っています。なにやっても「これはAIが生成した画像ですから」で許されるとか絶望しかありませんね。
・LoRAだとピンポイントで造形を似せられるから、実在の人物や他者が権利を持つ作品の人物を学習させれば正確に作れてしまう。効率を求めるのであればAIは選択肢の一つであるが、他者が本来得るはずであった利益を毀損したり、風評被害を出す結果になるのであれば、そこは当然規制されるべきであると思う。
・AI技術と画像技術は同時に発展したわけではない。先行していた画像技術の規制はいつでもできたはずなんだが、AI技術が規制を超える速度で進化してしまった。そのツケが来たんだろう。早く画像や動画の規制をしないとマズイ(例えば裸の画像は映さないとかモザイク入れるとかする必要がある)がもう手遅れかも…
近い未来はAIが生成した全裸の画像とか動画とかが世間一般に出回り、見極められない人間がそれを拡散するんだろうな。人間が無能過ぎてAIが、悪意のあるAIや悪意のある人間を監視するのも時間の問題かもしれない。
・ポイントは売買と公開でしょう。 表に出なければ実害はないが、出たら実害が発生したとみなされる。 生成AI関係なく、コラージュというものは昔から存在し、問題であった。 何よりも日本は罰が軽すぎる。 刑事罰は当然のことながら、いかに賠償額を高く出来るかです。
・皆様のコメントを読ませて頂いた感想です。 綺麗事ばかり… 女優、アイドル、その他、個人の嗜癖、色々…のアダルト観たい人は多いのでは「私」は勿論、観たいです。 後、法整備での罰則など不可能ですよ。 技術進化により特定すら出来ないよ。
最後に一言「個人の良心」に委ねるしか解決策はないと「私」は思います。 人が嫌がる事をやめる、相手の立場になって物事を考える、皆が健康的に心地よく生活出来る世の中になりますように。 祈っております。
・あくまで一般論ですが、生成AIを使えば本当に誰でも簡単に問題のある画像を作れてしまうものなんでしょうか。とりあえず、Stable Diffusionをインストールして評判のいいモデルを組み込んで動かしてみましたが、今のところ本物と見間違うような画像は作れていません。やはりControlNetやLoRAを駆使しないとまともな画像は生成出来ないのでしょうか。
生成AIに潜在的な脅威が潜んでいるのは認めますが、誰でもお手軽にすぐ犯罪者になれますみたいな粗雑な論調には疑問があります。
・まさに先日の特捜9で取り上げたテーマだよね。 生成AIで録画画像すらフェイク画像にすり替えられて録画が証拠能力を無くす。 怖い世の中になりましたね。下手にSNSで顔を晒すのもどうかと思います。 晒してなくても世の中、防犯カメラだらけ。 いつ撮られているかも知らないまま、フェイク画像に使われているかも分からない。 若い人達がそこら中でスマホで動画撮ったり写真を撮ってるところに映り込んでるかもしれない。 もう個人の肖像権なんてあって無いに等しい。
・厳重な刑罰を法制化しないといけない。ただ、AI技術の進歩が著しく、法制化が追いつかない状況。本物かAI作成か一見して分からないなら、逮捕がそもそも困難になるかもしれない。
・編集可能なデジタル画像になってから、すでに映像・画像は証拠たりえない。地デジの生放送も、タイムラグがあるから信じられない。 人間とAI・科学者は、出来ることとやって良いことが異なる事を認識しないといけない。
・AIであっても、個人の情報のように流出してしまえば、どう言い繕っても取り返しの効かないことになりそうです。つまり、いつでもなりすましができるということになります。知識もつかいかたしだいでということになるのでしょう。これから何に気をつけて、何を信用して生きていくといいのか分からなくなりそうです
・他人事と思っていた被害が自分にいつ起きてもおかしくない時代になりましたね。先日も「配達しましたがお留守で」の怪しいメールを検索すると 詐欺と。一刻も早い法整備とともに自己防衛の手段を考えなくてはいけませんね。ネットの買い物は都度デビッドに入金して通常のクレジットカードは利用していません。SNSも怖いのでで特定されるようなものは一切載せません。 マイナカードと口座の紐づけなんてとんでもないです。
・実在の人に似せるのは問題ありだが、小児性愛者は割と多く存在すると思うし、犯罪者ギリギリで留まっている人も多いと思う。 実在の人間に矛先が向かう前に、ガス抜きさせるコンテンツも必要悪として存在しても良いと思う。 規制しまくって全てNGにした時に、生身の人間に向かわれるのがいちばん怖い。 娘を持つ親としては、複雑ではあるが、彼らの目を娘達から逸らすための安全装置としてAI活用のコンテンツを完全否定出来ない。
・基本的には「ただの絵」であり、やろうと思えば素人でも可能な事。 実際ゲームのMODなどでタレントに酷似した裸キャラとか、大概の国では違法だが裸児童キャラなどもある。 それらをSEXMODなどで動かす動画は、やり方によっては本物と見分けがつかないクオリティにまで出来る。 そのハードルがAI登場で下がった。
がAIにそういった「人間の欲望」を叶える仕掛けを作るのは人間だ。 AIが動画の顔を変えたり体型を変えたり、多くの動きを取り入れたりするには、必ずプログラマーが「想定」していることが必要だからだ。
ゆえに「こういった使用に使われるようなAIは違法」という括りが必要。 大まかだが、まずは調査委員会が判断し警告し使用を禁じサイトに警告を表示させ、従わなかったり損害賠償請求など被害があった場合は罰則を喰らわす。 罰則は利益を得た全員を対象とする。 とすべきかと。
・モラルとして 「そういう物を使ってはいけない」 というモラルを持って欲しいと思いますね
そもそも児童の性的画像は禁止されています しかもそれを使ったAIならいいだろう ってそうじゃないです そもそも使うのも 使って生み出すのも問題なんです
いいじゃないか 俺の勝手じゃないか! っていうかもしれませんが その「俺の勝ってだろ!」という人が 今までどれだけ事件を起こしてきたのか考えてください
そもそも児童のわいせつ画像の撮影、配布、所持 どれもこれも法に触れてるんじゃないですかね
・実物に極めて似せるっていうのは確かにいくら架空でも厳しいな。ターゲットになっている時点で被害者といえるからな。しかしそれを取り締まれないとなると、記事の通り、急ぐ必要はないと思うが法整備をした方がいい。急ぐと毎度バランス悪くなるから、それはそれで面倒なんだよな、、
・SNSで顔を出してる一般女性などは、それを元に性的な動画などを作られることもあるだろうね。 男でも安心できないのは以前、岸田総理のAI偽動画が出たけど、総理大臣などの人ならそれが偽物だとすぐに判別されるが、一般人を使った生成AI画像で誹謗中傷や犯行予告動画などを作られたら、それが偽物だと決定されるまで時間がかかるだろうから、とりあえず逮捕されたり拘束されたりするかもしれないし。 そういう愉快犯が出てきてもおかしくはない。
・性的画像の生成は仕方ないと思います 自分も若かったり好きな人が居たら絶対作らないとは言えないでしょうね リアルな恐竜で作成した事があり写真のようなリアルな恐竜の画像を期待したら誰かが書いた様な絵の恐竜しか作れなかった。結局偽物だし完璧じゃありませんね
・ん〜、ここまで来ると理性や遵法性に頼るしかないけどなぁ。 稚拙な空想でしかないが、 AIならAIが再生した画像や動画を見破るポテンシャルを常に持っているだろうから、 AIが再生したであろう特徴を持つ動画や画像をリアルタイムで検索し続ける特殊なAIにネットをパトロールさせて、 AIが作りましたマークの無い動画や画像を片っ端から削除していくしか無いんだろうなぁ。 そしてその犯罪に手を染めた犯人には他の犯罪よりも重い罰則を用意しておき、抑止力とするしかないと思う。
・AI画像・動画なのか本物か区別が難しくなりつつあるし。 学生だとクラス内のイジメにAI利用して個人を馬鹿にするようなものや全裸にしたり踊らせたりなんてもうやってるんじゃないかな。 もちろん社会人でも職場でAI使ったイジメはもうあると思うし。
・人の名前を出して売買してるのは肖像権やらで完全にアウトだろうけどその取り締まりを始めると今度は名前を出さず似てるジャンルとして売られるようになるだけじゃないの。 実在する人をモデルにしてるようなゲームキャラやフィギュアなんか昔から溢れてるし、脱法TVでやってたけど描いたものがたまたま似てただけなら法的には何の問題ないとのことだったし。 子供にしか見えないような低身長症の成人をモデルにしてると見た目だけで児童と判断できる根拠もなくなるから規制するのは土台無理な話。
・日本人は基本的にお人好し過ぎるし、リテラシーが低過ぎる。何も考えずに便利だから、新しい事に挑戦しなきゃと気軽な気持ちで手を出すべきじゃないと思う。 本当の意味でAIを活用すべき業界や活かせる場面はあると思うけど、楽だからAI使って文章書くとか、コンテンツを作るのにAI使うとか。 これじゃ人間がAIを使っているようで、AIが人間を使っているようなもんじゃないだろうか。人間として気持ち悪いと思うし出来るだけ今は距離を置きたい。 自分が子供の頃に見ていたコンピュータやロボットが反乱を起こし人間を操ろうとする世界が目の前にきているわけ。 24年前、2000年になる時にY2K問題で大騒ぎしていた頃の人間が正しいと思うよ。真剣に
・性的なものだけでなく著作物でもなんでも酷似したものが次々とバラまかれることになるのだから、摘発・処罰できる法整備したところでモグラ叩きにしかならず警察や司法の手が追い付かなくなるのが容易に予想できるし、一度でもネットに出回ったら摘発しても被害者の人権は取り戻せない。 生成AIそのものを、アプリ開発もアプリ使用もすべて禁止しないとダメだろう。
・これ、普通に起こり得る問題なのに、何故に対策されていないのか不思議だ。 アニメ的な物と実写に近い物の区別をつけるのは不可能なのかな?。 表現の自由の「自由」はルールを守る義務が有っての自由だからね。 何でもして良い訳じゃ無い。
・パソコンの時もスマホ携帯等も急速に普及発展したのは利便性とかよりもエロい欲望を満たすためであったことは間違いないだろう。 今回の生成AIも同じくで必ずこの手の問題は起きる。そんなことは想定内のはずだが? 対策を最初から盛り込まないで一般で使えるようにすればこうなるよね。今のうちに一旦一般で使えないようにしないと、取り返しのつかないことになると思うが?
・>法務省によると、児童ポルノ禁止法は、被害児童が実在していることが適用の要件とされる。判例では、コンピューターで製造したものでも、特定の実在児童に見えるように描写した場合は規制対象となる。しかし、複数の専門家によると、顔以外に体の特徴なども酷似していないと対象にはならない可能性があり、AIによる性的画像が規制できるかどうかは不透明だ。
例えば岸田やバイデンが裸で乱行パーティーに興じている画像を生成して拡散したとして、『顔は同じだが、身体が別人の物だから名誉毀損に当たらない』とはならんだろう。 ・・・どう考えても現行法で十分対象可能だと思うが。
・昔からあるよね。人気女優やアイドル歌手の顔とAV女優の裸体の写真をコラージュして広めてたやつ。 今はAIだから首と身体の継ぎ目の違和感もなく、顔と身体を同一人物として見せられるのが厄介。 更に画像だけでなくAV動画の顔を挿げ替えた悪質なものも拡散できる。 有名人だけでなく一般人でも被害に注意だね。
・ふと思ったけど、テレビ業界って生成AIに関する自主規制みたいのあるのかな?あったとしても「自主」だから期待できないよな。バラエティなんか生身のタレントでは危険なロケを生成AIの動画で置き換えたりしそうだ。ニュースだって政権に有利な映像を創作したりしそうだ。法規制しないと大変なことになる。
・学習は合法だと言う以上これもとやかく言うことはできませんね。 生成AIが使える用途、生成に使える学習素材の制限と管理、著作者による学習禁止の意思表示の尊重といった事柄を考慮しない限り歯止めは掛けられない。 しかもその生成物の使い道が、新しい技術や時代を賛美する背景とは裏腹に私的かつ不道徳な営利活動に使われてしまっているのだからますます生成AIへの不信や規制の声が強くなっていくという本末転倒を招いている。 本来なら使用者は用途内容ごとの資格制にして管理し、プロ・法人向けのソフトとして位置付けて、逸脱する用途、悪質行為や不道徳的な営利活動に用いれば違反として資格剥奪や検挙されるようにしておけばここまで問題は蔓延しなかった。 不特定多数の誰にでも、どんな用途にでも使えるようにしてしまった結果、こうした問題だけでなく、サイバーテロなどの安全保障問題にまで拡大した。 もう性善説は当てにできませんね。
・印刷機にお札コピーできないようにしてるみたいにAIによる画像その他の作成にはAIが作りましたというマークをどっかに入るようにしてそれ無しでの作成は違法とかにでもしないと酷いことになりそうだな ただこれでAI自体を否定、禁止、過度の規制とかするとかそちらの分野で後れをとってさらに酷い未来になりそうだから行政などにはしっかりやって貰いたい
今の日本だと無理だと思うけどね!
・多分規制できないと思う するとしても学習データの販売において内容が実在する人物をそのまま入れてる事を証明できるなら可能かもしれんけど生成画像自体を規制するとなれば、あらゆる画像全てアウトになるのでは。
あとこれ多分指摘自体が間違ってると思うのだけど、児童のポルノ画像を追加学習させてポルノ写真生成出来るようになるのではなくて、追加学習させる事で精度を上げてるだけ。
児童ポルノ学習→生成=✕ 児童のデータ+他のアダルトポルノデータ→生成=○
つまり児童のデータを公開(保有)等を規制すれば家族の写真もってる人全員捕まる... かも? それくらい難しいレベルなのでは
・国会議員が衆参合わせて800人もいるにもかかわらず全く法整備が追いついていないということだね。マイナンバーカードと健康保険証を強制的に一体化する暇や裏金を作ったりする暇があれば記事に取り上げられているようなAIの悪用を取り締まる制度をさっさと整えろと言いたいね。 他の事案も含めて国会は800人分の仕事全くできていないよといいたくなるよ。仕事をまともにしている議員には高額の報酬を保証しないといけないはずだから国会議員の定数を大幅に減らさないといけないという話になるね。
・私はこういうのを作れないけど、この技術を知ってる人はかんたんに出来るんでしょうね。
変なことを言うと、できる人、多くいるんじゃないですか。そこらじゅうに。 最近のスマホのCMの、画像修正なんか見ててそう思う。
規制は難しいと思います。
・生成AIに限らずA I技術の進歩は著しい。 囲碁や将棋でさえ、AI棋士にプロ棋士が勝てないほどだ。 個人的にA I囲碁ソフトで何百回も対戦して勝率は5%ほどだった。 そして気づいたことがある。 定石(規則、経験値)による打ち方では100%負ける。 意外と初心者がやる様なゴリゴリの石取り囲碁や筋悪の喧嘩囲碁みたいな場合でしつこく対戦すると相手が投了してくる。 プロ棋士の最善手の何十万回ものデーター解析を元にして組んでいるのだと思われるから、素人のトンデモない手には対応を間違えてしまうのかとも思った。 生成A Iも過去の人間の最善最高の経験値を元にして基礎データを解析し構築されているものだろう。 それに予測値などを確率論的にランダムに振り分ける工夫がされている。 専門家ではないので、これぐらいの予測しかつかないが、常識からズレた発想でないと真贋の見分けがつく機能は作れないだろうかと思います。
・児童であろうと少年少女、成人全ての人が性的画像の被害者になりうる。児童児童と言ってる場合ではない。生成AIの乱用防止は喫緊課題である。SNSの怖さが増してきた中、重い罰を課すべきだ。
・本質がわかってないよね。
ポルノかどうかではなく、この技術で他人になりすました偽動画が作れると言うことで、それを見越した法規制が必要ということ。
例えば、岸田総理が消費税減税についてしゃべる動画を作ったり、バイデン大統領がプーチン大統領と握手してウクライナ譲渡について話す動画を作ったりと、政治的なものも作れちゃう。
これらを、創作として容認するのか、それとも事実を誤認させる詐欺として取り扱うのかという問題です。
・なるほど生成AIはHな画像・動画に使われる犯罪に使われる可能性とはこういう事 女性なら特定の芸能人や知人男なら晒したい者と好きなストーリーにして晒す ソレが本物と信じた人が拡散して叩く捏造とわかるまで相当な時間叩かれる 犯罪に利用されるし人生を奪われる事もある 法整備は絶対必要 捏造を晒した時点で逮捕特定出来るようにしたい
・aiで生成した制作物を自由にwebにアップ出来る事が問題なのでは?
制作したものにはブロックチェーン技術で誰がいつ制作したのか、編集したのかをオープンにしなければアップロードできないようにする方がいいと思う
・これまでは一部のそれなりの技術を持ったひとが画像編集によってコラージュとして作ってたわけだけど、生成AIはありものを貼りつけるのではなく作り出してしまうわけだから、現行法制ではどうしようもない感じがする。編集技術がなくてもじゃんじゃん作り出せるとなれば、ネット上に相当数出回る未来がすぐそこにある。恐ろしい。。。ポルノだけじゃないからね問題は。
・最先端技術であるAIを使って・・・やっていることは小学生の便所の落書きレベルの動機。なのに、インターネットのせいで、その破壊力は性犯罪に等しい攻撃力を持つ。対象となる子供のことをモノとしか認識していないという人間未満の発達度に虫唾が走ってしまう。果たしてそういった幼稚な人間に技術を利用する資格はあるんだろうか?絶対にない。つまり、規制が必要。体は大きくなり、年齢を重ねても人として大きく欠陥がある者たちは管理を受ける必要がある。被害が出てからでは遅い。ネット上の性犯罪はゼロ許容で逮捕と実刑、そして何らか性犯罪者ラベリングが必要。全然法整備が追いついてないから急いで欲しい。そういう検挙にAI技術使いえないのかな?
・特許や著作権同様に、「審査」によって類似してるかどうかを判断すれば良いのでは。 多くの一般人が、著名人を連想出来る場合、それは「実在の人物をモデルにしている」と同等でしょう。
……と、するか。
もしくは、結局のところ「そっくりさん」を使われたら、どうしようもないわけで、本人と関わりない所で創作された画像は完全に別物として気にしないという通念を形成するか、ですね。
前者は法律的に運用難しく、後者はまだまだ時間がかかるしそもそも社会的に受け入れられるかもわからない。
でも、中途半端が一番駄目だと思うので、ここらへん強いリーダーシップを取れる人が日本でも世界でも出てきてくれれば良いんですけどね。
・規制の目的を考えれば、実在しない児童の性的画像まで法律で規制する必要はないだろう。 ある程度の逃げ道を作ってやらないと、実在する児童に被害が及ぶ恐れがある。
・確かに実在児童に酷似した性的画像も問題だろうけど、これは児童に限らないのでは。芸能やスポーツ等の有名人でも問題になるだろう。 昔からコラージュ等でよく行われてきたし、生成AIで手軽で高品質になった分多量に生産されるリスクが増した形だが、コラージュの段階で国際的な法的整備を行っておくべきだった。 それ以上に問題なのは、実在の著名人を生成AIで偽造し、メタ社などのプラットフォーマー上で虚偽広告を行い、実際に多くの被害者が出ていることだ。 プラットフォーマーが偽広告で詐欺を誘導しているとも言える状態なのに、何も罪を問われないのは異常だろう。
・今までもコラージュとかCGで問題になることがあったと思うけど、それなりの技術が必要だし、たいていの人間がフェイク、ねつ造とわかるようなものだっただけ。法整備は難しいかもしれないけど、何らかの手を打っておかないとヤバいことになるのは目に見えている。
・私の友達の旦那さんは、Instagramのアカウントに自分の子供の写真を載せまくっている。彼は、誰彼かまわず、世界中から申請があった人みんなと友達になっているので、かわいい彼の子どもの画像がどこかで何かに使われてしまうのではないかと私は心配している。
・ディープフェイクというやつですかね?芸能人は昔はアイドルコラージュという合成写真が流行りましたが、今後は生成AIで精巧な画像や動画が出回るんでしょうね。材料が一般人より簡単に入手できちゃうしね
・何も隠せないし、何も信用できるかどうかはわからない。 自身の心を大切にして、自身の心を信じることが大切。 それは、太古であろうが、SNSやAIの世の中どあろうが変わらないのかもしれない。
|
![]() |