( 240538 ) 2024/12/28 04:15:12 2 00 広がるAI使った性的偽画像被害、狙われる卒アルの個人写真 載せない学校増える可能性も産経新聞 12/27(金) 19:30 配信 https://news.yahoo.co.jp/articles/c3d8972ae05e6273c58c504afba908798d0a1e98 |
( 240541 ) 2024/12/28 04:15:12 0 00 卒アルの個人写真を加工したディープフェイクポルノ被害が増えている（写真と本文は関係ありません）
卒業アルバム（卒アル）の写真などを生成人工知能（AI）で性的な画像や動画に加工する「ディープフェイクポルノ」の被害が国内外で広がっている。特に卒アルに掲載された生徒の〝個人写真〟が加工素材として狙われ、SNSなどで拡散されるケースが目立つ。少子高齢化で卒アルへの個人写真掲載が定番化している中、こうした事態を受けて、載せない学校が増える可能性も出てきた。
■求められる流出対策
「卒アルは（生徒の在学を証明するツールでもあり）、卒業生の個人写真を載せてこそ意味がある」
東京都葛飾区で50年以上、卒アル制作を担ってきたキョーコロの柏木和也取締役はこう強調する。現状、同社と取り引のある学校では卒アルに個人写真の掲載を取りやめる動きは顕在化していないと話す。
ただ、個人情報流出の不安に加え、不登校の生徒が増えていることもあり、地域や学校によっては卒アルに個人写真の掲載を取りやめる動きもにわかに散見されるという。
同社にも、卒アルからの個人情報の流出対策を求める声は増えている。抜本的な対策は見いだせておらず、柏木氏は「卒アルは個人情報を含むものという意識を持ってもらうため、取り扱いの注意を喚起する紙を同封するなどの提案くらいしかできていない」と頭を抱える。
■紙の卒アルから流出防げず
技術的な対策も難しい。写真販売システムを運営するITベンチャー「エグゼック」（東京）の山中淑史取締役は、「デジタル画像ならば、不正コピーを防ぐ『電子透かし』の利用やパスワード管理などで一定程度流出を防ぐ方法はあるが、製本された紙の卒アルからスキャンされた画像の流出は防ぎようがない」と説明。「紙幣に使われているようなコピー防止機能を卒アルに施す手法も考えられるが、コスト面を考えると現実的ではない」と指摘する。
同社は生徒の顔をAIで選別する技術を活用し、卒アルに登場する生徒の回数調整を効率化するサービスを提供している。山中氏は「AIの活用はさまざまな面で大きな恩恵を与える一方で、同じくらい悪用されるリスクもある。使い方はモラルに依存する部分が大きすぎる」と警鐘を鳴らす。
■4年間で被害は5・5倍に
AI技術の加速度的な進歩により、ディープフェイクポルノは容易かつ精巧に作ることが可能になり、最近では偽物がどうか見極めるのが困難になっている。
その技術革新によって、ディープフェイクポルノの被害も拡大の一途をたどる。米セキュリティー会社「セキュリティー・ヒーロー」によると、2023年にネット上で確認されたディープフェイクポルノ動画は9万5820件で、19年と比べて5・5倍に増えた。国籍別の被害で日本は全体の10％を占め、韓国（53％）、米国（20％）に次いで3番目に多い。
被害が集中する韓国では今年5月、ソウル大の卒業生の男らが、同窓生を含む60人以上の女性の顔写真を利用した画像を流布したとして起訴され、被害の実態が表面化した。使われた素材の多くは、卒業アルバムやプロフィル写真など、入手が容易な写真だった。
韓国や米国ではディープフェイクを直接規制する法律の整備が進むが、日本では明確に規制する法律はないのが現状だ。（西村利也）
|
( 240542 ) 2024/12/28 04:15:12 0 00 =+=+=+=+=
芸能人の顔だけ使用し、既にネットにはかなりこういったものが広がっています。静止画だけでなく動画もあり、まだ顔と胴体のバランスが可笑しいのでAI画像というのは直ぐ判りますが、もうすぐそれも見分けられないようになるのは時間の問題ですよね… ほんと、凄い時代になってきました。
▲725 ▼32
=+=+=+=+=
5年以上前に日本各地の図書館にあった学校記念誌の生徒の集合写真が切り取らる事件があったけどその時もAIに学習させているのかな？と感じた。 卒業アルバムは氏名と顔が紐づけられているから、現在ネットやSNSで顔を加工無しで載せいる人なんかは加齢を学習したAIにより鼻や耳、ほくろ等で氏名を特定される可能性もある。 アルバムに関しも戦前～昭和30年代の卒業アルバムなんかは古写真(おそらく遺品整理業者から流出)としてヤフオクでも取引されているけど、平成初期くらいまでは住所も載っていたから学習塾などが勧誘用に金券などを渡してコピーしてたし、子どもの情報は高く売れると言うから現在でも金目的で売る人はいると思う。
▲17 ▼2
=+=+=+=+=
法整備が遅れているのは確かで、法整備する当事者達の意識が薄いのが原因。 極端にでも厳罰化して法定してしまえば良いだけなのだが、何故か反対勢力がある。 反対勢力側は犯罪幇助との国民の意識、声が必要で、それを選挙をもって政治に反映させなければならない。 有権者と政治家、共に責任感を持って行動する必要がある。
▲83 ▼16
=+=+=+=+=
卒アルの写真とかその時はたいして意味もないし、楽しいものでもないけど、10年後、20年後の同窓会の時とか大活躍、大盛りあがりできるアイテムではある。
さすがに昔のように住所や電話番号まで載せるのは今のご時世どうかと思うが、個人写真もなくなってしまうのなら、もう卒業アルの存在意義すら不必要なものになってしまいそうで何だか切ない。 なんだか色々と寂しい時代になりつつあるなと感じる。
▲424 ▼47
=+=+=+=+=
私は自分の顔を晒してる事自体が危ないっていつになったら気づくの？と思っています コラージュ画像は誰でも簡単に作れるし 2人の画像を読み込ませたら動いてキスをする動画を作れるアプリもあります 一般人でこれらをやられたら間違いなくイジメに使われますし、その人の尊厳もなくなります この先、写真から未来の顔を予測した画像や動画も簡単に作れるようになるので、今SNSに子供の写真を載せてる親は将来子供から恨まれます というより、取り返しがつかなくなるかもしれませんね 自分の子供の顔で作られた画像や動画が性的な対象として使われてもいいならご自由に
▲11 ▼11
=+=+=+=+=
どんなに素晴らしい技術でも、それを使う人間の倫理観や道徳観が狂っていると凶器そのものになる。タチが悪いのが、包丁を振りかざして暴れているのであれば、捕まえるのは容易い。しかし、今は隠れて暴れる事ができるので、捕まえるのは一苦労であり、多くの被害者を出して初めて捕まえる事ができる。我々、人間が多様性と表現力による個性を尊重する方向に舵を切ってしまった以上、このような犯罪行為を止める術は多くはないと思う。この場合、卒アルをやめるか、個性の尊重を止めるか、AIに規制をかける、もしくは使用に制限を設けるくらいだろうね。人間が精神的に成長するよりはるかに早く技術が進歩してしまった。ここで立ち止まる時期に来たのではないだろうか？
▲161 ▼22
=+=+=+=+=
就職氷河期世代です。 やっぱり卒業した学校で良い思い出が無ければ卒業アルバムは売却してしまうみたいだね。 自分は全部実家に保管してあるけど、高校の同級生はろくな思い出が無いという理由で多くの人は処分してしまった感じです。 自校の卒業生がやってしまったら防げないけど、卒業アルバムにシリアル番号で管理してどの番号のモノを誰に渡したみたいな管理をすれば幾らか防げるんじゃ無いかと思います。 番号を印刷もあるけど、RF-IDのようなICタグでも組み込んでおくとかね。
▲8 ▼1
=+=+=+=+=
ディープフェイクは、既存の動画の顔の部分だけを、特定の他人の顔に入れ換える技術の事です。
フェイススワップとか、顔交換と呼ぶ事もありますが、動画である点が特長となります。
少し前までは、顔の上に手のひらをかざすと合成前の元の顔が現れるなど不完全な技術でしたが、今ではかなり自然になっており、本物の動画かどうか見分ける事が難しくなってきています。
そして、最近では、生成AIの進化により、ディープフェイクではなく、1枚の写真からオリジナル動画を作る事も実現化しています。
RunwayやSora、MiniMaxといった動画生成AIサービスに1枚の写真をアップロードするだけで、自然な動画を生成できるのです。
今後、場合によっては法規制が必要になってくるかもしれません。
▲122 ▼25
=+=+=+=+=
悪用される可能性を挙げれば、際限なく出てくる。 やろうとするものなら、街中で通りすがる者の動画から要旨を抜き出し 機械的な男女の掛け合わせでどのような子供になるのか、 その子供が大人になった姿すら作ることは可能。
その様な、可能性を考慮し規制規制規制を行っても悪意を持つ者に対し 何ら抑止力にはならないばかり。
一言で言えばポイントがずれている。 悪意を持った者を処罰し抑止すればよいだけの事。 要件を実態に合わせ悪意を持った者をのさばらせない事こそ大切。
▲24 ▼9
=+=+=+=+=
AIを使った偽画像生成は、今やテクノロジーの最前線に位置している。単に画像を創作するだけでなく、それは深層学習の成果を最大限に活用しているのだ。まるで魔法のように、数シートのデータを入力するだけで、実在しない風景や人物を描き出す。このプロセスは歪んだ表現を生み出す可能性がある一方で、アートやエンターテインメントの新たな地平を切り開くこともできる。 だが、偽画像生成の影響を過小評価してはならない。これにより、新たな形のフェイクニュースや情報操作のリスクが高まっている。特に、悪意ある目的で利用された場合、真実と虚構の境界はますます曖昧になるだろう。倫理的なガイドラインを持たないこの技術は、使用する者の良心に依存する。 したがって、この分野に関与する全ての人々は、それに伴う責任をしっかりと受け止める必要がある。 リフォーム業者です。ＡＩこわいわ
▲14 ▼12
=+=+=+=+=
中学や高校に入って新しい友達が出来たら卒アルの見せあいっこは定番で、そこからこの人かわいいから紹介して欲しいとか可愛いもんになっちゃったな。
宗教の勧誘とかの一環から住所等特定できる情報は記載されなくなったけど、 文集だったり、最後の白紙ページに皆でアルバムを交換しあってメッセージを書き合うというのは卒アルならではの学校生活最後のイベント的な風物詩だったが・・・
アルバム自体にかかる費用は２～３万とかで安いもんじゃないし、大事な記録だと思ってるんだけど、なんともまあ世知辛い世の中になっちゃったな。
▲74 ▼10
=+=+=+=+=
卒アルに焦点が当たっていますが、遠足の集合写真も同様だったりしないでしょうか。学校によっては学校行事の写真をログインしてからダウンロード出来るようにしているようです。 今後は加工ソフト自体が簡単に作れるようになるでしょうからアプリ販売サイトでの規制も無理で、対応は難しそうに見えます。 手段があるとすれば、PCやスマホのWindowsやAndroidといったOSの側で、加工内容をAIにチェックさせる機能を組み込めるかどうかかも知れません。あるいはログインが必要でスクショ不可の、クラウド上のサイトでのみ閲覧可能にするとか。
▲209 ▼91
=+=+=+=+=
仕事でAIを扱っています。
今はいくつか写真があれば画像生成AI用にモデルを作る事が出来、誰であろうと生成出来てしまいます。 しかも、顔だけ変更するようなものと違って1から生成すれば本物と見分けがつかないレベルの物を作れます。
卒アルなどはそれで悪用されるのだと思いますが、パッと見は普通の画像でもAIが学習しようとするときちんと認識できないようになるフィルターも現在は存在するのでイラストレーターさんなどはご自分の絵にそういう対策を施されていたりします。
なので、卒アルもそういう風に対策すれば良いと思います。わざわざ写真を無くして一生の思い出を残さなくする必要は無いです。
▲19 ▼6
=+=+=+=+=
本当にこんな事起きてるのなら、流出させている者をしっかりと犯罪として取り締まる法律を作って欲しい。 個人情報が自分の意図しない所で、人の収入や糧になるものではないはず。
自分の意思が入り込めない事は十分に、個人の損失。 損害を与えてる事は間違いないから、かなり厳しい刑罰を与えるべき。
今、大きな問題の根幹は、個人情報が勝手に使われている事だと思う。 イジメ、性加害、闇バイトなどはこの情報からだろう。 捕まったら、えっと思うくらいの罰を与えるべき。
▲71 ▼6
=+=+=+=+=
卒業アルバムは紙媒体である必要はないと思います。頭割りになるので、学年の人数が少ないほど高額にもなります。
卒アルのみならず、行事毎に写真を残さないといけないのがとても大変で、写真を撮るために子どもをそっちのけにしないといけないと嘆く教師もいます。 全然うつっていない子がいるとか、笑っている写真がないとか、そんな細かいことまでどうして気にしないといけないでしょうか？ このようにいかがわしい使われ方をしてしまうなら、またその対策に時間と労力を割くことになります。学校ではそんな対応できません。
そういうリスクがあることを前提で写真を利用する覚悟が親にあるなら、卒アル含む写真の提供は有りかと思いますが、そうでないなら写真は勘弁して欲しいです。
▲15 ▼15
=+=+=+=+=
生成AIは恐ろしい位に学習をして日々進歩してます。 画像でも出始めの頃は指や脇、凹凸部分の認識が甘く、細かい表現ができなく 所詮AI生成という事で舐め腐って見下してましたが
最近のAIの画像生成はリアルと遜色ない程まで細部の表現まで洗練されており 自由に表現する事も可能です。 なによりも人が創作した作品等を取り込んでそれを元に学習して色々と表現する事ができるのは凄すぎて悪用に使われた際には脅威を感じます。
▲41 ▼2
=+=+=+=+=
卒アルとかのレベルの問題ではなくて、それを投稿できる状態、フォーマットの問題であって、その他のSNS全てに言えることなので卒アルという意味が全くわかりません。 卒アルは学生の思い出だしそれを無くしたからって何っ？て意味がわからないし。 AIとかじゃなくてそれを出せるサイトに問題あるんだと思います。
▲29 ▼1
=+=+=+=+=
顔写真が個人情報というなら、卒業アルバムのようにどこへ流れていくか分からないようなものには載せるべきではないだろう 事件が起きると犯人の顔写真が卒業アルバムに掲載されたものでしばしば報道されているが、これも誰かが報道機関に流したものだ 悪事を働いて顔写真を晒されるのは自業自得かもしれないが、ディープフェイクポルノなどで自分の顔写真が広められてはたまったものではないだろう 結局、そういう時代になったのだと思う
▲15 ▼11
=+=+=+=+=
一時期ディープフェイクとか言って、芸能人やアイドルの顔とアダルトビデオの映像を合成したのが流行ったのを思い出す。基本的にはその延長だがAIの進化によってハードルが大きく下がったのだろうね。ディープフェイクは配信サイトへの取り締まりの成果によってか一気に廃れたが、一般人ともなるとすべてを取り締まるのは不可能だろう。厄介な時代になったものだ。
▲5 ▼0
=+=+=+=+=
便利な技術が登場すると、必ず悪用する人間が出てくるのが人間社会である。一番いいのは、悪用の様々なケースを想定した刑法整備が整うまでは、利用を禁止することなのだが、現実的ではないのが実情だろう。便利さをいち早く享受したいのが、人間の業とも言うべき欲望だからである。そして、犯罪行為の被害者が出て社会問題になるまで何も動かない。初動の被害者はヤラレ損という訳だ。人間とは、なんと頭の悪い生き物だろう。こういうサイクルを繰り返しながら、ここまで文明を発展させてきた人類だが、いずれこの欲望優先のやり方が、大きな仇になる時が来ることだろう。高度な文明の技術がもたらす犯罪は、古代とは比較にならないほど早く広範囲に及ぶものだからである。
▲0 ▼1
=+=+=+=+=
卒アルの写真なんて、こういった分野で悪用に使われれば防ぎようがない。そして法整備も、ハッキリ言って難しいというか、不可能だと思う。 そもそも日本人に限らず人間は、今まで個人情報を晒すことの危険性に関して、あまりにも無頓着過ぎたんだよ。自分の顔と名前、性格に関する情報を知っている人間は、敵になる可能性があるという心構えを持つべきだ。
▲4 ▼1
=+=+=+=+=
卒業アルバムはもういらない。写真が高価だった頃の名残りだと思います。学校は前例踏襲で何も考えていない。学校教員は言われたことを行うロボットで、自分勝手な教育を押し付けることはしても、社会の変動や法律、統計を咀嚼したアウトバウンドの思考能力はない。学校には法律専門家も、ITの専門家もいない。 セキュリティ、プライバシー、いろんな問題がある。
▲0 ▼0
=+=+=+=+=
卒アルはみんな写ってるから注目度高いけど、芸能人やインフルエンサーの顔モデル（loraとか）が普通に出回ってるからねえ、卒アルが使われるのは十分想像できた。
仮に法整備するにしても、私人の顔写真をどこまでいじると駄目なのか、持っているだけで駄目なのか、その写真は本当に生成したものなのかん証明は、生成じゃなくても加工だけでアウトなのか。 論点いろいろありそうですね。
▲0 ▼0
=+=+=+=+=
昔は公衆電話や家庭に当たり前に配布されていた電話帳が今となっては信じられないですね。表札に住所の詳細や家族全員の名前を連ねることも。
学校の名簿には住所、氏名、保護者の名前の他に父親の職業まで書かされていました。これに関しては片親世帯だってあるのにと、当時から馬鹿らしく意味のない事と思っていましたが...
もうほとんど何でも偽造できる、何も信じられない世の中ですね。
▲4 ▼2
=+=+=+=+=
個人情報の観点で卒アルも無くなって行くのだろうか 昔の卒アルには住所電話番号まで載っていた。アルバムを見られ知り合いの知り合いという人から連絡があったりもした。今では考えられない筒抜け感。自分の写真を載せる事を嫌だと思う人もいるかも知れない、悪用されるだけで無く、個人の写真と名前を載せることも疑問に思う人もいるだろう
▲5 ▼3
=+=+=+=+=
そういう事しかできない暇人がいるから周りが考えないといけなくなる。もっと違う方向に頭を使えないものかなと思う。 AIを使ったとしても加工する技量、知識があるのなら。
詐欺師なども詐欺を働く為に色んな事を吸収するのであれば、その熱量を別で活かして欲しい。
▲6 ▼1
=+=+=+=+=
みんな好きな楽しいコスプレして写真撮ればいいんだよ。 情報は隠すよりも、意図してエディットしたものを出して一貫性がないようにしたほうが、結局は利用価値が下がっていいと思う。
▲15 ▼17
=+=+=+=+=
個人写真でなく集合写真なら被害が防げるのでしょうか？少なくとも学校は責任のがれができるから、それほど時間がかからず全部の学校が個人写真は載せなくなるでしょう。でも、事件報道ではたいてい卒業アルバムの写真が使われたりしているが、過去の卒業アルバムは既に名簿業者などに売られて写真がデータ化されている状態ではないでしょうか？中国はマイナンバーカードの写真で政府が国民がどこに行っても顔認証で追跡できるようになっているし、身分証明書の写真や履歴書などに貼った写真なども悪用される危険性があると言えばありますね。
▲0 ▼0
=+=+=+=+=
単純に静止画の悪用なら卒アルに限った話ではないですよね… 加工し得る写真、動画、SNS全てが危険の対象であって、それらを全て廃止にでもしますか？ 卒アルの写真掲載を辞めたところでそれが根本的な解決策になると本気で思っているなら日本も終わりですよ。 対策は悪人に対する制裁の強化です。 本件に関わらず、近年、問題解決の期待性の薄い対策をして自らこの世を生きづらくしてる感が凄いですよね… 悪に対する制裁は変えずに、技術の進歩に伴い善人が制限を受ける社会。 このままでは自殺率もどんどん上がるのでは？
▲0 ▼5
=+=+=+=+=
AI云々の話しはそういう犯罪まがいのことを行う奴らのほうが問題であって、そんな奴らのせいで卒業アルバムがやり玉に上がるのが不条理だと思う。
それとは別に、不登校とかの理由で卒業アルバムに顔写真を載せたくないという人たちが一定数いるのは確かなので、卒業アルバムの是非は今後も議論はされるものとは思う。
▲16 ▼1
=+=+=+=+=
もう既に卒アルをもらった身として将来無くなろうがどうでも良いが、こうやって昔は良かったなぁと思いながら歳をとることを実感する。あらゆることを考慮し、廃止されてゆく世の中で最終的に行き着く未来の世界はどんなものなのか非常に興味深い。
▲10 ▼4
=+=+=+=+=
もう学校は卒アルにかかわらない方がいい。 必ず「卒業アルバムが配布されたせいでフェイクポルノの被害者になった」と言い募る向きが出てくるからだ。すでに学校行事などの公的なものはネット上でも個人を特定できないように加工するか、そもそも載せていない。その勢いの赴くところ、卒業アルバム自体がリスクとなる。そんな物無くても良いのだ。
▲7 ▼6
=+=+=+=+=
> AIの活用はさまざまな面で大きな恩恵を与える一方で、同じくらい悪用されるリスクもある。
これはAI技術の発展と共に、危惧された事かと。
世の中の便利で汎用性の高い技術は、殆ど何でも似たリスクを抱えていると同時に、大抵の場合は『悪用する人間の方が新しい技術を活用するのが早くて上手い』のですよね・・・コンピューターウイルスとワクチンソフトとの闘いの歴史が最たる例ですが、ズルい人間はヘンに賢いと言うか（汗）
もちろん真っ当な活用方法とは異なり、技術の不完全さで問題を起こすリスクや、世界への負の影響力を無視して、技術的に可能なら即座に悪用するが故の早さなので、普通に褒められるモノではないしょうが、それでもその高い技術力や発想力を正しい方向に使ってくれたならとも思います・・・。
▲0 ▼0
=+=+=+=+=
20年ほど前からありましたね。芸能人などの顔写真をAV女優の身体が写った写真と重ねて顔だけ交換して好きな芸能人のポルノ画像を作るってのが。今はAIですが、やってることは何も新しいことではありません。ただ、可能性が広がったという問題はあります。AIを使えば、好みの場面を自由自在に作れます。自分の学校の教室を撮影した画像があれば教室内のシチュエーションで同級生のポルノ画像を作ることも可能です。それが問題なわけですよね。無いものが勝手に作られ本人の知らないところで事実か架空かがわからないまま拡散される。知った本人はとても傷つきます。顔写真を載せない以外に物理的に取れる対策はありませんね。卒業アルバムに顔も載せられないって、寂しい世の中になったものです。
▲3 ▼5
=+=+=+=+=
大前提として、画像の生成AIというものは、主にネット上の写真や絵を数十億のデータを検索して合成しているものだということが日本ではまだまだ知られてないことに脅威を感じています。
何もないところから、写真にしか見えない画像は生えてきませんよ。写真に見える生成AIは、基本的に世界のどこかの誰かの顔の写真が組み合わされてると思ってください。本人の知らないうちに被害者になってます。ニュースなどで顔の出ている事件の被害者の顔なんかも使われて遺族が嘆くニュースもありました。
韓国は性的なディープフェイクを作ることに罰則できましたし、閲覧も禁止になってます。うらやましいです。
▲5 ▼4
=+=+=+=+=
個人情報の保護の観点もあるし、もう学校側が卒業アルバムを作る時代は終わってきたと思う。
それこそ生徒たちのスマホには学生時代を彩る写真が山のようにあるだろうし、簡単にアルバムなんか作れたりもする。
同じ年齢の同じ地域の学生の写真の集まりである卒業アルバムなんかは、名簿屋からすると本当に価値の高いものなんだろうなと思う。
▲7 ▼4
=+=+=+=+=
昔なら、あの子どんな体してるんだろう？と想像の世界だったけど、現代は写真をＡＩで加工や合成をすれば、簡単に裸画像が作れたり、絶対に裸にならない場所で裸になったような画像が作れる。段々と恐ろしい世の中になってきてます。これは難しい問題です。
▲5 ▼1
=+=+=+=+=
性的画像は良くわかりませんが、デザインの現場とかではAIの進化を脅威に感じている人も多いともいます。そして、AIが本当に実用に於い問題の無い精度になった時、人が作ったモノの良さが再認識される時代が訪れると予見しています。お手軽で完璧なものは場合によっては嫌われる。
▲2 ▼0
=+=+=+=+=
この間テレビでやっていたけど、卒業アルバムの個人写真をAIによる性的画像にして流出させているのは、被害者の同級生の10代の生徒らしい。 しかも今の卒業アルバムの写真は、昔と違いデジタルだから加工しやすいんだろうし、『卒業アルバムを作らない』ことしか対策はないよね。
▲7 ▼5
=+=+=+=+=
この記事以外のことになるが、AIは企業のコスト削減に使われ、AIに任せられる仕事はAI化 それらの職業は、人間から雇用を奪い始めている 今、回転寿司での従業員なしで席に付けるシステムがひとつの例 物流はほとんどが自動化して、ドライバー職はほぼ奪われるだろうし 社会は進化、発展きたものだから仕方ないけど、これ以上進化するとつまらない世の中になりそう 極論を言うと、芸能タレントもほとんどAIになってしまうのかも
▲2 ▼9
=+=+=+=+=
対策は必要だとしても、まずやるべきは罰則の強化じゃないか？ 卑猥であってもなくてもディープフェイクに社会へのメリットなんてないし、ディープフェイク自体を違法行為にして厳罰化してしまえばいい 全て取り締まることは難しくても、局所的に人員を割いて立件して厳罰に処せば見せしめになって抑止に繋がる 犯罪者のために社会が捻じ曲げられるのは健全じゃ無い
▲71 ▼16
=+=+=+=+=
使われるのが嫌なのはわかる。
正直この理論で卒アルを廃止するのは議論が飛躍しすぎている感はある。
今までの文化や歴史を捨ててまで規制する必要がどこまであるのか冷静に考える必要あると思う。
例えいくらコンテンツ側(今回だと卒アル)を制限したって「世の中のディープフェイク」が無くなることは悲しいが現実的には不可能なので、AIがもっと法整備や規制強化していために進化していくしか根本的に解決できない。
▲26 ▼10
=+=+=+=+=
本物のポルノ俳優はネット上でちゃんと顔や所属事務所などを登録するようにして、未登録の顔をしたポルノ画像がアップされた時はAIが検索して自動で削除＆アップロード元のIPアドレスなんかを当局へ連絡する・・・そんな仕組みでも作ればいいのでは？
▲9 ▼7
=+=+=+=+=
誰かがコンテンツを広めていても、それを作ったやつとは限らなくて、そいつを捕まえても元を断てるかはわからないので、有名人は対策しようがないですよね。外国人が作ってるかもしれないですしね。 一般の人は極力顔を出さない程度しか対策できないでしょうね
▲2 ▼2
=+=+=+=+=
デジタル技術の進化により古来からの芸術が失われ、次のフェーズは著作権の喪失か…。 これをポジティブに捉えれば、著作権が無くなることにより、また本物の芸術が生まれる土壌ができるかもしれない。
▲1 ▼0
=+=+=+=+=
そもそも生成AIなどというものが存在するからこういう事態になるのだ。一般も使えるようにすればエロ目的に使用されるのは想像に難くない。生成AIを開発公開した者はこんなことぐらいはわかっていたはずたが？ 今すぐにでも生成AIなどという下衆なものは使えなくするべきだな。こんなものを技術革新だなんだとありがたがるのもとんでもない話だ。
▲99 ▼58
=+=+=+=+=
デジタルでコピー防止技術を施したとしても、仮想環境で表示しホスト側からキャプチャすれば透かし無しの写真が複製できてしまいます。 結局は手にする側に個人情報の取り扱いについて啓蒙するしか手がないのではないでしょうか。
▲2 ▼1
=+=+=+=+=
写真なんかもライセンスナンバーをデジタル化し投稿者がどこのサーバから出ているのかを容易に調べられる様なシステム作りが必要かな。 悪用し勝手に世の中に放出するのは肖像権侵害だし逮捕、慰謝料とれる様にしないと後を経たないですね
▲0 ▼2
=+=+=+=+=
本物と全く見分けが付かないフェイク画像や動画がありふれたものになれば、「どうせディープフェイクでしょ」と誰も取り合わなくなる可能性もあるのかなと思います。
▲6 ▼1
=+=+=+=+=
うわあ…なるほどなあ… そんなところにまで気をつけないといけない時代なんですね。テクノロジーが進歩するのは有難いことなんですが。 原子力やクローンは大衆化してないからまだ大丈夫だけど結局使う側の倫理観が問題になりますね。 拡散したり流出したりした時のセーフティネットの意味でももう少し規制した方がいいかも知れませんね。この件のみならず、いろんな面で公共の福祉よりも個人の権利が優先され過ぎなように思います。
▲1 ▼2
=+=+=+=+=
YouTubeで素材を加工した人物が喋ってるのをよく見かける。まばたきをして口を開けたり閉じたりする、だが違和感がある、なんだか気持ち悪い、これは加工だとすぐわかる。いずれ加工か本物かわからない時代がくるでしょう。個人が楽しむだけなら何ら問題ない。記事は卒アルにふれてるが今の時代ある程度の“おおらかさ”も必要。何でもかんでも規制！規制！と息苦しい時代になってますね
▲2 ▼1
=+=+=+=+=
昔の映画のトータル・リコールで、シュワルツェネッガーの顔をコンピューターでスタントマンの顔に合成して演出するシーンがあった。当時は、実際にそんな不思議なことできる訳ないと思っていたが。まさか簡単にできる時代になるとは思いもしなかったな。
▲2 ▼1
=+=+=+=+=
ＡＩを悪用した犯罪については徹底した厳しい罰則を設けるべきだと思う。今後はフェイク画像等高度化していくのは間違いない、今、ＡＩ使用に関する法整備を国際的にしておかないと近い将来人間社会は混乱するだろう。
▲8 ▼4
=+=+=+=+=
これからもっとディープフェイクが普及してくるんだから、とりあえず全部ディープフェイクだ！って言ってればいいじゃない。 そのうち誰も本物と思わなくなるし、本人がフェイクだとわかっていれば仮に裸の画像を作られても恥ずかしくなんかないでしょ。
それに実際に本物が流出してしまっても本人が｢あれはディープフェイクだよ｣って言うだけで誰も本物とは思わない。
▲6 ▼2
=+=+=+=+=
ずっとイラストレーターたちが危険性を訴えてただろ
絵だから自分に関係ないとAIを使っている、危機感がない人、推奨している人たちは、次が生身の人間の画像を生成されて犯罪に使われるんだと
ずっと警告してただろうよ、だから反対してたんだよ しかも今ある生成AIの基本データが性犯罪なども含む犯罪データと無断で取り込んだ画像しか無い 日本にはAIを規制する法律がないから、自分の顔と死体の画像が合成されるのが当然の国になってる
▲9 ▼7
=+=+=+=+=
大切な記念の品だし思い出が詰まっています しかし高齢になり遺品となれば遺族はゴミとして処分するだけです。 終活するならキッパリ処分しちゃいましょう 戸建ての遺品整理を業者に依頼すると100万円掛かる時代になりました。 生きてるうちに自治体で捨てれば費用はタダ
▲5 ▼5
=+=+=+=+=
フェイク画像が増えるほど、本物じゃない むしろ「フェイクじゃない」「無加工」であると認証された画像に価値が出そう。 そして、どんなに自然なフェイク画像ができても、どうせフェイクでしょ、って信じてもらえなくなりそう。(プリクラのように、加工が当たり前になれば、加工されている前提で見るように)
▲0 ▼0
=+=+=+=+=
昔から有名人のコラ画像とか出回っていた。 今はAIがある。 悪用されると困りますね。 AIの悪用で声を商売にする声優さんも困ってました。 AIの悪用が拡大する前に法整備した方が良い。
▲6 ▼2
=+=+=+=+=
こんな話もあるし、勝手に三菱UFJ銀行騙ったメール送ってきても逮捕された話も聞かないし 兵器の機密盗んでも先進国で再開唯一逮捕されない日本だし もう少し情報に関してキチンと対応して欲しい。
▲92 ▼5
=+=+=+=+=
こういうことが起きるといつも変な方向に話が進む。 卒アルが悪いのではなく、変なことに利用する奴が悪い。 そういう奴をガンガン取り締まって、罪も重くすりゃいい。 卒アルまで無くしたら、そのうち何の思い出もなくなる世の中になるぞ。 先日、何十年ぶりに同級生と再会して、卒アルが役に立ってます。
▲47 ▼12
=+=+=+=+=
とある女子校で図書館所蔵の卒アル「顔写真」をスマホで撮るのが定番になっています その図書館は授業で使用することもできるため、休み時間になると卒アルを閲覧する生徒達で書架がいっぱいになり、歓声の中カメラのシャッター音が聞こえる 司書が撮るのを辞めるよう言い、その場でデータを消すのを見届けても、その一瞬だけで司書が居なくなると、すかさずシャッター音が聞こえます 教師に伝えても無駄で聴く耳を持ちません 閲覧出来ないよう書庫へ移す計画を立てましたが、放課後になれば卒アルを閲覧する為だけにやって来る生徒がいて仕方なく見せると歓声とシャッター音が・・・ 専任の司書にも伝えましたが、『一度注意しても聞いてない。もう無理』とお手上げ状態だったので、結果的に放置でした
▲2 ▼1
=+=+=+=+=
近年学校を卒業した子が「友達との写真がバリバリ加工したやつしかない……」と嘆く話がちょっと前に話題になったけど、もうもはやそれでよかったのではとすら思える。素の写真はうかつに残したらアカンのかもねえ。 アルバム、必要な人には宝物だけどいらん人にとっては言い方悪いけど扱いに困るゴミだもんね、売れるなら売っちゃう人はいなくならないでしょう。
▲1 ▼4
=+=+=+=+=
やはりエロ関係は時代の最先端を走るということか。 人間の煩悩が、良くも悪くも技術革新を後押ししている。 制作者を特定できる仕組みが早急に必要だね。 法整備はどうやっても後手後手になるのがもどかしい。
▲0 ▼2
=+=+=+=+=
いや、すでに無理。 aiというパンドラボックス開けてしまったようで、量子コンピュータ出来たら更に酷くなる。写真自体を無くしても、今度は監視カメラやマイナカードから改変も十分考えられる。 恐ろしいと言うより、既存システムが崩壊寸前である。暗号も破られるのが時間の問題で、必ず大事件になる。。
▲6 ▼1
=+=+=+=+=
これはもうどうにもならんわな AIというのは、その存在が始まったときから、悪用、ないしは暴走するとフィクションの世界では当たり前のように扱われてきた フィクションのよりもノンフィクションの人間のほうが悪辣であることを考えると、このレベルの悪用は当然と言っていい 進歩の悪用は今に始まったことではない 卒アルなんて楽しめるのは卒業後数年 やめればいいよ
▲5 ▼5
=+=+=+=+=
＞少子高齢化で卒アルへの個人写真掲載が定番化している中、
この文章の意味がわからない。
僕が学校に通っていた頃はスマホもなく、学校内で写真を撮ることもほとんどなかったから、卒アルに載る好きな子の写真がすごく貴重だった。でも、今は環境が違うよね。 それに、卒アルの料金も高額だと思うので、廃止も検討していいのでは？
▲190 ▼54
=+=+=+=+=
もっと人間ということをしっかり実感させる教えをすべきですね 毎日毎日東京も横浜も、一体人間を何だと思うんだという人が横柄な態度しますが、やはり外国人が入るのも規制ですね 良くない教えを振りまいてしまう トランプは好きじゃないが、トランプの掲げる政策は回り道しただけ、悪い部分をよく見ている
▲1 ▼1
=+=+=+=+=
デジタルの進化はこうゆうことにも繋がります。だからといって、いまさらアナログに戻しましょうなんて若い世代には受け入れられない。 意外と若い世代はこのようなリスクも承知で楽しんでいる。100%ホンモノだと信じて生活してる人はいない。こーゆーことに騒いでるのはおじさんおばさん世代だって周りはみんな言ってる！
▲2 ▼4
=+=+=+=+=
当たり前の話なのですが現行法下でもディープフェイクを作って公開するのは名誉棄損や肖像権侵害にあたり、実刑判決が課される犯罪行為です。
当然判例もあります。 2019年から20年にかけて女性タレントの動画を性的に合成して販売し、名誉棄損と著作権侵害（合成元となった動画の分）の罪に問われ、懲役2年、執行猶予3年、罰金100万円が課される判決が下されています。
AIを使えば無罪とか言う良く分からない方もいらっしゃいますが、包丁を使えば殺人はOKと言うような滅茶苦茶な論理です。 手段を問わず、やってはいけない事はやってはいけない、当たり前の話ですよね。
▲5 ▼1
=+=+=+=+=
デジタルだろうとアナログだろうとこういうのを完璧に防ぐことは不可能だし、要は悪用されたときに学校側が責任取れないから載せられませんっていうことだわな 将来同窓会で盛り上がるためには生徒自身で写真を撮りまくる必要があるわ
▲1 ▼1
=+=+=+=+=
AIを使った写真の判別が出来たら、いいと思うけど…非AIとAIを使った価値…モラル…取締…犯罪の法律…規制…被害… そのうち労働、お金、などなど全部、価値がなくなる。崩壊の始まりのような気がする
▲0 ▼0
=+=+=+=+=
個人の住所を掲載していた時代、危ない業者が高額で生徒たちから譲り受けていた。
最近では、凶悪犯罪者が同級生とわかった瞬間、当時のアルバムの個人写真をマスコミに売る。
そして、AIによる性画像か。
確かに、デメリットも多すぎるけど、何年か経ってアルバムを手にするとほっこりもする。スマホでいくらでも同級生の写真を撮れるんだけど。
でも、やっぱり廃止の方向に向かうんだろうな。
▲4 ▼1
=+=+=+=+=
卒アルの個人写真だけではなく、入学式や体育祭や文化祭などの行事、部活動などの写真でさえも悪用されかねない。 このままだと卒業アルバム自体がなくなってしまう、ホント悲しいですね。
技術が進歩しても、人間の倫理観や浅はかさは変わらないのかな…
▲5 ▼1
=+=+=+=+=
＞「卒アルは（生徒の在学を証明するツールでもあり）、卒業生の個人写真を載せてこそ意味がある」
この（ ）の中は記者が補ったのか？ 在学事実の証明は卒業証書の役割であり、全員の顔写真を載せた卒アルには、そのような役割はない。
在学年次と学級、顔写真、氏名が紐づけられた名簿は機微情報そのものであり、そういうものを作成すること自体が危険。 全卒業生に配布するなど、あまりにリスクが大きい。
思い出は心の中に残せばよい。 学校が関与して冊子をつくる必要はない。
▲150 ▼133
=+=+=+=+=
生成AIを使用するには作成した個人が特定出来るようにするとか、そんなことは不可能なのかな？ いかがわしい事を作ることは止められずとも、作った人間を突き止めることが出来るようにして訴えられるようになればいいけど…
▲1 ▼3
=+=+=+=+=
顔を置き換えるとか声を置き換えるとか、似たものと似たものを置換して不自然さをなくすのは生成AIが最も得意とするところの一つですからね こんな卑劣で下賤な犯罪は一刻も早く撲滅してほしいところですが、日本が生成AIの法整備に消極的なんですよね…なんででしょう？
▲4 ▼0
=+=+=+=+=
卒アルももう無しにするか。学校生活の写真をデータで保存しておいて児童生徒が自分で好きな写真をダウンロードして世界に一つだけのアルバムを作るというのはどうでしょうかね。 まぁそれをすると町の写真屋さんは大打撃だろうけど。
▲2 ▼3
=+=+=+=+=
私の父(団塊)の時代 卒アルに生徒の住所電話番号は当たり前、先生の住所電話番号もあった上、職業高校だと就職先(!)まで載っていた。
私(アラフォー)の時代 小学校の卒アルは住所電話番号あり、中学校高校は住所のみ、教員も同じ。
今の所小学校は卒アルがあるようですが本当に個人情報に気をつけて余計なものは載せずに「SNSに載せる、無断転載を固く禁ずる」とか載りそうかな。
▲1 ▼1
=+=+=+=+=
そんな事をいえば、街中で風景撮影していると装って、道行く人をランダムに撮影して、AI使った性的偽画像作成も有り得るという事ですからね。何時被害者になるか分かりませんよね。
▲13 ▼2
=+=+=+=+=
どんどん変な時代になってきたなーと思うけど、そもそも卒業アルバムって何のために全員の顔写真載せるんだろう… 自分は高校生活楽しかったし好きでしたけど、卒アルの写真を撮るときに笑顔で！としつこく笑顔を強要されたのが気持ち悪くて、頑なに無表情を貫きました。。 あれ、偽物の笑顔の子多いですよね… 楽しい学生生活でした、を装うための大人の自己満では…と子供ながら疑問だった。 高校生活は楽しかったですけど。 昔ですら友達と各々写真を撮っていたし今の時代は特にスマホで仲良い子同士撮ってるだろうから 悪用されるならわざわざアルバム作る必要は…無い気もする。
▲70 ▼67
=+=+=+=+=
今じゃ卒アルもそう言うのに使われるって、なんだかもう人間はモラルもクソもなくなっているんだなと改めて実感した。卒アルってたまに見返したりすると自分の人生を見直す機会にもなったりして良い思い出だなって思ったり、子供とか親が自分と同じ年齢の時どんな顔してたんだろ？とか知りたがったりするから自分の学生時代の卒アル見せて盛り上がったり、パパママが学生時代好きだった人がこのクラスにいるんだよ！！とかさ。そう言うのも出来なくなっちゃう時代なんだな。なんか悪用する奴だけのために自分達の思い出作りの物さえ出来なくなるってどうなんだろな。
やっぱりちょっと悲しいよな。
▲1 ▼2
=+=+=+=+=
昔の電話帳は個人宅の電話番号と簡易的な住所（〇〇町〇番地くらいまで）載ってましたが、今はさすがに有りません。 同じ様に顔画像は個人を特定する重要なデータです。時代の流れには逆らえないので、卒アルはもうやめた方が良いと思います。
▲84 ▼45
=+=+=+=+=
もっと普通の合法ポルノを増やしてわざわざ危ない橋を渡ってこういう違法なものを作らなくてよいという環境を作っていくしかないと思います 北風と太陽の童話もそうですが 強引に奪おうとするより充分すぎるほど与えた方がうまく行く場面は多い
▲116 ▼105
=+=+=+=+=
まず作ってネットにあげたりしたやつは厳罰にするべきだし、そもそも勝手に人の肖像とかをAIに通せることがおかしくないか？ 普通に考えて当人の許可なく無断で人の肖像や著作物を読み込ませた時点でアウトだろ・・・
世界中で規制が始まってる中で今年のはじめに岸田氏がリーダーシップをとっていくとか言ってたくせに今更こんな状況、周回遅れ過ぎるでしょ。
▲12 ▼2
=+=+=+=+=
顔写真の真下に漢字で氏名まで載ってるのが怖いと思う。 そこだけ切り取られて、SNSで出回ったりする。 顔写真と名は別紙で管理したらどうか。 そもそも漢字氏名は個人特定しやすい。珍しい名ならなおさら。
▲3 ▼4
=+=+=+=+=
若い人達だけじゃなく数十年前から 卒アルはあります。
卒アルじゃなくても、ファッション雑誌のモデルだって同じくでは？ じゃあ雑誌は無くしましょうとはならないと思うけど。
▲1 ▼2
=+=+=+=+=
卒アルの流出経路ってどこが多いんだろう。 小遣い稼ぎの感覚で売ってしまうのだろうか。
AI関連は法整備が全然追い付いてないのも問題だよなぁ。
▲0 ▼0
=+=+=+=+=
AI使用は厳しく規制化した方が良いでしょう。イラストに使用されるのもどこかの誰かさんの写真を使用している可能性があります。
▲10 ▼5
=+=+=+=+=
高度なAI生成画像が作り放題な社会になれば 顔の写真流出やライン画像流出など、もはや何の意味も成さなくなる
それはそれで個人の名誉は守られることになるので ある意味歓迎すべきこと
▲29 ▼62
=+=+=+=+=
５０代学校勤務です。 私の時代は、写真といえば学校の卒業アルバムくらいしかありませんでしたが、スマートフォンでたくさん写真を撮れる時代。 学校が主体で卒業アルバムを編集する時代ではなくなったと、廃止を提案しています。
▲3 ▼2
|
|
|