=+=+=+=+= 

生成AIは使う側の倫理観やリテラシーが強く問われる。「なんでもできる」からこそどう使うのかを適切に判断できなければいけないし、情報の真偽もふくめて客観的に見極める力が必要。ChatGPTもそうだけど、生成AIは正しくない答えでも堂々と正解然として答えを出してくる。 

生成AIを発展させるのはいいけれど、少なくとも義務教育段階での利用は慎重になるべきだと思う。 

▲3071　▼211 

=+=+=+=+= 

卒業アルバムは、学校生活の集大成として卒業時に配布される記念冊子です。写真が中心で、クラス集合写真、個人写真、行事の様子、部活動、先生方の紹介などが掲載され、学生の思い出や人間関係が形に残ります。制作には生徒や教職員が関わることもあり、メッセージ欄に仲間への言葉を記すケースもあります。デジタル化が進む近年ではオンラインアルバムも登場し、閲覧や保存が容易になっています。生成AI（生成型人工知能）は、与えられた指示やデータから新しいコンテンツを自動的に作り出す技術です。例えば文章、画像、音声、動画などを創出できます。言語モデルが代表的で、人間のような自然な対話や文章の作成が可能です。近年はChatGPTやCopilot、画像生成AIなどが注目され、教育、ビジネス、医療、芸術など多様な分野で活用が進んでいます。 

元浪速のモーツァルトです。生成ＡＩの悪用けしからんわ 

▲76　▼131 

=+=+=+=+= 

科学技術の進歩は素晴らしいことですが、一方で技術が犯罪行為に悪用されることも多く、早急な法整備が必要だと思います。 

生成AIは非常に便利ですが、他人の顔写真を利用して猥褻な画像を作成する行為は、違法な行為といして厳しく罰するべきだと思います。 

自分の顔写真で勝手にエロ画像なんて作られたら誰だって嫌ですし、それがネット上に半永久的に残り続けることになれば、更なる被害を生むことになりかねません。 

ただちに規制して欲しいです。 

▲1523　▼64 

=+=+=+=+= 

モラルが問われる点で昔の名簿屋とそこに名簿を売る人の問題と似ている。今回の件は悪意が感じられコラージュやパロディとは違い法規制が必要だろう。ヌードコラージュで被害にあったことのある三原先生に刑法改正か特別法の制定でがんばってもらいたい。 

▲0　▼0 

=+=+=+=+= 

ノーベルさんはかつて鉱山開発などのために 

ダイナマイトを開発しました。しかし、同時に 

戦争で使われ、多くの死者を出してきました。 

AIに関しても同じことが言えます。使い方によっては便利ですが、一方で犯罪者に目をつけられ多数の被害者を出す。これを止めるには法整備を行うことが必要不可欠です。なので早急な整備を望みます。 

▲1199　▼71 

=+=+=+=+= 

最新技術の悪用 

それは昨今著しい 

動画のサイトも本人に成りすまし 

登録者百万人突破から始まり 

二万円から毎月数十万儲かるなど 

詐欺ばかりが目立つ 

他SNSサイトも成りすましで埋め尽くされている 

本来ならJAROのような組織が監視すべきところ 

政府はそんな正義感も何もなく 

政権に都合の悪い情報を制限するような発言ばかり 

次の政権には是非期待したいところ 

▲2　▼0 

=+=+=+=+= 

コラージュはサブカルチャーアートとして悪戯っぽい手法でよく描かれた時代がありましたが、元ネタを敢えて分かりやすくしていた為、出所は特定できました。この手法は非合法性があり、肖像権や著作権の侵害になることは言われてきましたが、逆説的な意味合いで見る人に強く伝わることは確かだと思います。 

最近のAIの加工は表面的には真正の画像と区別がつかない程、精巧なのでコラージュ的手法と相まると人の興味を加速度的に引き上げると思います。 

特に性的なものは興味に対して規制が前提としてあるものなので大変危険です。 

商業的に、興味本位でこれ等が出来ないようにそれこそAIでオートマチックに規制できるようにするべきです。 

▲91　▼19 

=+=+=+=+= 

教師やってまして、子どもたちがこんなもので加工されたらたまったものじゃないと思い調べてみたのですが、その手の「脱衣アプリ」はネット上に大量に存在するようです。 

こんなものが横行したら誰も安心して写真なんか撮れなくなる。学校のホームページでもむやみに高画質のものを使わない、個人のSNSでも不用意に顔を出さないなど、色々気をつけることはありますが、できることにも限界はある。 

おそらく例の教師の盗撮事件で使われた共有サイトもそうなんでしょうが、海外のサイトで、しかもこの手のものは何重にも海外のペーパーカンパニーを経由して運営元の特定すら困難なようです。そうなると元を断つことが実質不可能です。 

いま、ホームページとかたよりとかで子どもの活動をアップして保護者に共有することが求められる時代なんですが、こういう懸念もある中で、どういうやり方がベストなのか、考えていかないといけない。 

▲1114　▼54 

=+=+=+=+= 

これって作成だろうと盗撮だろうと最終的に児童ポルノ行為に成るのだろう、今話題で流行的に学校の教師が女子生徒の着替えなどの盗撮の件、極めて児童ポルノ行為じゃん、なのに盗撮に対する罰則が軽い罰則に成ってしまうのか疑問、盗撮、わいせつ行為しながらスマホなどで動画撮影や写真撮影とかする人がいる、そして公開してしまうって事は児童ポルノだろう、だから盗撮、わいせつ行為、痴漢を含め、性犯罪した人をに対し重い厳しい罰則の体制を考えるべきだと非常に思います、子供達を守る為に及び子供達が安心して学校へ通える様に被害者を出さない、増やさない為にも法律を変え性犯罪に対し厳しい罰則を 

▲394　▼18 

=+=+=+=+= 

なぜこのようなことをして楽しいのでしょうか？ 

頭の中の構造をみてみたいものです 

とても不快なことですし対象にされた方のことを思うと不憫でなりません 

きっと社会にも溶け込めずに閉じこもっている方なのでしょう 

人と接しておられたらもう少し早く歯止めが効いたのかもしれませんね 

そういう意味ではこのような事をする人自身も不憫な方かもしれませんね 

▲210　▼75 

=+=+=+=+= 

「卒業アルバム」を巡る犯罪は今に始まった事ではなく 

自分が小中学校を卒業したのはまだまだ平成の頃だったけれど、当時はスマホは世に出ておらず、自分はいわゆるガラケーは持ってはいたが周りの普及率は低かった。 

そんな時代だったからか、当時の卒業アルバムには卒業生全員の顔写真に加え「自宅の住所」や連絡先も記載されていた。地域の繋がりが強い地方などでは結構あった事では。 

そんな中、卒業生に街なかで声を掛ける「オトナ」がいた。卒業アルバムを売ってくれ若しくは貸してくれ、と。数万円で。10代の少年少女には大金だ。 

使用用途な「芸能人のスカウトをしてる」なんて子供には聞こえの良い理由でその気にさせる。が。 

その実は、可愛い少女に目星をつけ、自宅付近をストーキング。 

声掛けやナンパはまだ優しい方で、子供が自宅に一人のタイミングを狙い家に上がり込む事件もあった。 

時代や社会が変わっても、人の欲望は変わらない。 

▲354　▼15 

=+=+=+=+= 

なぜAIを一般向けにしたのか。スーパーコンピューターのように使用権限を技術者のみにして、公共の利益のための社会的利用に絞ることもできたはず。 

データ収集のためかもしれないが、こうなることは目に見えていた。 

ここまできたら、もう誰にも止められないと思う。どんなに規制してもいたちごっこ、SNSや卒アル、インターネット上にあげた写真は全て素材になり得るということ。明日は我が身、他人事だと思わない方がいいと思います。 

▲509　▼79 

=+=+=+=+= 

便利でも使い方を誤れば実害があるものは適切に法整備をするべきです。自動車、刃物、火薬、薬物。それらと何ら変わりません。 

ちなみに、画像をアップロードした時点で生成AI側には学習をされてしまうので、知らない誰かが性的な画像や悪意のある画像を作成した際にその画像に映っている人と同じ顔で出てくる可能性があります。 

家族や身近な人の写真をアップロードすることも、規制ができない現行法とシステムの中においては避けるべきでしょう。 

▲1　▼0 

=+=+=+=+= 

デジタルクリエーターを自称する輩が勝手に他人の画像を加工して流通させている実態があります。もちろん、中には許諾を取って作品を公開している本当のクリエーターもいますが、大半は無許可で好き放題の行為に及んでいると思われます。肖像権自体がかなり曖昧さを含んでいるうえに、ネットワークの普及やAIの登場などを想定していませんから実態にそぐわなくなってきていると思われます。当面はネットパトロールなどで後手の対応をするしかないのではないでしょうか。 

▲293　▼38 

=+=+=+=+= 

生成AIやSNSが発達して、確かに技術の進歩は素晴らしい物があるが、その反面、新手の犯罪として、こうした技術を悪用したものが増加している。卒業アルバムを悪用して性的画像を勝手に作ってばら撒くとか、教え子の着替え姿を盗撮してSNSで共有するとかいった、やられた方の精神的被害を全く考えていない犯罪が加速度的に増加しているのを見ると、最新技術も、使い手の考えようで凶器になると、改めて感じさせられる。上記のような犯罪を犯した者には、電子機器の使用を生涯禁止するといった法律の整備とか、SNSや生成AIの正しい使い方の講座を定期的に開催するといった対策を徹底して行わない限り、凶器になり続けると思う。 

▲44　▼11 

=+=+=+=+= 

この手の技術の進歩には　必ず悪用する者が出て来るのは簡単に想像できることで、そのためにリスクを洗い出し、規制をきちんとかける法整備が並行して考えられなければならないのだが、悲しいかな、必ずと言っていいほど事が起きて被害者が出るまで、技術の発展を妨げる規制はすべきでないという主張にかき消されるのが通例である。 

ネット社会が進化した現在、便利なものほど、その悪用に対する被害も広範で、取返しのつかないものになることが多いと言えよう。 

技術の進歩も結構だが、悪用被害を受ける人たちの人権はどうなるのか、もう少し想像力を働かせるべきだと思う。自分自身がいつ被害者になるかもしれないのである。進歩した新技術を何の規制もかけずに世の中に放り出す前に、利用する人間は善人ばかりではない、という当たり前の事実を、しっかりと踏まえておく必要があるだろう。 

▲41　▼10 

=+=+=+=+= 

生成AIからは少しずれるが、ChatGPTの仕組みとして、正しいから示すのではなく、単にネット上でいちばん多い情報を提示してるにすぎない側面が強い。つまり、どんなに間違った情報でも数で勝てば真実にすり替えられてしまい、のちの人々はそれを真実として学んでしまう。恐ろしいことだと思う。AIの本質を見失わないよう、警戒心をもっと世界が共有すべきだと思う。 

▲63　▼6 

=+=+=+=+= 

AIといっても、まだまだ安全性においてはダメでしょう。今回のように、簡単に犯罪に加担できるんですから。音声とかもね。これからの社会の大きな課題だとおもいます。便利だけど、副作用もでかい。一部の人間よる悪利用はなくならない。きつく法整備、監視、懲罰の厳格化、政府レベルで迅速に対応してほしい。 

▲9　▼2 

=+=+=+=+= 

生成AIも今重要な問題になっている。 

言われたことを倫理観を持って考えることができないのがAI。過去の未解決事件の詳細を認知し、完全犯罪の方法を提示する可能性もあるし恐ろしい。 

そのためにもやはり、厳罰に処すことで犯罪を起こらないようにしてほしいがかなりこの問題は根深い 

▲47　▼7 

=+=+=+=+= 

こういった生成系AIは人の肖像や著作物を勝手に訓練させ使用されてきました。既に社会的に大きな問題となっており、こういった画像生成AIに対しては早急に法整備されるべきです。 

子供だけでなく、女性、更には男性も被害にあっており、もはや国民全体の問題として捉えるべきです。 

技術の進歩の行きつく先が人を騙し、陥れるようなものであってはなりません。 

安心安全に使えるようにデータセットに関しては明確に法規制をかけるべきであると思います。 

▲30　▼8 

=+=+=+=+= 

福岡で長年卒業アルバムを制作する会社でカメラマンしてました。 

入社当時はフィルムでしたが次第にデジタルへ移行し会社も大きくなり臨時でアルバイトカメラマンを採用することも多々ありましたがデータ管理はずさんでしたね。 

私ののPCなどを持ち込まれてデータコピーをされることなんてざら 

そういうことをきちんと管理することさえませんでしたし。 

社員ですらデータを個人で扱う人もいました。 

入学当初から生徒の名前　個人情報も学校からいただいて把握してますし。 

最近教師間のSNSでのことが話題になってますがそれよりも撮影業者として学校に自由に出入りできる業者のほうが危険かなと。 

もう卒業アルバム自体を廃止にしてもいい時なのではないでしょうか？ 

▲113　▼22 

=+=+=+=+= 

生成AIは、明らかに性的な加工と思われる指示をされたときは拒否するように成約をつけて欲しいね。そんなに難しくないと思うし。生成AI自体にも犯罪に加担するようなことには答えないように学習させる仕組みを構築して欲しいな。 

▲5　▼2 

=+=+=+=+= 

時に 単なる性的化画像に収まらない事もありうる、その時は加工画像に対する罪だけでなく、それにより被った損害も期日を設け確実に請求できる仕組みと名誉回復のための責務も果たさせる事も必要。取り締まろうにもこればかりは 原版となるものが手に入ったとして、いつだれが何処で製作しているか判るはずもないのと ある程度の予防線は張れるにしても 民主主義である以上監視のような手段は無理な話なので 日本国内だけと言う事に限定するなら 国民一人一人の倫理と言うものの捉え方を今一度認識しなおす事も必要かと思う。需要無ければ 爆発的な広がりは防げるのでは？と言う事で。 

▲3　▼3 

=+=+=+=+= 

今のAIの最先端なやつは、ほぼ写真のクオリティーのまま動かせるようなので、女性はあまり関心が薄いようだけど、Xやテレグラムで無断で取り引きされてると思った方がいい 

素人が作るのは、まだゲームっぽいCGみたいな作りが抜けきらないので合成だと判別できるけど 

プロが作るのは実物のままなので、知り合いが見ればあの人だと特定される 

俺が実際に確認して見たわけではないので、あくまでも想像で書いてるが、インスタやTikTokでも100年前の写真を生成AIで動かしてる動画があるので、どれだけAIの描写が正確で驚異的かは、それを見れば判断できると思う 

▲148　▼22 

=+=+=+=+= 

そもそも、卒業アルバムって必要なのだろうか？ 

今回の様なケースもあるが、完全な個人情報の塊だし、居住地などの情報漏洩のリスクも少なくない。 

個人情報保護法施行前の進学校の卒業アルバムが今だに高値で取り引きされている程に個人情報は犯罪者にとって重要。 

また、医学部の卒業便覧には現在の勤務先や住所が記載されているものも散見される。 

加えて、田舎の進学校の場合、地元の名士の子弟も多いし、その様な家庭は引っ越しもせずに、一軒家だと住所が変わっていない場合も少なくない。 

一度悪い輩に情報が回ってしまうと犯罪に悪用されるリスクがあるため、管理を徹底すべきだと思う。 

▲366　▼83 

=+=+=+=+= 

最近は画像や動画などAIで生成したとわかりやすいところに表記せずおまけ程度に表記するものが増えて非常に悪質さが増している 

どんな技術でも使う側のモラルが問われると同時に法整備が間に合っていないのも問題であるため早急な法整備をしていただきたい 

▲10　▼4 

=+=+=+=+= 

古くはアイドルコラージュ（アイコラ）と呼ばれるアングラな文化がありまして、アナログな切り貼りだったのがPCに取って代わられ、さらに道具が進化してコミュニティが進化してよりリアルにより広範囲に…となったわけだけど、変わらないのは人間の本能と欲望と習性です。 

対症療法な法律や防犯や倫理教育でどこまで抑えられるかな。 

使える技術を使わない（捨てる。発展させない。開発しない。売らない）決断をいつかすることになると思います。 

▲4　▼3 

=+=+=+=+= 

卒業アルバムの悪用は生成AIでの悪用は良くないと思います。SNSで拡散されたり閲覧している人間がまた拡散されると犯罪にも繋がるので法改正の必要もあると思います。海外ではティックトックで生成AIによる性的の画像の拡散も問題視されてるので日本でも法改正も必要だと思います。 

▲34　▼12 

=+=+=+=+= 

何人かの人が言っていると思うが 

人間の世界で100%の人がいい人(同じ考えを持っている)とは限らない 

むしろ多くの人が悪い人(違う考えを持っている)と考えれば 

新しいものが世に出回る時にはその対策を取ってから出されるべきと考える 

でも、新しいものは一番先に(特に国と国との競争)出さなければ意味がない、どんどん先々を争って新しいものを出さなければ競争に勝てない 

対策を取っている間に世に出されてしまう 

結局のところ争いが失くならなければ解決は出来ない 

人間である限り永遠の問題なのかもしれない 

▲4　▼7 

=+=+=+=+= 

私が思うに、やはり日本は刑罰があまりにも軽すぎると思います。 

今回のようなケースも、実際捕まっても大した罪になりませんね。 

痴漢や盗撮も然り。 

刑期を長くして収監するのも一つの方法ですが、更生につながるかは疑問です。 

公民権の停止。医師や教職員などは免許剥奪。 

何かしら抑制効果があることを本気で考えないとだめだと思いました。 

▲101　▼10 

=+=+=+=+= 

何かあったのかわからないけど近くの中学校は校庭が通りから丸見えで、昨年ぐらいからフェンスに撮影禁止見つけたら通報しますという注意書きが貼られるようになった。でもそんな趣味の人が学校内にいたらもうどうしようもないね。卒業アルバムなんてさ、昔は住所録の悪用で住所載せなくなったんだけどとうとう個人写真まで悪用される時代になったのかという感じ。昔はネット配信する時代じゃなかったからね。最近はプールの写真も載せないんだよね。水着がどうこうで撮影もしない。そういう趣味の人間は一握りなのに結局大多数の人が不自由になるよね。そうそう、昔の小学校のアルバムには修学旅行のお風呂の写真も載ってたなあ。 

▲10　▼5 

=+=+=+=+= 

自分からSNSに画像をアツブしてる方がいますがとっても危険だと思います！まさかこんな時代になってしまうとはって感じですがお誕生日、卒業、旅行等顔を晒すのはやめましょう！お子さんもそうです！昔から変な趣味の人はいたのでしょうが今は合成技術を悪用しての犯罪行為に及んでしまうのだから自己防衛が大切です！ 

▲80　▼8 

=+=+=+=+= 

大変な時代になったもんだね。 

人類はどこに向かってるんだろう。 

YouTubeもAIもスマホもSNSも普及してなかった90年代あたりが一番幸福な時代だったと思う。 

欲望や悪用にまみれた大変な時代、これからもっと悪化していくでしょうね。 

未来は暗いなぁ。こんな世の中だと反出生主義もまんざら間違ってないのかな、なんて思ってしまいます。 

でも人は子供を産みますし、だったらせめてこれから生まれてくる子供たちが生きやすい世の中になるよう法整備や取り締まりなり強化するべきでしょうね。 

▲0　▼1 

=+=+=+=+= 

生成AIを使った製作や変更による犯罪行為が増えてますね。 

誰でも簡単に出来るから軽い気持ちでやってしまう（犯罪になると思ってない）のでしょう。 

考えが足りないとも言えるかもしれないですが、簡単に出来てしまうからこそ罰則は重くするべきだと思います。 

日本は特にデジタルに関する法律が遅れているので早急に法整備しないと被害者が増えるし、気軽に手を出す自覚を持たない犯罪者も簡単に沢山出来てしまいます。 

▲55　▼6 

=+=+=+=+= 

悪質なAI使用に関する法整備を早急に行ってほしい。広告動画にしても著作権無視のやりたい放題で、今後のAIの発達に法律や使用者の倫理観が追いつかないのではと心配してしまう。 

▲116　▼12 

=+=+=+=+= 

技術が悪いわけではない。 

ダイナマイトも、工事に役立つものだったのに、戦争に悪用されてしまった。 

声優の声も、勝手に悪用された事案もあったし、アダルト作品も写真と声サンプルがあれば、作り放題の無法地帯になる。 

そして、犯罪行為をしていないのに、でっちあげの合成映像も簡単に作れるようになれば、国に都合の悪い人間に対する、冤罪も多発するだろう。 

モラルが崩壊した世界は、恐ろしいものになる。 

▲21　▼4 

=+=+=+=+= 

一括りに生成AIが危険と言っても、ChatGPTやGoogle Geminiと言った大手どころはすでに非倫理的な生成はできないようにガードがあるので、ここを規制しても実はあまり意味がない。 

インターネットに繋げることなく自身のGPUで使える非倫理的な野良モデルの配布などを規制するなりなんなりが必要だと思いますね。 

まあ究極的には自身でモデルを作成することもできてしまうので、知識のない人間が生成できてしまう現状に如何に対策できるかが重要かと。 

▲0　▼2 

=+=+=+=+= 

法改正は必要ですね。そもそも昔はこう言う合成はしたくても出来なかったので「せいぜい手作りのアイコラ位」、犯罪につながることは皆無に近かった。現代は短時間で作れてそれをネットで不特定多数に配布出来てしまうので、科学技術に合わせた法律の改訂が必要になるでしょう。 

▲0　▼0 

=+=+=+=+= 

生成AIは開発は金さえあればできるが、それを使用する時には倫理観が問われる。 

そして倫理観は誰もが持ち合わせている物ではない以上、意図的か否かに関わらず、不適切に使用する人間は出てくる。 

故に、法整備が必須な分野なのだが、それが遅々として進まないのがこの国。 

当分は「AIと倫理」に関して物議を醸す話題は続くだろうね。 

▲5　▼1 

=+=+=+=+= 

誰でも簡単に動画や画像が作れるということは犯罪者にとっても強力なツールになりますよね。地震でライオンが逃げ出したとかフェイク画像とか以前ありました。技術は進歩しても人間の愚かさは進歩しないのですから人間の愚かさを制限する規制が必要です。 

▲10　▼3 

=+=+=+=+= 

フェイスブックやインスタグラムなどのように、一般人がタレント気取りで顔出し投稿することがリスクということですよね。フォロワーの男が勝手に性的ディープフェイク画像を作っているかも分からんし。AI時代になると、この10何年くらいのSNS文化みたいなものは変わっていかざるを得ないでしょうね。 

▲23　▼10 

=+=+=+=+= 

卒業写真から悪用なのに 

在籍してる訳はないんだろうけど 

新しめの卒業写真だったら若い子なのは確かだし 

卒業写真1つで悪用される可能性あるの怖すぎる。 

てかその作成者普通に捕まって 

悪用された被害者全員から1発ずつ殴っていいくらいの対応させてあげて欲しい。 

▲0　▼0 

=+=+=+=+= 

今のネット関連の科学技術は明らかに弊害の方が大きく、わざわざ社会を混乱させるために社会展開しているようでとても看過できない。開発者側は極めて微量の効用を最大限に喧伝して自由社会での浸透を図るが、新たな技術を浸透させたあとに来る利権獲得が開発者側の最大の目的であり、社会が混乱しようが犯罪が増えようが知ったことではないようだ。開発した科学技術を市場に垂れ流さなければならない決まりは特になく、弊害を見越して研究所止まりにしておく技術もあっていいと思うが、何故か混乱することが分かっていて社会市場に放逐してしまうことがよく解らない。 

▲7　▼3 

=+=+=+=+= 

そもそも学園生活に明るくないって人も居るとかって意見は別の議題だとして、本来当時の事を思い出の品や記念品として発行してるものがそのような扱われ方してしまうのは残念ですね…。 

今は分かりませんが、私が学生の頃は学校行事に専属のカメラマンが同行して撮影した写真が一斉に張り出されて、そこ中から欲しいものを購入出来る時期が有りましたがそう言うのもいろんな事情が絡まって無くなってしまうんでしょうね。 

▲42　▼7 

=+=+=+=+= 

こうなることは、以前から予想できたこと。２ｃｈが流行っていた数十年前からネット上にはコラ画像が蔓延してたんだから、AIが発達すれば、より精細なものが出来るのは時間の問題だった。法律で厳しく取り締まるしかないと思う。相手の尊厳を完全に損なっているという意味でかなりの重罪にすべき事案。 

▲4　▼1 

=+=+=+=+= 

こんな事くらい、誰だって考えるし想像がつく事。 

この機能が実現した時点で、人間社会や価値観は変わってしまうと思う。 

時代は繰り返しているけど、この進化は一線を越えてる。 

男女関係なくアダルトやアイドル業界、性を利用したビジネスは斜陽産業。 

AIで対話できるなら、水商売もさらに需要が無くなる。 

上手く利用できれば介護などでは大きな進歩になると思う。 

時代の変化だな。 

▲1　▼5 

=+=+=+=+= 

AI良いこともあれば悪い事もある 

これは社会や物事全てにおいて当てはまる事 

別にAIが悪いわけではない 

悪いことを考える者が悪いただそれだけ 

なんか今 

頭の中で思ったことはAIでコンピュターとか 

なりすましなどあらゆるモノをコントロールされたらどうなることやら 

ま！電気が使えなきゃ意味がないけども 

使いようによってはリスク大 

ロボット対ロボットの時代になるのかな 

▲1　▼5 

=+=+=+=+= 

どんな技術でも悪用する人間は出てくる。 

今やSNSで自撮りが腐る程あふれ、材料には事欠かない。芸能人などであれば事務所も動いて弁護士を入れて戦えるだろうが、個人ではそれも難しい。 

例えば入学が就職が決まった、そんなタイミングで自分の全裸写真がAIで合成されてばら撒かれたら終わりです。 

この先もっと高度なAIが、無料で小学生でも使えるようになる。その時顔写真一枚から合成された無数の画像が、いじめの道具になる。 

或いは教師に対して親が同じ事をやって、犯罪をでっちあげる事も起こるだろう。大人同士でも気に入らない奴を貶めるために悪用する事が当たり前に起こる。 

人間には見破れない高度なAIの介入の判定を更に高度なAIがする事にもなっていくだろうが、根本的な解決にはならない。 

▲1　▼0 

=+=+=+=+= 

3つ問題があると思う。 

1つ目は、昔からある「アイコラ」という問題。 

2つ目は、「素人」をアイコラの対象にしていること。 

3つ目は、「ディープフェイク技術」を使って、本物っぽく作っていること。 

個人的には、1点目の「アイコラ」について、作成・流通・所持いずれも「犯罪」にすれば良いと思う。 

ディープフェイクだから気付かなかったとか、そんな言い訳なんか問答無用で、踏んだらアウトとすれば、怖くて踏まなくなる、ニーズがなくなる。ニーズがなくなれば作られてにくくなる。はず。 

▲0　▼0 

=+=+=+=+= 

ＡＩ ＡＩと、毎日のようにニュースが報じてますが、 

「医療や勉強、生活の質の向上の為に活用して、犯罪には使わないで下さい」とお願いしたところで、それは無理でしょう。 

誰でも使えるようにできてるのだから。 

利用者のモラル頼りでは、早々に限界が来ます。 

閲覧したい人がいるから、作成する人がいる。 

その閲覧したい人、一人一人に「閲覧しないで下さい」とお願いするのも無理。 

金利の上限が法律で決まっているのに，いまだに法外な金利で金を貸す闇金業者がいるのと同じ。 

法律を守らない人に「法律を守って下さい」とお願いしても、守るわけないでしょう。 

ほんの一部の業者が摘発されても、まさに闇に隠れて営業し続ける業者の方が圧倒的に多いはず。 

借りる人がいるから貸す。 

現状、どうすることもできないと思います。 

▲6　▼5 

=+=+=+=+= 

「こういう犯罪をすれば懲役20年。執行猶予なし」という風に、厳罰化とその周知が大事だと思う。 

罪の重さが抑止につながるし、ニュース等を見て「こんなんで懲役18年かよ」となれば一定数いる愚か者も二の足を踏むと思う（それすら気にしない無敵の人はハナから無理）。 

今回の件に限ったことではないが、犯した罪に対してあまりにも刑罰が軽く、ニュースでも「不起訴」「執行猶予つき」「懲役なし」が多く報じられる現状。 

ただでさえ物騒な世の中なのに、犯罪行為をナメて軽く考えている悪党が増えている。 

更生だとか思考のチェンジなど望めないので、厳罰化と周知によって「割に合わない」と思わせるしかないと思う。 

▲2　▼0 

=+=+=+=+= 

この記事では児童や学生が対象になっていますが、それ以外の人も、顔画像や写真や動画があれば誰でもいくらでもフェイク画像や動画を作成出来てしまいます。よく政治家や芸能人が作られてネット上に掲載されていますね。一般の人もどこで悪用されるかわからないので、安易にインスタや色んなサイトに顔画像やプライベートをアップしないほうが良い。自衛大切 

▲8　▼1 

=+=+=+=+= 

表現の自由を巡っては様々な問題や、時には事件になることもしばしば見受けられます。 

表現とは何か、自由とは何か、最近は特に偏った物の考え方で自分の事は棚に上げ、他人を誹謗中傷したりする方が増えています。 

人によって表現の仕方は様々であって良いと思います。 

しかしながら、自由とは何かを考えた時に、そこには責任が伴ってくるということを考えない人達が大勢います。 

最近のマスコミが良い例です。 

注目を集める為なら手段を選ばない思想。 

極めて危険な思想だと感じます。 

今回の記事も同じような思想の人達が起こしている自分さえ満足出来れば、手段は選ばない。 

それは自由ではありません。 

自分勝手です。 

表現の自分勝手は認められた権利ではありません。 

▲39　▼8 

=+=+=+=+= 

生成AI作ってるのがほぼ海外で、オープンソースでも出回っている状況では、AI側を日本の国内法で規制するのは無理。 

やろうとするなら、利用者側が性的な画像を作る行為と、アップロードを禁止するしかない。 

作る行為を直接狙って取り締まることはできないが、アップロードで捕まった人のPCを押収、解析して、作った痕跡を発見する事ならできるはず。 

▲7　▼3 

=+=+=+=+= 

素朴な疑問なのだがそもそも生成AI側による規制はかけられないのだろうか。リリースする側が責任持ってAI自体に性的だと判断されるものを規制するように制限をかけられれば悪用される事も減るのではないかと思うのだが。 

▲1　▼1 

=+=+=+=+= 

写真を悪用するのは、生徒同士でいじめにも利用できてしまうでしょう。合成したものをSNSで流したり、「あの子、今こういう仕事やってるらしいよ」と嘘を流すなどもできてしまいます。こういうことが起こるなら、いずれ卒業アルバム自体無くす方向になるかもしれませんね。 

▲2　▼0 

=+=+=+=+= 

これはもう防ぎようがない。もはや卒業アルバムだろうとなんだろうと他人に自分の顔や姿の画像を渡してはいけない時代になった。これもちろん友達ですら安全ではないよ。AIで政敵画像を作成するところまでは違法じゃない。あくまで拡散することが罪となる。つまり顔の画像を与えてしまった時点で、間接的にはあらゆる性的な姿を見られてしまうということ。このさい厳密性はどうでもいいんだよ。勝手に利用されたほうが周知を覚える時点で同じことだから。自分の姿は撮らせない。他人の姿も撮らない。そうするしかない。 

▲1　▼0 

=+=+=+=+= 

YouTube広告にも頻繁に有名人、著名人のディープフェイク動画が溢れている。この技術がさらに進化したら本当に嘘が本当か、本人かAIなのか分からなくなる。 

それを使った性的画像も、その画像を使って脅して本物の性的動画を要求するような事件起きそうで怖い。 

▲6　▼1 

=+=+=+=+= 

こんな意見はちょっとと言うかも知れないが、警察が 

介入して今回の画像・動画等の削除、掲載主の検挙が 

出来るようにすべきなのではと思う。 

ネットワークで拡散されたりするとその人の人生が 

取り返しのつかない物になってしまう。 

表現の自由とは第三者の自由を阻害するものではあってはならない。 

この様な事をする人は必ず検挙され重い罰則を与えることが 

抑止になると思う。 

特に子供の未来に傷をつける輩は赦してはいけない。 

▲3　▼1 

=+=+=+=+= 

こんなの製作されて拡散されたらたまったもんじゃないし、今でこそまだAIかなーとわかるような粗があるけど、そのうち本物と見分けが付かなくなりどれだけ否定しても信じてもらえなかったりで一生大変な目にあう。 

逆に、ホントの性的画像が流出した人からすると、あれはニセモノだと言い訳できるから、一発退場するはずだった女性アイドルや芸能人は特に助かる可能性も、、、 

▲0　▼0 

=+=+=+=+= 

生成AIについては早急に法制化して悪質な利用に関しては厳罰にするべきだ。 

特に実在する人物のAI動画への利用は禁止するべき。 

芸能人や政治家で言ってもいないこと言ったりする動画が散乱している。 

AIが作った動画だとわかる人もいるけど、誤解する人も必ずいる。 

動画の精度があがってくればもっと見分けがつきにくくなるはず。 

そうなる前に軽度の罰ではなく重度の罰を設けるべきだろう。 

▲6　▼1 

=+=+=+=+= 

姪に子供が生まれた時点で姪の強い希望で子供の写真はSNSに絶対上げないと決めた 

男女関係なくこの先何があるか分からないと… 

姪の判断は正しい 

卒アルも大事な記念がそんなことに使われるなら今後作らなくなる学校が出てくるかと思うと本当に嫌な世の中になったと思う 

そんなことを平気でやってる人間が普段は真面目に社会生活を送ってたりすることは先日の盗撮の教師の件でよく分かった 

昔なら想像で終わったことが今は現実に実行に移せる様々な術がある 

そのせいでとてつもなく卑劣なことに対して抵抗がなくなるのだろうか 

バレなければ良いとそれを悪用するモラルのなさは別の意味想像力がないと思う 

それを行うことでどういう事が起こるのか自分のやってることが何なのかまるで分かっていないように思える 

これも性犯罪だ こういう卑劣なことには厳罰で対処してもらいたい 

▲1　▼0 

=+=+=+=+= 

この件について日本の法律はついていけてない。AIなんか実用性のあるものだけを認め、悪用があるのは規制している国が殆ど。オーストリアのように学生にSNSを規制するのはやりすぎかもしれないが、今や世界はそういう状態という事だ。 

▲5　▼1 

=+=+=+=+= 

インターネットに対して、未成年が成年と同じ自由を持つのは問題があると思います。 

このようなことを起こせる自由を与えておいて、責任は問わないというのには無理があります。 

そのうち、未成年がネットで人々を扇動して、大きな事件を起こす日がくるのではないかと思っています。 

▲1　▼1 

=+=+=+=+= 

他人に迷惑がかからないように、オリジナルを生成することを心がけてください。アニメ、マンガ、ドラマ、映画、歴史の人物、実在する人物の生成は、著作権や肖像に接触します。 

医学や解析などの学問上の理由のない限り、引用の条件から外れて、自分勝手に他の人の権利を侵害しないように注意してください。 

▲11　▼11 

=+=+=+=+= 

この種のは昔からあったな。 

いわゆるアイコラというやつで、アイドルの顔とポルノをコラージュするようなのがネット掲示板などで出回っていた。 

おそらく、中には、一般の子のも混じっていたのだろう。 

現在では、芸能人の肖像のLoRAを作成して生成AIで出力したとみられる画像も散見されるようになっている。 

さすがに一般の子のLoRAを作成するほど（必要なだけ画像を集めるほど）暇な人はいないんじゃないかと思うが、いたとしても現行法では違法にできないのではないだろうか（学習に違法性がなく、出力も特定の著作物への依拠・類似性要件がある）。 

画像生成AIの環境構築もLoRA作成も、以前は一定のサーバ知識やプログラミングスキルが必要だったが、今はオンラインサービスで実に簡単にできるようになってしまった。 

具体的にどうすればいいのかアイディアがないのだが、法整備をもう一段階進めるときに来たのかも知れない。 

▲0　▼0 

=+=+=+=+= 

まぁ規制も正直厳しいやろな。 

スマホでもSNSでもそうじゃん。 

AIが出来たらもっと無法地帯かもな。 

便利の裏側には悪用も必ずあるからな。 

こういうのは作る時にリスクマネジメントもちゃんとセットにしなきゃな。 

今さら遅いけど。 

これから生成AIの悪事はもっと増える。 

▲0　▼3 

=+=+=+=+= 

AIは誰でも彼でも多少学んだ程度で手軽に扱えてしまえるのが一番問題な気がする 

技術革新の妨げがどうのと叩かれるかもしれないがAI使用には資格がいるとか 

ガチガチに法整備しないとこの問題は解決しないと思う 

▲4　▼1 

=+=+=+=+= 

SFではAIが人類を支配する、人類の敵になる的なものが多いですが、何のことはない、AIを巡って人類間での争いが起きているということ。性的利用は社会に存在する性的なものに係る抑圧を狙って悪用されている。本来人類は自由に幸福に生きるべきだが、それを無秩序と捉えてはいけない。こういう便利な発明を、人類が使いこなしていない、或いは使いこなせないということ。使う側のスタンスをハッキリしないとこういう事件は続く。 

▲5　▼1 

=+=+=+=+= 

自分はYouTubeで趣味の音楽の演奏動画を定期的に配信しているけどある日コメントくれた人がいてその人も曲を自分で作ってるので是非聴いてくださいとのことでチャンネル見に行ったら 

物凄いクオリティの高い曲で驚いたがよくよく聞くと声や曲も流行りの米津玄師や髭男ぽかったりで違和感があり、というのも本人が歌ってる曲もあげていてそちらは物凄くド下手で曲もひどいクオリティ。 

音楽に詳しい知り合いに聞くと明らかに生成AIで作った曲らしく 

そんなことまでして褒められたいのか？自分で作ってないのによく聞いてくださいとか言えるなと失望した。ただ、本人の声の動画を上げていなかったらAIの曲本人だと信じてしまうは普通にありえると思ったし、クオリティが高いたけに評価も当然高くなる。 

AIは厳しく規制しないととんでもないことになる。 

▲3　▼0 

=+=+=+=+= 

どんなに規制をしても変な性癖をもっている人はいて、治る事はないので、規制をすればするほど水面下で蔓延っていく。実在の人が加工されたディープフェイクを見てしまった人がそのまま信じてしまうのではなく、まずは偽物だと思うことも大事だと思う。 

▲1　▼1 

=+=+=+=+= 

つまりリアルな元画像さえあれば、編集能力とセンスによりAIによるフェイクだと気付かない可能性があると言う事だね。正直200%防ぐことは出来ないだろうから、拡散された後の事後処理となるから一切非が無くてもダメージとなるかも知れない。だから唯一の対策は発信者に殺人級の重罪で長期間の身柄拘束と社会的信用を失墜かせることだけかと思うが…。 

▲19　▼2 

=+=+=+=+= 

昔、某ドラマ（GTO）で、似たような回があったのを思い出した…。 

あの頃は、インターネットが一般にも出回り始めた頃だったから、そこまでの拡散能力は無かったのかと思うが、現代は一瞬で世界中に広まってしまうから、完全な削除とか不可能でしょ…。 

こういう事案の取り締まりにこそAIは活用出来ないのだろうか？人間の力じゃ到底無理っぽいから、目には目を、AIにはAIを。 

▲2　▼0 

=+=+=+=+= 

昔、アイコラと呼ばれていた手法ですよね。 

私ぐらいの年齢(50代)になるとたぶん傷つかない。勝手に作っとけば？と思うけど、若い子は訴訟起こして罪に問うべきですね。 

それと卒業アルバムも見直す時期になっているのでは？重たくてほぼ見ない。無用の長物です。高くて幼稚園の卒アルなんか1万円でした。せめて見せる人がいればいいんですけど。卒業記念のマグカップとかも当時は嬉しかったのに今では自分の中でとっくに賞味期限切れ。かといって捨てられない。 

写真は肖像権なので、名誉を棄損する加工はそれの侵害にあたると思います。 

▲27　▼7 

=+=+=+=+= 

AIで実在する人物を性的な画像にして拡散するのは問題とされていますが、 

「あくまで個人で楽しむ、その範囲を超えない」 

ようにして、実在する人物をAIで性的な画像にするのは、問題があるのでしょうか？ 

自分の持っている卒業アルバムなどを、AIで性的な画像にして、何ら拡散せず、自分であくまでAIによる生成物（児童ポルノではなく）として持っておくのは、問題があるのでしょうか？ 

▲1　▼6 

=+=+=+=+= 

昔の卒業アルバムには、平然と卒業生の住所が掲載されていた。 

住所目当ての「高額買取」が問題となり住所の掲載はなくなったが、住所がだめ、この事件を契機に顔写真がだめ、名前も個人情報だからだめ……次々と問題が出てくるようでは、そのうち卒業アルバム自体がなくなってしまうかもしれない。 

▲2　▼0 

=+=+=+=+= 

学校行事や部活の大会写真などを、在校生や保護者が学校が契約した会社のサイトで買える。学校から渡されたパスワードがないと見れないけれど、生徒は自分以外の写真が買えるのも心配だ。卒アルの写真同様、悪用されないかが心配。実際、生徒達間ではあるが、教員や揶揄いたい生徒のコラ画像作ってグループ内で流していたりした。卒アルはもういらないと思う。作るとしても、個人写真は無しにしたほうがいい。 

▲0　▼1 

=+=+=+=+= 

こないだもニュースになってましたが、こういう画像って現役の教師がアップしてるそうですね。 

卒アル写真を悪用したり、盗撮したりしているそうです。 

きちんと、誰がアップしたのか突き止めて、逮捕してほしいですね。 

最近は、教師のモラルの低下が激しく、残念に思います。それだけなり手が減っているのだと思います。待遇を改善しつつ、採用試験で適性を見極める必要があると思います。 

▲56　▼54 

=+=+=+=+= 

近い将来卒アルもなくなるんだろうな。 

組体操がなくなったり、プールがなくなったり、 

いろんなものがなくなってどんどんリスク回避ばかりに意識が向いていく。 

多様性とか言われて、今まで気色悪いと言われるものもそういう生き方もとか無理矢理落とし込んで心の中でみんな言っちゃいけないことが増えていってそんな本音と建前が蓄積していく毎日がストレスだと感じてても言えない。 

▲6　▼0 

=+=+=+=+= 

人の裸写真をネット上でaiに検知させて、削除する機能があれば、こういうもの含めて全て削除できるのでは？ 

　生きていても死んでいても残された画像にも尊厳があると思います。 

　商売で画像売る不届きな連中もいますが、本当もそれは今スマホ時代には常に家族を分断して家庭の絆を壊すから止めて欲しいのですが、対価を払って売ったものは、その対象が生きているであろう年数までは存在して、それ以降は自動削除される機能でも付ければ。 

　マリリンとか八代さんとか、もう亡くなった方のお写真も、いつまでもネットの亡霊にになっていないで、尊厳死すべき。利用するときは、管理団体に許可をとってのみ、一時的にでよいと思います。 

▲0　▼0 

=+=+=+=+= 

生成AIj怖いと思います。加工して自分の顔をいじって自分で楽しんだり、ごく親しい人との交流のひとつで有れば良いのだけど、自分が知らない間にSNSで拡散されていた。とかになったら、国や警察は規制とか対応し切れるのでしょうか？世界平和のためだけに使ってほしいです。 

▲0　▼0 

=+=+=+=+= 

個人情報など悪用の危険性から住所などがなくなったが、画像で変な悪用される時代になってしまったら、そのうち卒業アルバムは無くなってしまうのではないか？ 

デジタル化になり便利になった反面、こうしたことを悪用する人間も増えましたね。 

▲0　▼0 

=+=+=+=+= 

クローンもそうだったが、そろそろ法規制をしないと、仕事も受験もAIだらけ。特に暗記をやめ思考力に移行とは名ばかりで、推薦書類はAIによる作成。法規制を世界的に教科すべき時期に来ている。歴史を紐解いても、この繰り返し。早急に望む。 

▲8　▼0 

=+=+=+=+= 

大人なら厳罰で捕まえればいいけどね。 

やったのが子供だと取り返しのつかない事に対して、やられた方が泣きをみるしか無くなるのも問題。 

機能のかなり制限された専用機器を作り、未成熟な子供に対しての専用スマホやパソコンしか使わせてはいけないとかにするしかないんじゃない？矢鱈にエロから切り離すくせに、スマホとかはペアレンタルゼロで使わせる事も多いし。 

▲0　▼0 

=+=+=+=+= 

被害者が見込まれる可能性大なのに法も整備せずに世に送り出す事自体が問題だと思われます。何でも便利に使えれば悪い事でも便利に使えると云う事ですよね。早急に世界ネットの法規制を望む！。 

▲1　▼1 

=+=+=+=+= 

有効活用事例もあるのだろうけれども、楽してヒーローになれるAIは承認欲求欲にまみれた社会不適合者にとって麻薬のごとき禁断の果実だ。誰にでも道を踏み外す危険性がある 

ある程度、ある程度の法的整備を持たせなければいけないと思う 

▲0　▼1 

=+=+=+=+= 

何の目的でこれを作って拡散したんだろう。 

気持悪いでしかない。 

卒業アルバムというもの自体　今も昔も変わらず配られるけど、 

この時代においてあり方を考えてもいいのではと思う。 

今は普通にスマホやデジカメで写真をたくさん残せる時代だし、イベントにはカメラマンが入り買うことも出来る。 

だから卒業アルバムにいちいち顔と名前を一致させたものを卒業するタイミングで配られても、あまり大きな意味が無いように思う。 

生成AIのせいで今後予想が出来ないトラブルに発展する場合もあると思う。 

写真から偽造パスポートや身分証明書を作られてしまったり、今と昔では 

こういった名前と顔という個人情報を、卒業後全く付き合いのなくなる人たちが持ち続ける事はリスクでしかないと考え直す日がやがて来るのではと思う。 

▲0　▼0 

=+=+=+=+= 

すでに相当たくさんの被害が出ているでしょう。さっさと規制すべきです。 

　ただし、どんなケースを悪用とみなすか定義が必要になりますから、無数の抜け穴探しが行われるでしょう。また逆に、被害の事実も悪意もないのに、AIによる検閲で跳ねられるケースも出てくるはずです。 

　悪用の定義については頻繁に見直しが必要でしょうし、規制対象にされたことに異議申し立てがあった場合は、当然きちんと人間がクレームを受け付けて審査すべきですね。AIによるフィルタリングに任せっ放しでは、某ニュースポータルのコメ添みたいに、見当外れの指摘が相次ぐ恐れがあります。 

▲3　▼0 

=+=+=+=+= 

ＡＩ使って画像を生成して自分ひとりでニヤニヤ眺めて楽しむなら、大昔からあったアイコラと同じで趣味の範囲ですが、共有したり拡散したりというのは許せませんね、厳重に取り締まってほしいです 

▲2　▼0 

=+=+=+=+= 

こんな事はいくらでも出来る時代だから防ぎ様が無いと思う。しかも犯人に辿り着けずに。 

卒業アルバムだけではなく盗撮や監視カメラにハッカーが辿り着いたり。 

改めてテレビの安全性を感じますね。 

科学の進歩は諸刃の剣ですから、利便性が機能や容量を占められればいいのに。 

▲2　▼3