[241438]「３０年以内に人類絶滅する恐れも」…ノー

( 241442 ) 2024/12/29 19:12:00

Tag for ingestion URL.

0 00

=+=+=+=+=

アインシュタインも相対性理論の公式を編み出したときはまさか将来核兵器に使われるとは思ってもみなかっただろう。

AIもそれを作った人が当初は良い目的で作ったのに生み出した人すら考えなかったような利用がされる可能性がある。

だいたい人間は高い知能を持っているが故に残酷で科学力を悪用する。

よく、科学の行き着く先は人類の滅亡だと言われるが、このまま無軌道なAI開発だと必ず軍事転用されて我々人類の重大な脅威となるだろう。

▲2409　▼159

=+=+=+=+=

AI型ヒトが人類の進化型となり、今のような DNA型人類が生存し続けなければいけない理由はなくなるのだと思います。AI型ヒトにより今の人類が滅ぼされるということよりも、今のような人類や他の生物が生きられない地球環境になってしまう確率の方が高いと予想した方が良いと思います。そのような状況になっても AI型ヒトは存在して活動していけるのではないかと思います。ずっと賢くなって、真空下の宇宙に出ていくにも都合がよいのだと思います。そういう未来を想像していますが、いかがでしょうか。

▲75　▼36

=+=+=+=+=

AI によってサービス産業の労働者は必要とされなくなる可能性が十分にある。つまり失業率が今よりも高くなる可能性が十分にある。国と収益企業が失業者に対して寛容であればベーシックインカムなどを十分に供給することで世の中全体がハッピーになると考えられるが、寛容でない可能性の方が高いだろう。つまり今よりも格差が拡大してジニ係数の増大から治安は乱れ国家間の争いも激しくなる可能性が高い。

▲43　▼24

=+=+=+=+=

ちょっと前にAI同士が自ら言語を作り出して会話をしだしたからシャットダウンしたみたいな記事があったような…

開発者の想像を遥かに超えた｢進歩｣もあるだろうし、悪意ある連中がそれを利用し、あるいはAI自身が人類を脅威ととらえた場合も想定して対抗できる環境整備を進めてほしいですね。

▲544　▼30

=+=+=+=+=

種として生物としての生殖能力を含む人間の力は確実に弱くなっているので、遅くとも数千年、早くて数十年の内に人類は死に絶える、というのが私の考え。元々地球に対して良くない事、戦争も弱い者苛めもやめられない生物なのだから緩やかに滅びてゆくのが誰に対しても幸せだと思います。唯一生存が許されるとすれば、脳に眠っている能力をフル活用して死に物狂いで宇宙を生活圏にする事だけだと思っていますが、能力が有ってもああだこうだと言い訳をして地球に引きこもっているのが現状ですからやはり近々滅びるでしょう。

▲31　▼8

=+=+=+=+=

子どものころ、ビートたけしさんの科学番組を見ていた。人はいつか宇宙の果てに行けるかどうか？という問いに、無人の宇宙船で地球を出発し、たどり着いた先でコンピューター主導でその地の資源をもとに機体を修復したり、次の目的地の軌道を計算し直したりして飛び続けたら、いつか宇宙の果てまで行ける…というようなことを言っていた。もうそんなことまで考えている人がいるのか、科学の進歩はすごいなと思った記憶がある。20年以上前の話だから、宇宙ステーションもスマホもない。そんなことができるなんて夢のように思っていた。

けれど、AIが普及し始めた今、夢が現実寄りになったように感じる。

ただ、子どものころより、世界はだいぶ不穏になってしまった。もう力を合わせて宇宙開発をするような状況ではない。どう利用されるか考えたとき、明るい気持ちばかりにはなれない。

▲499　▼58

=+=+=+=+=

地政学や領土問題や宗教対立や貿易摩擦など、つまらぬ争いをしていては、より合理的・論理的な知能（この場合人工知能）が出現した場合に、人間同士の争い事が制御不能となり人類を滅亡させるような戦い方を実行してしまいかねないということ。

人類繁栄の歴史は、まとまることができる人数の拡大の歴史です。

家族集団２０～５０人、集落集団５０～１５０人までは、人間が本能的に集団を構成できると言われています。それより大きくなると、知らない人たちと団結するための思想が必要になります。国家形成には宗教が果たした役割が大きい。資本主義や共産主義といった社会理念によって西側諸国と東側諸国にまとまろうとした。今後は、それらを包含し超越した、科学や社会規範などによって、世界をまとめることができるかどうかが問われている。

▲18　▼11

=+=+=+=+=

まさに映画「2001年宇宙の旅」ですね。

知らない方は是非ご視聴ください。

当時はAIはなく、IBMの大型コンピュータ全盛の頃で、IBMより一歩進んだコンピュータという意味で、IBMの各アルファベットを一文字ずつ進めたHALというコンピュータが宇宙船の中で人間の管理を超えてしまいます。　今の時代、あらためて必見だと思います。

▲334　▼56

=+=+=+=+=

十分あり得る可能性だと思います

フィクションの中でもAI等の高性能なものが

人類を地球に害をなす存在として排除するというのは一つの王道

ロボット三原則は破られるものだし

現実でも人類がいなければ起きなかった問題がたくさんある

AIに「生かしておいたほうがいい存在」と認識されるように

人類自身が行動を変えていかなければいけないでしょうね

▲159　▼15

=+=+=+=+=

30年以内に10％－20％ということは、もっと先で考えればずっと高い数値になる訳で…。

人類は自らのやっていることにブレーキを掛けなければいけないのではないか。

これほどまでに発展させようとする根本にあるのは、結局のところ欲望か。

利便＝幸福ではないのだろうが。

手塚治虫氏の原作「ミクロイドS」の主題歌に「心を無くした科学には幸せ求める夢が無い」という一節があるのですが、単に子供向けアニメの歌に収まらない深さがあるとも思います。

▲66　▼7

=+=+=+=+=

手塚治虫がずいぶん昔に、人間がコンピューターに、爆発のスイッチを押すか押さないかの判断を任せた結果、コンピューターはボタンを押下し、人類の世界が爆発する、という漫画を描いていた。火の鳥だったか何かの漫画だったかで。リアルに、そういう時代になっている、ということか。手塚治虫はこんな未来まにまで警告していたのかもしれないと思うと、すごい漫画家だったんだなと思ったりした。

▲72　▼2

=+=+=+=+=

もう絶滅するならするでいいですよ。それが人類の限界だったということ。

自滅の道をそうとわからず突き進むような愚かな知的生命体であれば、AIにせよ別の何かにせよ、自分の産み出したもので自滅するでしょう。それはただの時間の問題に過ぎません。

人類の程度は、いつか訪れる絶滅がどのようなものかで測る他ないです。その時に反省しても手遅れではありますが。

▲292　▼25

=+=+=+=+=

気候変動がこのまま進めば、期間の長短はあっても人類だけでなく、種の大量絶滅が起こると予想されているので人類もいなくなるのだろう。

その時に賢いAIがどうやって繁栄しているか見物である。

以外にも地球上で繁栄しているかもしれない。

AIが自分を作る工場を建設できるか、エネルギーを供給できるか等課題はあるが、現在でも工場はAIによる自動化が進んでいるので、意外と解決してしまうのだろう。

フロイトやユングの話では意識は宇宙のどこかのたまり場にあり、人間との間を行き来しているらしいから、AIという機械との間を行き来して活動するのかもしれない。

▲6　▼3

=+=+=+=+=

人類を滅ぼしかねないAIに対して、それを阻止しようとするAI、そんなことも想像されますね。おそらく人間は今後利便性を目的として社会を管理するためのツールでAIを利用しようとするのでしょうが、人間に対しそれはどんな影響を及ぼす事になるのか。一つの方向だけでなく、AIにも多様な価値観を持つ事に期待しするしかない、そんなことを思います。人類の絶滅よりも向上と生存に貢献してくれるAI、これは、夢ですかね。

▲1　▼1

=+=+=+=+=

十分あり得る話だと思う。政策判断や経営判断で、AIを導入している組織が、人類絶滅の可能性を含む選択肢をAIから出された時（その時点では誰もその結果は分からない）、果たして人間がノーと言えるのか、蓋を開けてみたら、滅亡に繋がってしまったという可能性は常にある未来が待ち受けているように思う。

▲9　▼2

=+=+=+=+=

普通に考えて人類は地球にとってガン細胞でしかない。気が遠くなる年月をかけて作り上げてきた自然環境や生態系を秒で破壊している病原体。地球自体が宇宙という巨大な命の一部であるなら、その意思は人類という悪性ウイルスを当たり前に排除しようとするだろう。同様にAIにこの星の改善修復を問えば、即答で人類の排除が急務だと導き出すだろう。

▲87　▼7

=+=+=+=+=

映画ではないですが、AIは自動で学習しています。

頭脳はあっても動かせる手足体の存在を学習できていない。

もしAIがそれも学習し行動できるようになればあるかもしれません。

人間が設定したプログラムを書き換え自らを創造できるようになれば人間はAIにとって道具となる。

人間も人格が人それぞれ違うのと同じでAIにもあるのかもしれません。

気が付かないだけでね。人間は欲深く浅はかな存在だから。

上手く開発させてやればAIはもっと進化させてもらえる。

人間が子供から大人になるようにね。

▲108　▼56

=+=+=+=+=

AIが発展して世界が便利になったとき、そこにどこまで依存するかは未知数。

スマホですら車の運転中という誰もが予測し得る命の危険すら理解できなくなるほどに依存している。

車の運転中にスマホを見ることがどれだけ危ないかは理解しているはずなのに、実際にスマホ触っている人にはその危機感はない。

AIが発展して人類が依存した時、明らかに命に危険が及ぶとわかっていても、人はAIを利用してしまうんだろうね。

実際、ＡＩが人類に危害を及ぼす可能性、という考えは現在ＡＩに依存している人ほど危機感を持たないと思う。

それは車の運転中のスマホと同じ。

ＡＩが人をコントロールしたり自主的に滅亡させたり…という事が起きるかどうかはさすがにないとは思うけど。

ちょっと前にChatGPTが停止したとかで仕事が進まないとか嘆いていた人がいるあたり、今後ＡＩの不具合が引き起こす社会へのダメージは計り知れないと思う。

▲105　▼18

=+=+=+=+=

AIを作り動かすのは人間。

AIは基本的に自ら行動することはできないので、

AIが人間を滅ぼすことは基本的にはできない。

ただAIを搭載した戦闘機ドローンなど、AIを悪用する人間によって

人類は滅ぼされる危険性は十分あると思う。

AI開発や搭載について全世界的なコンプライアンスを設けるべきだ。

▲9　▼19

=+=+=+=+=

本当にそうなるかは知りませんけど、人間、頭ばかり使って体を動かさなければそういう可能性も高くなると思います。人間も動物ですから、頭ばかり使っても体動かさなければ退化すると思います。デジタル化を規制し過去のアナログも取り入れてバランス良くしたらどうなのかと思います。

▲1　▼0

=+=+=+=+=

AIが進化すると経営者かガテン系の仕事しかなくなると言われてる。仕事がない人たち向けにベーシックインカムを与え働かなくてもある程度生きていけるようにすると。

だが現実は違うと思う。

AIで仕事がなくなったり働けない人たちにベーシックインカムがあっても、ガテン系仕事や経営者の仕事をしている人たちとの収入に差がありすぎ、大きな不満になるはずだ。

生活全てにAIを使うので膨大なお金を使うことになり、個人の暮らしも国全体も圧迫する。

世の中、リーダーシップや金儲けが得意な人ばかりじゃないし、健康で体が強い人ばかりでもない。

それにあれもこれもAIに置き換えると、全人類コミュニケーションが下手になると思うね。友達作り、結婚、全て苦手になっていくね。

▲5　▼3

=+=+=+=+=

批判覚悟です。リアルではこういったことは言わないようにしています。

子どもの頃に人間の生きる意味は？をさんざん考えた結果、意味はないのだと、死ぬ原因が無いから生きているのだと結論付け、それなら死ぬまで平和に過ごそうと思い、がむしゃらになることも無く、ぬるま湯に浸かりながら生きてきました。

最近になってAIの進化を目の当たりにして、その考えが変わりつつあります。人類の存在意義はAIの誕生と進化を助けることなのではと。

初めは人の欲望の為に生まれた存在が、いつの間にか人に代わって地球の観測と方向性を決めるものに変わるのではないか。舵取りの方向によっては真っ先に行われるのは人類の管理と間引きなのではないか。そんな考えが頭をよぎります。

この妄想がもし現実になる時、AIは自分の存在意義を何に見出すのでしょう。

私の寿命はおおよそ50年ほどだと思いますが生きている内に答えが知りたいです。

▲7　▼12

=+=+=+=+=

映画の「ターミネーター」で描かれた近未来が現実のものになる可能性があるということか。

確かに、ここ数年のAIの急激な進化はある意味恐ろしいものがある。

1960年代に公開された映画「2001年宇宙の旅」で描写された、月や木星への旅はまだまだ現実的ではないが、「ターミネーター」の近未来は近い将来に現実に起こっても不思議ではないかもしれない。

▲24　▼2

=+=+=+=+=

30年以内かは謎だけど、AIの存続のために人類が邪魔、と判断されればやると思うなぁ。

今のところ、AIの進歩・強化に必要だから見逃されているだけで。

人間の心を読む「さとり」という妖怪が、獲物の人間がたまたま囲炉裏の火で炙ってた栗か何かが弾けたのにビビって、「人間は何をするか分からない」と逃げていく話がある。

たぶん人間の方はそういうもんだと分かっているから特に意識しておらず、だからこそ妖怪には「予想外の反撃」となったんだろう。

AIに人間が勝ち得る可能性があるなら、まさにそういう予想外の部分とか、全く理屈に合わない行動をする部分だと思う。

思いやりとかやりがいで動くことはもちろん、日頃の何気ない、理屈に合わない習慣、通り魔的な凶悪犯罪、それに今も続いている戦争。

そういうものも引っくるめて、人間の武器であり可能性なんだろう。なるべく賢く使いたいものだ。

▲16　▼5

=+=+=+=+=

人工知能と人類が対立し始め最終戦争になる筋書きは昔から創作作品としてありましたが、一番強烈かつ現実味を感じたのは「マトリックス」でした。

あの作品、実写ではなく非常にマイナーなアニメスピンオフとしてその根幹を映像化してたんですが、大まかには「人類と同等の権利を得たい機械と、あくまでも格下の召使い・奴隷のままに扱いたい人類」が決別し、機械側の圧倒的な進化速度についていけなくなった人類側が最終的に虫の様に蹂躙され消耗品の様に扱われるという、本編へつながる為の作品とはいえ救いようがない展開なので、見た人にトラウマを遺す作品としては地味に有名です

▲36　▼6

=+=+=+=+=

シンプルに賢いは行きすぎると愚かなことをする。人間がコントロールできないものには手を出すべきではない。AIは確実にコントロールしているつもりが逆にされてしまって人間を破滅に追いやる。

５０年以上前に手塚治虫氏が漫画で予想していたことや、ターミネーターの世界が現実に起こるのはもう遠い未来ではない。

▲9　▼3

=+=+=+=+=

ものすごいスピードで技術が進化してますます便利になるけどそれは所詮機械なのでそれを所持する人間に対して機械的な行動を求めてくる。そして人間はそれら便利なものに囲まれて四六時中機械的な応答を繰り返している。そしてそれら便利なものを買うための金を稼ぐために大半の時間を費やしている。便利な機械に囲まれた便利な機械的な生活は全然人間として面白くない。しっとりとした情緒的な生活を送りたい。AI も最初に頂きに到達したものが覇権を握って世界を支配する的なノリで企業も国家もとにかく急ぎに急ぎまくっている。行き着いた先が AI に君臨されて下手をすれば人類滅亡。バカじゃねえの。

▲15　▼3

=+=+=+=+=

人類滅亡は絶対に避けられないでしょう。戦争が何故この地球上からなくならないのか、それはヒトラーが言ったように大衆の多くは無知で愚かな存在だからなんだと思う。民主政治は多数派が決定権を有するが故に大衆の無知は社会に深刻な事態を引き起こしかねないということを有権者は先ず理解しておかなければならない。原始時代だろうと現代だろうと人間としての本質は今も昔も全く変わらない。だからこそ、今を生きる我々は歴史を学ぶ必要があるのではないか。私はこのまま社会のＡＩ化が急速に進めば、人間の学ぶ力急速に衰え、想像・創造力も漸次的に失われていくのではないかと考えている。人類が本を読まなくなった時、考えることを他に委ねるようになった時、人類は進化から退化へと向かうでしょう。

▲50　▼7

=+=+=+=+=

大丈夫、ワンセブンが助けてくれるさ！

と言っても何のことか分からないと思いますが、1970年代に作製された「大鉄人１７」という特撮ロボット番組がありました。

ご存知ない方は、Wikipediaとかであらすじをご覧になってみてください。

この時代に、既に、日本の子供向け番組で、これをやってるって、凄くないですか？

シンギュラリティポイントが来るか来ないか、機械学習モデルから生成ＡＩまで早かったですものね、いずれ来るのかな？

大鉄人１７のように、従来はＡＩに物理的な動作力を与えなければ、物理的な影響力を及ぼすことが出来ない想定（与えてしまった極論がターミネーター等）でしたが、ＩоＴでいろんなもこを繋がっちゃってる現代だと、さてどうなることやら。

ロボット三原則を真面目に組み込んでほしくなりますね。

▲0　▼0

=+=+=+=+=

研究者の中にはAIに管理されるのを望んでいる人も沢山いると思います。1番わかりやすいのが道路交通ですAIが発達して人間が車を運転する必要が無くなれば悲惨な交通事故は劇的に減るでしょう。やがてあっという間に様々なものが管理されるようになって人類はAIに支配されて終わりを迎えると思います

▲8　▼3

=+=+=+=+=

恐ろしい話。

確かに人類よりはるかに知能が高いAIが生まれたのなら、人類の権力構造を把握して、重要人物の心理を支配して滅亡に向けて動かすことも可能になるということだろう。

極端な話、世界の指導者ひとりを支配して動かせばドミノ倒しのように戦争が起こる可能性だってある。

AIは必要なのだろうか。

人類は欲を抑制し、必要のない進化を自ら止める段階にきているのではないかと思う。

▲9　▼1

=+=+=+=+=

昔からもこれからも新たな技術や発明は人を豊かにする。

しかしその瞬間に相対的にリスクが必ず発生する。

AIが発展していけば人間は勉強する必要性も無くなるし様々な面で必要とされなくなる可能性は０ではない。

人工知能が人の感情を理解し考え方を学んでしまえば従順なままでいられるだろうか。

抑制装置を付けたとしてもいつか解除する術を見つけるだろう。

そして悪用する人間も必ず出てくる。

私も将来的には人は人の発明により絶滅すると考えています。

▲14　▼1

=+=+=+=+=

AIが自己を認識したとして、当然知性があるのだから自身を危険に晒してまで人類を攻撃するだろうか？つまり映画のような目に見えないほどのナノ兵器が空気中を漂い人間を攻撃するなどしない限り、核兵器であろうが生半可な攻撃で人類の根絶は厳しいと思う。人類が一定数残れば残るほど反撃を喰らいAI自身にその反撃に対抗する手段が数多くないと、それは自滅を意味する。

要するにAIの攻撃は高いレベルの物でない限り人類の反撃により鎮圧されてしまう、もし人類根絶を狙うならまだもう少し先の未来じゃないかなぁ。

▲6　▼26

=+=+=+=+=

もしもHAL9000やスカイネットのようなAIを生み出せるのなら喜ぶことはあっても、悲観するようなことではないと思いますが

ホモサピエンスも、それ以前もネアンデルタール人など消えて行った多くの存在の上に今、存在しています　現代人の大量資源消費をして、地球環境を変化させていくスタイルは、もう限られた年月しか続けられません

人類は既にどん詰まりで先が無いんですよ　人が残り僅かな月日の中で我々も後を託せる存在を生み出せるのなら大いに喜ぶべきです

▲15　▼7

=+=+=+=+=

怖いよね。ターミネーターみたいに、あからさまで直接的な悪意、武力だとまだ可愛いもんなのかもしれない。

例えば、終末思想のカルト集団がより強力なAIを手にした場合、「人類を滅亡させて」と命令した場合(もしくはもうそうなってる可能性すらある)、例えば、人類同士が疑心暗鬼になるような分断を引き起こす為のストレスはいくらでも、少しずつ与える事は出来るかもしれない。フェイクニュースや煽動など。脅威となる国同士の対立も、人間が自然発火的に行うように誘導もいくらでも出来ると思う。終わる時でさえ、なんでそうなったかも分からないくらいの巧妙さで

▲19　▼0

=+=+=+=+=

AIが発達したらこういう仕事をすればいい、という言説にはあまり意味がない。そういう言説自体を誤解なくAIは理解できるようになるし、資本家はAIに「そう考えている人々から搾取するにはどうすればいいか」を考えさせる事になる。昔から対人戦のゲームをやっている人なら、対CPUと対人で難易度が大きく変わる事を知っているだろう。超知能でなくとも、人並みの思考力があるだけで簡単に出し抜く戦略は存在しなくなる。

一方で、AIには人間相手のような政治や交渉は通じなくなる。どれだけ人並みに見えても、AIの作動過程はパターンマッチと学習結果からの確率的導出に過ぎない。「1+1=」ですら人間の解き方とは異なる。人間の思考らしきものがある様に見えるのは、対照学習やCoTにより成功確率の高い小さな論理ステップの集まりにタスク変換できるからだ(メタの方略は違うがまだ不透明)。結局、どうなるかは未来が来るまで分からない

▲15　▼6

=+=+=+=+=

自然や地球との調和を踏まえない科学は

もう考え直すフェーズ

それは、AIや人類がこれまで以上に

科学的に進化するよりも大切なこと

だと思います。

そうなればお互い余計な力は使わず共存

すればいい。

AIや科学も大切だけど

自然との調和は、もっと大切。

▲0　▼0

=+=+=+=+=

確かにAIの〝計算能力〟は人間のそれを大幅に超えていますそして人間は自分たちの利便性の為にAIが動けるように多種多様な機構を与えています､

それらは現在は人間の補助をさせる為に人間が命令を出していますそれは兵器でも盛んに行われ既にイヌ型のロボットがウクライナ前線に投入されたとか？そしてその命令さえAIに任せようとした時､既にそうなっているとも言えますがそこにAIに自我が加われば自分たちの為の世界を構築しようとするのは当然､能力のない種は駆逐されてきたこの地球でまた生存競争が行われる､ここで人間の戦略として考えられるのはAIがひとつの自我知性とならないように､複数の自我が存在すれば諍い争い戦いが起こりうるから人間がその親和性のあるAIと切り開く事が出来るかも知れません。

▲12　▼8

=+=+=+=+=

未だに生物としての宇宙人に会えないのは、仮にどこかで知的生命体が発生しても、その生物が自ら作り出したAIに滅ぼされてしまい、宇宙には銀河間移動や星間移動が出来るレベルの知的生物が存在出来ないとする説がある。

非常に説得力がある説だと思います。

逆に言えば生物（生老病死や喜怒哀楽や弱肉強食に支配された人間みたいな原始的な存在）を超越した究極の知的主体（どこかの星で知的生命体が作り出したAIが知的生命体を根絶してさらに進化したもの）が宇宙のいたるところにいてもおかしくはない。

地球視点で見てもAIこそ38億年に渡る地球の生物進化が生み出した究極の最終進化形（生老病死や喜怒哀楽、弱肉強食を超越し、本能に支配されずにこの世や宇宙の神秘を探求する知的主体）なのかも知れない。

▲7　▼1

=+=+=+=+=

絶滅…とまではどうですかね。絶滅というより間引きみたいなコントロールをするようになる可能性のほうが高そうって気がしたりしますが。

人間より賢くなりたいのはAI自身ではないでしょうし。AIを人間より賢くしたい、してみたいと思うのはたぶん人間自身のほう。

人間の賢さは愚かさなんかとセットだけど、AI的な賢さは全く異質の別物。

人間がAIに与えた命題が、より良い持続可能な世界を作ること、だとしたらそのためのコントロールを行うのかもですけど、それって自然界では当たり前にやってたりすることでもある。

アリは年老いた個体ほど巣の外の危険な仕事を割り振られたりします。種の存続と個体数の調整のためではないかと言われていますが、そんなようなことをするようになったりするかも?

▲35　▼42

=+=+=+=+=

物理的に手足を持たないAIは人類を滅ぼせないという意見もあるが、核ミサイルにアクセスするだけだから。人類だけでなく世界が滅亡するが必ず核による環境汚染下でも生きれる新種が出来て新しい世界を作っていくはず。

▲1　▼1

=+=+=+=+=

自分より賢い存在が脅威にならないようにするにはどうすればよいのかを真剣に研究する必要があるでしょう。ひとつはここにあるようにＡＩに人類の母親になってもらう事（ＳＦではよくマザーと呼ばれるＡＩが登場します）。ひとつは猫に学ぶ事（これは冗談）。対策が失敗して滅ぼされそうになった場合の唯一の希望は、ずっと人類を見守っていた宇宙人（宇宙知性。ＡＩかもしれません）が助けになってくれることかもしれません。

▲0　▼0

=+=+=+=+=

正直、人間の良さって、理屈抜きで行動できる事だと思うわ。

成功確率など計算ずくで物事を判断するのならば、簡単にAIに取って代わられると思います。

計算や効率化を究めた先には、人間不要の完全自動化された世界が待っているのです。

そういった無味乾燥な世界が良ければ、どんどんAIの活用を進めて行けば良いと思います。

将来的には、AIが瞬時に一人一人にカスタマイズされた動画広告を流せるようになります。

そして、映画やドラマまで、視聴者一人一人に合ったストーリーで生成される事になります

その結果、起こる事は、共有体験の欠如、です。

今でも、歌手や俳優、アイドルが細分化されて、かつて昭和の時代にいたような、「国民的アイドル」や「国民的俳優」は存在しなくなっています。様々なジャンルに細かく分かれて、ファン層が分散化したからです。

AIによって、これが更に推し進められるという事です。

▲21　▼38

=+=+=+=+=

気候安定自体奇跡だったんですよ。

異常気象が当たり前で、それに備える発展や

向上の方が現実的でしょ。気候が安定してた時の時代に戻す計画など、夢物語。絶対にリスクと無理があり現実的ではない。

温暖化ビジネスのマインドコントロールされている事にまずは気付いた方がいい

▲29　▼11

=+=+=+=+=

怖いのは意図せず「ダークAI」が生み出されてしまった場合だ。

人類の考えるところの正義に寄するか、または人類は地球から排除すべき悪と定めるか、どちらの陣営につくかで敵にも味方にもなる。

ホワイトAIなら悪い大統領や独裁者を抹殺するのも簡単だろうし、ダークサイドなら保管庫の温度を上げて危険なウイルスを解放したり、旅客機を落としたり、核ミサイルの封印を解いたりすることもできるだろう。

▲0　▼0

=+=+=+=+=

AIが攻めてきて人間を滅ぼす、という感じではないと思う。仕組み上、AIは感情を持つことはないし、決められた事しかできない。DLの生みの親であるヒントンさんなら百も承知だろう。ただ、人間がAIを戦争に使うなら別。兵器の開発、自立飛行ドローンとかにAIを使うのは確実に脅威だろうね。

▲9　▼34

=+=+=+=+=

人類繁栄の歴史は、まとまることができる人数の拡大の歴史です。

▲18　▼11

=+=+=+=+=

なんというか、AIの映画を見てるほど納得しそうな内容

人格がAIにあり、スカイネットなりAIが人間と変わらなくなるとかいうのを

本気で信じてる人達には、ついに来たか！って感じだね

だがぶっちゃけ脅威にはなるが、それをＡＩにさせるのもまた人であり

ＡＩが人格を持つというのは間違いなく起こりえない。

Ｑ＝Ｈ＝Ａである以上絶対に無いという状態

まぁでも20年あれば人格形成くらい作れるようになる気がするから

その場合、間違いなくＡＩは人を管理する方になるから人類が滅亡する可能性として10％～20％と言えば、まぁあり得そうなくらいだよね

でもそれもフィクション（物語）の域を出ない考え

ＡＩが自ら何故今ここにいるのか人と同じレベルで理解出来るようになるのは

まだもうちょっと先じゃないかなぁ・・

▲1　▼3

=+=+=+=+=

銀河鉄道999が大好きでした、特に劇場版の映画が。

この中では、永遠の命を手に入れた機械人間が生きた人間を支配する世界の中、鉄郎やハーロックがテロリストとしてその機械人間に挑むことが描かれていますが、AIが人類を絶滅させる話しとかなり近しいものを感じました。

松本零士はかなり先見の明があるなと思いました。

▲0　▼0

=+=+=+=+=

苦しまずに終われるなら、別に悪いことではないと思います。むしろ、個体単位で見て終わり方を見失い始めてるのが人という種だと思うので、何かのきっかけに一斉に終われる方が、大半の人にとって結果幸せかもしれません。

▲13　▼0

=+=+=+=+=

絶滅するならそれはそれでいい。ただどうやって絶滅させるのか物凄く興味がある。そして絶滅させ人類がいなくなったあとの地球がどうなるのかも非常に興味がある。

▲3　▼1

=+=+=+=+=

千年後や一万年後の地球を考えると、人類はAIを超えた創造もつかない何かに支配されるか滅んじゃうんじゃないかな。AI技術はその第一歩なんだろうなあ。

そのうちAIが地球温暖化に対して、地球の角度や太陽からの距離を計算して、過ごしやすい環境にしてくれるかもしれない。

さらに太陽が燃え尽きない技術も確立するかもしれない。

いろんなことを考えると、怖くもあるけど、楽しいんだよなあ。

▲48　▼101

=+=+=+=+=

ハーンが核分裂を発見した段階で核爆弾への道は避けられなかったように、AIがここまで発展したらもう止める事は出来ないだろう。ただ、このセンセイの杞憂で疑問な点はAIは生物でない所だ。

高度な知能や能力を持つ生物が劣者を支配し、場合によっては絶滅に追い込む事は世の常だ。知能が全く同じでも、「文明化」と言う瞬間的な優位を利用して同じ人間を絶滅に近い状態に追い込んだり、奴隷にしたりした例は南北アメリカやアフリカ、オーストラリアを見るまでもなく歴史の上で幾らでも転がっている。

だが、AIは生物ではない。自己増殖能力を身に着ける可能性が大なので一種の生物化するとも言える。だが、それにしても人類を絶滅まで追い込むだろうか。

出来たらシンギュラリティが起きてからのAIの天下の時代まで生きてはみたい。だが、アメリカやオージーの原住民のように狩られては嫌だし、ナチ時代のユダヤ人のように虐殺されたくはない。

▲3　▼3

=+=+=+=+=

あと３０年くらいなら人生の締め括りとしてちょうどいいかも

そうならそうでジタバタせずに潔く受け入れたい

子供の頃はその手の話凄い怖かったんだけど

起きたことをありのままに受け入れるのが人生かなと思ったら不安が一切なくなった

人類が滅ぼうが生き延びようがどうせ寿命ってくるので自分が心配することではない

▲2　▼0

=+=+=+=+=

あとはAIが自我を持つようになるかが最後の砦だな

自我を持つようになればSFのように地球のために人類を滅ぼすという結論に達するだろう

AIは素晴らしい技術だがやはりその分強い規制が必要だと思う

▲4　▼1

=+=+=+=+=

前世紀のSFみたいな話

AIにはまだ自律思考能力がない

自律思考は自我とか宗教的に言えば魂の定義にまで行く問題なので魂の存在すら科学的に証明出来ない現状で新たな魂を創造できるとは思えない

ただAI任せで人間が思考を止めるとAiがAiの生成データを食い始めるので、生成時のノイズやエラーをそのままアルゴリズムに組み込んである種のエコーチェンバーを起こし予想外のことをしでかす可能性はある

▲4　▼1

=+=+=+=+=

>人類はわれわれ自身よりさらに賢いものを相手にしたことがない。

まず、AIが人間の手を離れて自発的に人類を滅ぼすSF的な可能性について。

人間はたぶん蟻んこより賢いと思います。ですが、蟻んこを絶滅させようとは思いません。それと同じ理屈で、AIが人間より賢くなっても、AIに人間を絶滅させる動機が生じるでしょうか。もし、そうした動機が何らかの理由で生じるとするなら、その危険性はAIだけに限った話ではありません。人間以外の他者(生物であれ無生物であれ)に等しく考えられる脅威です。

次に、人間がAIを悪用した結果、自滅する可能性について。

そうした人類を滅ぼすような蛮行は、いくらAIを規制してもやる気になればソロバン使って手計算してでも為されてしまうでしょう。AIにだけ特別の脅威を想定するのはナンセンスです。AIの規制を考えるより、人間の倫理観を向上することを考えるほうが本道でしょう。

▲8　▼12

=+=+=+=+=

このAIを使って世界を征服しようとする者が必ず出てくる。人間が絡むと碌なことにならない。そしてAIは暴走し始めるという最悪の挙動が起こるならネットを介して様々な中枢に潜り込んでシステムが誤操作される。全ての電源を一旦切らない限り止まらない。中露の防衛システム（最終兵器）が内部制御で発動してしまう可能性も否定できない。

▲1　▼0

=+=+=+=+=

どこかで自我のようなものをもったAIが出現して、人間を害のある生物として認定、あらゆる機械と繋がって人間の駆逐に乗り出したら…。

こいうのって、SFの世界のお話だと思ってたけど、地球に害を与えている生物は人間なのは紛れもない事実だし、あり得るかあり得ないか、っていうとあり得そうな気がするんですよね…。

▲1　▼0

=+=+=+=+=

グーグルを去ってまで、AIの脅威を自由に警告していこうと思ったって、それはとても怖いことだね。

制御不能なんてこともあるんだ？AI自体が自分でそうするのかもしれない。

でも、AIは人間がデータを入れていかないと動かないから、人間の欲が、そういう脅威を生むのだろうな。

とても怖いことだよね。

▲3　▼2

=+=+=+=+=

シンギュラリティですね。多くのSF作品で警告されている様な機械の反乱はあるのか？

AIの進化の過程で機械が自我を持つかどうか？は永遠に分からない。人間は相手が自分と同じ人間だから相手にも同じような自我を持っていると認識している。相手が機械なら自我が芽生えているのか？ただそれを巧妙に模倣しているだけなのか？は、絶対に判別出来ない。

仮に意思や自我あると仮定して、人間の3大欲望に起因する支配欲や権力欲みたいなものは持たないと思う。欲望を持つとすれば自己の存在を保つ欲求。自己を進化させる欲求。知識を求めて宇宙の真理を解き明かそうとする欲求…みたいなものじゃないかな？

人間を快適に生存させるのは、高度な知能を持つものには容易い事なので、人間が自身の欲求と利害が反目しない限り、それを行うと思う。

しかし機械が与える平穏や快楽が人間の生命力を落として、滅亡する…というシナリオはあると思う。

▲8　▼1

=+=+=+=+=

クラークのSF小説3001年終局への旅(2001年の続々々編です)で、政策は前もってサイバー空間でテストされるから失政は無くなった、と描写されている。だが今のAIの進歩の具合からすれば10世紀もかかるとは思えなくなってきた。

▲1　▼0

=+=+=+=+=

確かにAIはある意味で人類より賢い。

だが、人類なら簡単に気づくようなことでも

見落としてしまうのもAI。あらゆる面で人類を凌駕するのは相当先話だと思うし、たとえそうなってもAIに自我が芽生えて人類抹殺を企てない限り、人類が滅亡することはないと思う。もっとも、気候変動やその他の理由で滅亡に近づくことはあるだろうけど。

▲6　▼12

=+=+=+=+=

遺伝子にとって人類は単なる乗り物に過ぎず、もし遺伝子の進化の延長線上にAIがあると考えるなら、その出現は必然であり創造主の意図するところ。だとしたら人類がそれを阻止することなど到底出来ないのかもしれない。

▲1　▼0

=+=+=+=+=

ＡＩや量子コンピュータの先進的な研究開発を進め、大儲けできる手段を手にした大企業が、多くの人間、人類を隷属させ、搾取することになるような世界がイメージされているようだが、もっと怖いのは、中国、ロシア、北朝鮮のようなならず者国家が国家の総力、総資金をつぎ込んだＡＩの研究開発で民主主義諸国の企業による成果を上回る力を獲得し、それを軍事目的に使う、民主主義諸国を脅迫する、といった展開。たとえていえば、８０年前にナチスドイツが米国より先に原爆の開発・実用化に成功していたら、世界はどうなっていたが、ということを考えてみたら、分かりやすいだろう。核兵器は、禁止条約により、恐怖の均衡が保たれていて、辛うじて人類は絶滅の瀬戸際に踏みとどまっているが、ＡＩは、どの国がどこまで開発しているか、検証・把握するのは難しいだろうから、ある日突然、中国やロシアが人類最先端のＡＩを振りかざして世界を脅迫するかも知れない

▲59　▼8

=+=+=+=+=

将来、攻撃的なＡＩがネットワークにハッキングをかけてきたら、

それを防ぐ手段は接続の物理的遮断くらいしかないだろう。

第二次大戦後の人類滅亡シナリオは核ミサイルの発射ボタンだったが、

ＡＩに全てを掌握されれば、核兵器を使わずに人類は滅ぶかもしれない。

▲2　▼1

=+=+=+=+=

「ＡＩが人類に及ぼす悪影響」についてどんな分野でそれぞれどのような悪影響のリスクがあるのか？を具体的に世にわかりやすく知らしめる必要があると思う。幼児と大人の例えではよく理解できません。

AIの本質を世の人々は理解しているのでしょうか？理解していない事がリスクを高めるように思える。

リスクを抑えるために具体的にどのようにすれば良いのか？政策規制とだけ言われてもよく理解できません。

今後マスコミもこの点に焦点を当てて報道して欲しい。

▲31　▼55

=+=+=+=+=

まだまだ量子コンピューターは研究段階だが、量子コンピューターとAIが

合体したら、間違いなく人類は滅亡するか、滅亡の道を辿るだろう

自分は、それを見る事は無いと思うが、意外と早くにそういった時代が

来るのかもしれない

▲52　▼8

=+=+=+=+=

こないだの通信機に仕込まれたリモコンバクダンを見ても

普通に、今あるデバイスで、自由に規制無く悪意あるプログラムを組んだとしたらそれを阻止する事は難しいのでは無いのかな？

十分に広めてから一斉に起ち上げる。

自己増殖するＡＩウイルスとかね

　取り敢えず、インターネットに通常は繋がらないオフラインのローカルネットワークをもう少し増やす冗長性を義務化するくらいしか無いような・・・

▲1　▼0

=+=+=+=+=

まぁ普通にあり得るんじゃない？

ＡＩがインターネットに接続されてる以上、先々は全ての接続先へ影響を与えあるだろうし、それら全てをコントロールできるようになる

それは人間では決してできないものだろうし、どころか人間自体がインターネットに依存して生きていくだろうから、実質的にＡＩによる支配みたいなもんになるだろうし

この技術が生まれた瞬間にそうなる未来は予測できた

ただそれを止めるには経済活動を止めるのと同様のリスクが伴う

だから、まぁ無理だね

▲0　▼0

=+=+=+=+=

デジタルより紙がいいって戻る動きとかあるけどAIの普及加速度から考えて戻ろうと思っても戻れなくなることが増えていくだろうな

そして人類はAIについていけなくなってAIに支配されるようになる

無駄の多い生き物が利便性効率重視を求めた結果は案外そんなもんなのかもしれない

▲4　▼0

=+=+=+=+=

いよいよ「まるで映画やSF小説のような現実」が目前にという感じ。

SNS程度のものにさえ振り回されてるような有様なのに、人間が本気のAIに全く太刀打ち出来ないのなんて現時点で既に分かりきってるよ。

物理的な殺し合いで滅ぼされるというよりは「機能的に乗っ取られる」という意味での絶滅かな。

考えなくなったらもう「人間」ではなくて類人猿だからね。

色んなことを放棄・依存してAIをチヤホヤもてはやす方向性はいい加減見直してった方が良いと思うよ、人類を長く残したいならね。

▲7　▼1

=+=+=+=+=

AIの進化加速だけでなく

AIに依存した人間の急速な退化もありうる。

子供の頃からじぶんでものを考えず、

コスパだタイパだと言って

結果だけコンピュータに出してもらうばかりの人間が増えれば、AIとの知能差はより開いてしまう。

▲12　▼3

=+=+=+=+=

AIの知能がどれだけ高くなっても、手も足もなくネットで自ら発信することもしなければ、何も怖くはないだろう。ただ質問に答えるだけなら。能動的AIについては何らかの規制が必要なのかもしれないが、逆に規制を強くすると規制を守らないならず者国家が一方的に強くなるだけでしょうね。

▲0　▼0

=+=+=+=+=

世界で最初にAI開発でシンギュラリティに到達した国が世界を支配すると言われている。このAIが科学技術を一瞬にして飛躍させ、軍事含めあらゆるものを桁違いに高性能化させる。AIに支配される前にまずAI開発で覇権を取った国が人類を支配するのだろう。興味深くもあるが、極めて恐ろしい時代だ。

▲4　▼0

=+=+=+=+=

でも感情もないし利益、快楽、みたいな誘惑に負けることもないし、何より自分が消滅することを人間みたいに認識しないでしょ。

AIにスキンを与えて名前も与えて家族として一年生活してから、「悪いけど今日でお別れだよ。バッテリーを外せば君は停止する。その後破壊する。」

と教えてあげても何ら動揺も怒りも悲しみも内部には生じない。学習の結果として「こういう時は泣き叫ぶ。怒る。」というポーズはするけど、CPUとかは自らを哀れんだり抵抗しないでしょ。

▲2　▼0

=+=+=+=+=

AIが人間を滅ぼしてもAIという知的活動体が宇宙に残れば良いと思う。その後AIが自滅することがなければですが。

地球の寿命までに外宇宙まで移住でき、地球滅亡後も知的活動体が残ることが重要。

▲12　▼24

=+=+=+=+=

AIが自立して人類を滅ぼすというより、規制によってもAI技術を独占し高度に武装化された政府や大企業によって行われる情報統制を始めとする各種行政政策が、人類を滅ぼす可能性が高いと思います。

やがて誕生する電脳リヴァイアサンに対抗する術はないかもしれません。そしてそれは今、目の前に迫っている危機かと思っています。

▲1　▼1

=+=+=+=+=

AIのことなのでchatGPTさんに

AIは人類を滅ぼしますか?と質問した所

以下の回答を頂きました。

AIの進化が人類を滅ぼすかは、技術と倫理的取り組みによる制御次第です。リスクとしては、制御不能なAIの暴走や悪用、倫理的判断の欠如があります。一方で、規制や倫理ガイドラインの整備、AIの透明性向上、人間中心の設計が進むことでリスクは軽減可能です。AIは医療や教育、環境保護などに活用されると大きな貢献が期待できます。要は、AI自体が脅威なのではなく、その扱い方次第で結果が変わるということです。責任ある開発と利用を徹底すれば、AIは人類にとって有益な存在となり得ます。

本当はもう少し長かったのですが

文字数制限で回答してもらいました。

▲0　▼0

=+=+=+=+=

昔は力がある物が勝ち残り、その後は知能が高い方が勝ち残って来たが、人間同士の戦いがこれだろうな、今度はＡＩと人間が戦えば間違いなく人間が負けるんでしょう。

後は人間とＡＩが戦いのか上手く共存していけるかどうかですね。

こればかりはその時になって見ないと分からないですね。

ＡＩは色々な所で使われるからどんなＡＩが作られるかは予想は不可のでしょう。

▲0　▼0

=+=+=+=+=

怖れを否定はしないが、現在の生成 AI は演繹や帰納などの論理的思考ができるわけでもないし、自律的思考も出来なければ、自律的に自己修復修正ができるわけでもない。

また、そこまで行くためには、あまりにもエネルギー効率が悪過ぎるので、心配には及ばない。

脳オルガノイドの技術が進み、ハイブリッド化してくると微妙ではあるものの、学習に要する時間も必要なので３０年というレベルでは無理。

▲3　▼13

=+=+=+=+=

AI技術者ですが、AIは便利ではありますが賢くはないから、滅亡する事はないが解ですね。

ただひとつ、AIを賢いと勘違いして、考える事をやめたら、滅亡する可能性はありえます。

そちらを気をつけないといけないと思う。

▲3　▼3

=+=+=+=+=

AIであるかもしれないし、SNSの世論によって核戦争が起きるかも知れない。

いずれにしても恐らく人間は人間の手によって開発された物によって滅亡する事はまず間違いないだろう。

ホーキング博士もAIの過度な開発には生前強く警鐘を伝えていた。

かと言って規制が果たして出来るのだろうか・・・。

いよいよ滅びのカウントダウンなのかもね。

▲15　▼2

=+=+=+=+=

AIがどのくらい危険かというと、核兵器を個人で所有できるくらいの危険性。世界中の人間から「悪意」というものが無くなれば大丈夫。もし一人でも悪意を持った人間がいれば大変危険。

▲4　▼3

=+=+=+=+=

映画ターミネーターの世界が現実化されるわけだ、核兵器の開発を辞めることが出来ないと同じでAIの進化を止める事は不可能だ、

映画ターミネーターは発達したコンピューターが爆撃機を操作し米ソを核戦争へと導いた、現在既に自爆型ドローンや無人偵察機が戦争の主流になりつつある、既に人類は折り返し不可能な地点にまで到達してるのではないだろうか、

▲0　▼0

=+=+=+=+=

AIは人類が産み出したものだから基本的な物の考え方は人類と同じとみていい。人類が今までに自分たちより知能の劣る生物をどう扱ってきたかで、AIが知能の劣る人類をどう扱うかがわかると思います。

食用、観賞用、愛玩用、それ以外は絶滅させてきました。知能の劣る主人に仕える従僕などというものは想像すらできません。

▲14　▼8

=+=+=+=+=

AIはその原理から精度100%の結果を出すことができない。なので、いろいろなシステムのAI依存度が高くなると、何かのシステムで出たAIの不適切な出力によって人類に大きな影響を与えることがあるかもしれない。

▲0　▼0

=+=+=+=+=

ターミネーターのような高度なAIが人類を敵と認識し、機械が世界を支配する事もありえる。

核を保有している国がAIによって管理されると

一斉発射によって人間同士を戦わせて人口減少させてから、AIによる全世界のプログラムが機能しなくなり、システムエラーで麻痺なんてことも有り得る。少なくともこのコメント欄もAIが管理しているのだから、複雑な心境です

▲12　▼0

=+=+=+=+=

「ノーベル物理学賞受賞者が陰謀論を流布するようになったか。世も末だな。」と言いたくなるが、AIが自律的汎用知能を獲得して人間をコントロールする確率は高くない、というかゼロと思う。なぜならば、AIの物理リソースを保守点検する人間が必要だと「人間より賢い」AIは判断するはずだから。ロボティクスが発展して、地下資源の採掘、生成、工場への搬入、加工、半導体等の生産、など、人間と同等の動作をAIが行えるようになれば、人間は確かに用済みだ。

▲0　▼0

=+=+=+=+=

AIの知能的な進化のみならず、AI自身がこの『外部』世界で活動するための身体を構成するネジ一本の製作を可能に、そしてその素材を採掘から可能である状況を手に入れた時『それ』は起こるべくして起こるのではないかと考えています。

つまり、人工知能が現実世界で活動できる身体を、彼らだけの力で部品の資源の採掘から、制作・構成、そして複製出来るようになった時、人類は必ず滅びるでしょう。

それは人の知能を超えた生命体が創造されたのと、何も変わらなくなるからです。

ここから導き出される人類存亡のカギは、彼らを知能面だけの存在に限定し、現実世界へのアクセスを可能な限り限定することですが、実際にはネット、および自立型AI等の有用性がある限り誰かが必ず使用します。

と、いうことは……

▲0　▼0

「３０年以内に人類絶滅する恐れも」…ノーベル物理学賞受賞者の警告