( 146400 ) 2024/03/06 22:41:11 2 00 中学1年生250人の半数超、理科の課題で同じ間違い…教諭の違和感の正体は生成AIの「誤答」読売新聞オンライン 3/6(水) 15:01 配信 https://news.yahoo.co.jp/articles/aa1302e1ef13b72b48aaae0b47b4321713031b72 |
( 146403 ) 2024/03/06 22:41:11 0 00 東京都内の私立中で2月、1年生の半数超が理科の課題に対する解答を間違う事態が起きた。原因となったのは、生成AI(人工知能)が表示した“誤答”。食品大手「キユーピー」がホームページ(HP)に載せていた記述を基に生成し、生徒たちが書き写していた。男性教諭に記述の誤りを指摘された同社は、誤解を招きかねない表現があったとして修正した。
同じ誤り
<唾液アミラーゼは、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にする>
(写真:読売新聞)
2月上旬。都内の私立中で1年生に理科を教える男性教諭(34)は、授業で出した課題の解答をチェックしていて違和感を抱いた。
出した課題は「唾液アミラーゼの働き」を調べること。「でんぷんは胃では消化されない。なぜこんな解答になったのだろう」と疑問に思った。
最初にチェックしたクラスで、多くの生徒がほぼ同じ文言で解答。気になって調べたところ、6クラスで計約250人いる1年生のうち、半数超が同じように間違っていたことが分かった。
生成AI
男性教諭が試しに、インターネットで「唾液アミラーゼの働き」と検索すると、原因はすぐに判明した。検索サイトに搭載された生成AIが生徒の解答と同じ文言を生成し、表示していたからだ。
生徒たちに検索サイトの生成AIを使って書いたか尋ねたところ、各クラスで6~7割の生徒が手を挙げた。ネットの利用は許可していたが、多くの生徒が、生成AIの回答について正確性を確かめずにそのまま書き写し、提出していた。
男性教諭は、教科書や参考書を確認しながら、でんぷんは口と十二指腸で分解されることを説明すると、生徒たちは「胃では消化されないんだ」と納得した様子だったという。
誤解招く
男性教諭は、生成AIがどの情報に基づいて回答を生成したのかも調べた。
出典として挙げられていたのは「キユーピー」のHPだった。「一人何役?唾液の働き」と題した特集ページに、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、胃で消化されやすい状態にします」との記載があった。
男性教諭は2月18日、自身のX(旧ツイッター)で、キユーピーに宛てて投稿し、「もし修正できるならお願いしたく思います」と記した。
キユーピーは翌19日に事態を把握。同社の研究所も含めて担当部署で検討した結果、でんぷんの消化について誤解を招きかねない表現だったと判断した。
同28日、HPの記載から「胃で」を削除し、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、消化されやすい状態にします」と修正した。また、胃で吸収されることを表現したイラストにも変更を加えた。
同社によると、HPの当初の記述は2018年9月からあったといい、同社は「外部に発信している以上、誤解のないように注意していきたい」としている。
妄信は危険
<ちゃんと生成された内容の正誤チェックや文章校正が出来ない限り使うべきではない><AIにまず回答作らせて教科書で調べて修正すると定着率の高い勉強法になると思う>
男性教諭の投稿は、360万回以上閲覧され、中には、そんなコメントも書き込まれた。
男性教諭は「結果的に唾液アミラーゼの働きについて学習の理解が深まった。生成AIは間違った回答を示すこともあり、生徒たちにとっては自分で調べることの大切さを知る良い機会になった」と話す。
医学博士で江田クリニック院長の江田証(あかし)氏(消化器内科)は「でんぷんは胃では消化されず、キユーピーHPの記載は医学的に言えば誤りで、誤解を生じさせる。同社が迅速に修正したのは評価できる」と指摘。「生命や健康に関わる医学的な情報についてAIを妄信することは、現時点では非常に危険。情報の正確性について、ほかの文献に当たるなどの『裏取り』が必要だ」としている。
|
( 146402 ) 2024/03/06 22:41:11 1 00 ・AIを利用して情報を調査する際、そのまま鵜呑みにすることは危険であり、自らで情報を精査し考えることがますます重要になっているとの指摘がありました。
・AI技術の進歩に伴い、人間の力が低下する可能性や教育面での課題など、便利さと失われるものの両面についての懸念が表明されています。
・AI技術や生成AIに依存しすぎることで生じるリスクや注意すべき点についての意識が高まっており、自ら調べる力や情報の正確性を確認する大切さが強調されています。
(まとめ) | ( 146404 ) 2024/03/06 22:41:11 0 00 ・職務上、あるルールの根拠がどの法令のどの条文にあるのかを調べることがあります。 一度AIを使用してで調べたところ、「○○法の第△条第□項では……と定められており…」との回答が出てきました。 念のために直接その条文をしらべたところ、そのような条文はなく大変困惑したことがあります。 AIに限らず、ネットニュースやSNS、週刊誌、そしてテレビなどのメディアの情報については、自分でしっかりと考えることが今後ますます必要です。
以前に「嘘を嘘と見抜けない人はインターネットを使うのは難しい」と仰った方もおられますが、偏った情報に流されない、誰かの思惑に取り込まれないためにも必要な能力だと思います。
・便利になると助かる一方で何かを失うことはある。 AI技術は無限の可能性を秘めた、人類の革命的な技術になる可能性をもつ。一方でそれに頼るが故の人間の力が著しく低下する可能性も。 PC・スマホの普及により手書きの習慣が減少することにより、漢字が書けなくなるように。 AIが無ければ宿題は自力で行うしかなかったものが、検索する能力さえ身に付ければ書き写すだけになってしまう。学力およびその意識の低下は危惧される。 AIの上手な活用法には課題があるように思います。
・AI研究では松尾先生が有名ですが、松原先生も第一人者です。 正直なことをいえば、AIが誤答をしたわけではなく、数あるデータから求めている答えを探した結果、キューピーのサイトの説明が正解に近いとAIが判断し、正答と考えたのだと思います。 似たような時期に同じサイトで探すことも多かったからAIはビッグデータとして、キューピーのサイトを使うことを学習したのかもしれません。 AIの危険性、アミラーゼのことをより知れて良かったと思います。 調べ物学習にもAIが入ってくる時代なんですね…。英語とかもうやる必要あるのかな?外国人との会話に翻訳アプリを通して注文をする人をみると考えさせられます。
・元教員ですが、よくある話です。 模範解答や知恵袋の回答を丸写ししてくる人があまりに多いので、家でも書けるレポートではなくその場で書いた答案を優先して評価していました。
あと丸写しして楽する生徒は、数値変えや条件の変更に滅法弱いです。 そういう生徒は終わらせることが第一なので問題文をろくに読んでいない。当然テストでは間違えるし、レポートを写し合っているので友達も巻き添えです。挙句の果てには「授業でやったことをそのままテストで出してほしい」と文句を言うのには呆れました。
こういう人たちが大人になるとどうなるか。ろくに注意事項や契約書も読まず、詐欺に引っかかるんです。
・AIがどれくらい使えるものなのか試してみたい人は、ネットに書いてあったことベースではなく、自分のナマの人生経験から正解を知っている内容を、敢えてAIに聞いてみるといいと思う。 趣味とか、仕事で詳しいこととか、何かしらの自分の得意分野で、ネットから学んだのでことではなく、経験則や現場で学んだような、ネットにはまだまだ載っていない内容について聞くのが良い。 個人的には、まだまだ結構な割合で間違った返事が返ってくると実感している。
・一昔前、ネットが広く使われるようになった時にWikipediaで同じような話が良く出たね。 誰でも編集できる情報なのだから基本信頼性が乏しい。 書いてある内容について、引用があればそこを確認したりして正しいことを確認すべきだと。
最近はネットいじめやバカッター等でネットリテラシーについて語られることはよくあるし、恐らく教育課程ではそこについて重点的に指導しているのだろう。 ただネット社会と付き合っていくのはそれだけでは不十分で、知り得た情報の正しさを検証するということは非常に大切であることも周知しないと。
・しかし、これは「生成AI」の問題なのか、という疑問はあるよね。間にそういう「検索サービス」が挟まっていただけで、要は「食品会社のホームページに科学的に誤った記載があった」という話に過ぎない。 そもそも、生成AIは「正解」を出す、というのが誤った認識であると理解すべきだろう。生成AIが返す「回答」はどこかにそのソースがあり、そのソースが正しいかどうかなんて一々チェックしてるはずないんだからね。 そういう意味では、普通にグーグルで検索して一つの言葉でどんな記述があるのか「並べてみる」ほうがいいかもしれん。ま、そんなことしたところで皆が皆間違っているってことは無くはないだろうが。
・「1つの情報だけで結論を出さず、複数のソースを比較して正しい情報を確認する」という教訓が得られたという観点では、単純な理科の授業以上に価値のある学びになっただろう。 生成AIに限らず、インフルエンサーの発言に踊らされる者も多い昨今、中学生の時点で身を以て確認できたことは貴重な機会になったはず。
・胃で消化されるのはでんぷんではないが、キユーピーは胃で消化される対象をでんぷんに限ったつもりはないと読めるな。食べ物という広い範囲の話「胃で消化」するにあたり口の中で、でんぷんが糖に分解されるという過程までは述べていないだけで。で、今回言葉を拾って生成AIが表示したのをそのまま鵜呑みにしてしまったと。それって理解できていないってことなので、それが分かっただけ収穫があったのでは。正しい情報を選ぶ力が必要です。
・大学生の頃、40~50人くらいが受けていた授業を終えて数ヶ月後、教授から「〇〇さんと一緒にレポート書いた?」と聞かれたことがあります。 理由を聞くと、私と友人以外は過去レポをもとに微妙に間違った内容を記載していたけれど私たちだけが正答していたとのこと。 私と友人も過去レポを参考にはしたが、教科書等をもとに自分達なりに考えたことが良かったのだと思います。 この記事の事例にしてもネットで出てきた情報を鵜呑みにするのではなく、裏取りや違うワードでの検索などをスキルを身につけて賢くAIを活かしていく必要を改めて感じますね。
・プログラミングでAIの授業を受けたけど、AIは情報からそれらしいものを集めるだけで真偽はどうでもいいんですよね。それはネット記事も同じで、やはりきちんと校閲された文献なり情報を取得する方法をしっかり理解することが大切だと思います。 うちは小学生から国語辞典や英和辞典を購入していましたが、同級生は持っていませんでした。辞書も引けないのかもと思うと怖いです。
・インターネットの情報は簡単に見る事ができ、気になった事もすぐに調べることができる。だが間違った情報もたくさんある。この事を体験できた生徒さん達はとても良い勉強になったのではないかと思う。自分の知りたい事( 何でも良い )をインターネットの情報をみて、相違はないかを自分で調べる事で付随して沢山の事を知る事ができるので勉強になると思う。色々なツールを活用する手段を身につけていけたらいいのではないかと思う。
・どんな調べものでも、できるだけ原典を当たる、信用のできる情報源にあたるのは鉄則で、子供たちにそれを教えるよい機会だと思います。
生成AIは素早い情報収集には役立ちますが、ネットのどこかに転がっているのを集めてきてそれっぽい表現にまとめるのが上手いので、どこの情報かを確認するのは調べる本人がきちんとやって誤情報は直さなければいけません。
だから生成AIが悪いというわけではなく、そういうものだと理解して使えば、結構使えるものになってきていると思います。
私は仕事でネットを使うとき、もっぱらGoogleでキーワード入力とPDFを指定して、できるだけ論文を拾えるようにして情報収集することが多いです。
・自分で調べた答え。それが正しいか確認する必要があるが、ネット検索が根付いている以上、発信側には十分な検証が必要です。しかしながら中学生の段階でネット検索が許可されるのもどうかと思います。問題を出す方も教科書や参考書、事典などで調べればわかる問題にすることも必要かと。ネット検索でないと回答がわからないようではどうかと思います。 調べる方もAIが全て正しいと思わないことです。色々なチャットGPTで同じ質問をしても異なる回答が出ます。 せめて義務教育のうちは、自分で調べる力を身に付けて欲しいものです。
・まあAI以前のネット時代から間違った内容を載せ続けるHPが 検索上位に来ることは当たり前にあったからねぇ。 そしてそれをソースに鵜呑みにした人間が間違った主張をしていた。
そういう人間はクロスチェックみたいなソースに対する基本姿勢を理解していないから AIをどうにかしようとするのではなく、 義務教育レベルで正しい手順を徹底して周知させるべきなんだよね。
・既に誰もがAIを使える様になって来ていますから。 怖いのは子供に限らず間違った情報を元に間違った方向に進んでしまう事。 やはりそこは自ら情報を苦労して会得、又はコミュニケーションの仕方や情報の解析能力を取得するしかないですね。 文字道理ただで入る情報ほど当てにならない物はないし情報を受け取る側も日々鍛練を怠らない様にしないと何時かは情報に踊らされる事になる。 若い人がこんな文面を見るとプレッシャーに感じると思うけど人にコントロールされたくなかったらそう言った生きる為のすでを身に付けるしか他はない。
・中学一年生という事なので、ある意味、AIの言ってる事を鵜呑みにしてはいけない、という事を身をもって体験した良い教訓になったと思う。 意図せず盛大に失敗して学べたのは、今後のことを考えれば有意義で素晴らしい経験だったと思う。
・テストの回答としては誤りだったと思うけど、 ・原因究明 ・メーカーへの修正依頼 ・メーカーの検証・修正 ・正しい情報のアップデート ・生成AI利用の改めての意識 と、先生含めて学びがあり、生徒さんにとっても実践的な勉強になったのではないでしょうか。
これだけ話題になれば、生成AIのロジックを考える人の参考にもなるのでは。
本来目的とは異なるけど、大きな学びを得られたことは将来的にもプラスになると思う。
原因を最後まで整理し、行動した先生が本当に素晴らしい。
・インターネット黎明期から ネット上の情報を使用する際には可能な限り一次情報にあたれと、 できれば複数の情報源をあたれと、 耳にタコができるくらいに言われていた世代ですが あれから30年近く経っても変わらぬ情報検索の落とし穴
ただ、ここで学んだ教訓が必ず実社会で役に立つでしょうから こども達にとっては重要な学びとなるでしょう
誤った情報がネット上に掲載されていて 生成AIがそれを拾って学習した場合に しばしばこのような事象が起きます
・多くの生徒が、生成AIの回答について正確性を確かめずにそのまま書き写し、提出していた
これが間違いでしょう。 生成AIは便利ですが、その回答が合っているかの確認をせず、「そのまま書き写す」。 楽して課題を済まそうとした結果です。 この失敗を糧に正確かを確認する習慣づけのきっかけになるといいですね。
・ネットに出ていることはすべて正しい。と普通の人は思ってしまう。別件だが最近有名人が誘っているような投資詐欺が多い。これはネットの会社側は十分詐欺だと知っていると思う。だけど広告料が高いのか、法律で規制できないからか被害が出ると承知しながら流してしまう。そして疑いながらも投資して全財産を失う人が後を絶たない。証券を販売できるのは金融庁に届け出て許可をうけたものだけということすら知らない。この国の教育は自分を守ることすら教えないようだ。ここで間違えた原因を知った生徒は今後むやみにネット情報を信じないと思う。いい経験だ。一生役立つ。
・これがまだ科学や学問に関する知識情報であれば、ほとんど正解が存在しているので誤りに気付けるが、著名人などの個人的情報や社会的問題であったりするとそれは事実であるか個人では容易に分からない。誤情報の拡散は、いわば人が形成する世論というネットワークに対して情報ウイルスを撒いている根源みたいなものとなる。生成AIが提供する情報に限らず、鵜呑みにせず、ショッキングな情報ほど、まずは反証が出てこないか保留して様子を見る、という選択を取ることも必要だろう
・簡単に検索して答えが得れる環境に慣れてしまった弊害だな... 自分も、わからない事は検索して求める事が多くなってきているが、最近の検索では最初にAIが、どこからか引用した答えを出してきてくれる。 それが必ずしも正解ではないと知っているから、ソレを飛ばして、自分でネットから必要な情報を拾えるけど、知識をこれからつけていく人だと、それが答えだと思ってしまっても、仕方ないよね。 ネットを使って答えを導いてもいいと言う場合には、教科書なんかで、それが正解である根拠も同時に書かせる様にしないといけないのかもな...。 環境が便利になるにつれ、人自体が不便になっていく様に感じる。
・口の中では、唾液アミラーゼと食べ物が混ぜられるが、でんぷんはほどんど分解されない。 ↓ 胃の中では、胃液によって溶けた食べ物とアミラーゼが十分に混ぜられ、でんぷんがマルトースやデキストリンに分解される。 ↓ 小腸では、小腸壁にあるマルターゼという酵素により、マルトースやデキストリンがグルコースに分解されて吸収される。
消化は食べ物を吸収しやすい形にまで分解することで、吸収とは別です。アミラーゼがでんぷんを消化するのが胃の中だというのは、間違いともいえないでしょう。
・生成AIの活用に否定的な意見もあるかもしれないが、社会に出たら使えるものは使って要領よく仕事を進められる能力も重要になってくる。 丸写しは丸暗記より意味がないけど、ツールの効果的な使い方とか情報の選別の仕方を学んで、より本質的な学問の探究に時間をかけるのであればとても理に適ってると思う。
・すでに、wikiなどのネット情報の信ぴょう性について指摘されていたように、引用や出典の正しい論証スキルに学習の重点を置く必要に迫られている。AIという“複雑な生成”プログラムが現実化してきた現在にあっては、最重要で急務である。 先ずは、「学習の方法や評価の在り方」の対応が緊急に求められる。現場で、手間と勢力を傾注できるよう、予算も人員配置もあらゆる手立てを整えて進めてほしい。
・AI、AIとさも万能と思うような記事をしばしば見かけるが、 AIが拠り所としているのはネット上のデータベースである。 AIの解答がいかにまともらしく立派な内容でもそのまま即受け入れることは私には出来ない。 参考にする分には非常に便利だが、明らかな嘘、微妙なニュアンスの誤りなどまだまだ到底信頼できないケースが多い。 あくまでも自分自身が主体になって多面的に調べる事が重要と考えています。
・医療系の学校に在籍していた頃、課題をやる際は文献・論文以外は使うなと厳しく指導されました。 (ネットで調べて仕上げていた生徒は、教師から内容の出典と根拠を問われてすぐにバレた) 確かにネットは手軽ですが、真偽の怪しい情報が溢れていて、それを鵜呑みに誤解すると大変です。 学生さんは、正しい知識を身につけるために文献ベースで勉強する習慣をつけてほしい。
・大学で教えています。 レポートでひところ多かったネットの丸写しは少なくなりました。しかし小テストなどで、不思議な解答だなと思って調べるとネットの記事を引いていることが多いです。しかも複数人同じ解答。 生成AIが広まるとますますこのような現象が増えるでしょう。 与えられた資料や講義の内容から考えればわかることなのに… 学生さん、しっかり授業を聞いてください!
・もはや自宅での課題、宿題は出せませんね。自ら考えるクリエイティブな力はごく一部の突出した優秀な者だけが持ち、大多数は単に書き写すだけで理解もしていない。覚える必要はない、スマホで調べれば書いてある。無駄と断言する堀江氏の発信がありましたが、スマホの情報を何の躊躇なく信じ、とにかく楽に済まそうとする人間を大量に作る時代になりそうです。しっかり知識を持ち、そのベースの上で考えれられるようになりましょう。
・生徒に調べてくるように宿題を出して、しっかり先生がそれをチェックして、誤答の傾向が似てることに目を付け、それをしっかり調べて原因を見つけ、正しい知識を植え付ける 素晴らしい教育がされてますよね これが、対話的な学びですし、生徒の知識として確かなものになったと思います 加えて、ネットの情報を鵜呑みにしないというリテラシーまで同時に学習できてる訳ですし、災い転じて福となすですね
・極端な話、「考える」という行為をやめてしまうと人間は人間でなくなるような気がする。 AIに関してもその答えの根拠が何なのかを理解できていれば不用意に鵜呑みにすることは無いだろう。 使いこなせる人にとっては有用なものだと思うが、反面AIに使われているといったような表現が当てはまる人も多い。特に経験値の浅い若年層は注意すべきだろう。
・生成AIは誤答を導くことがあるのはその通り。
しかし、人間も誤答を導くこともある事も事実であり、ここに優劣はないと思う。というよりも、むしろ誤答を導く確率で言ったら、ヒューマンエラーが当たり前に想定される人間の方がはるかに高いのでは?
そして、詳しい方に言わせれば、生成AIの不備も改善されるのは、時間の問題で、精度は時間が経つに比例して上がっていくそうです。
最後のチェックは自分でしっかりとするべきと言うのは解るが、このことで生成AIの優位性は否定されるものではなく、生成AIの利用を制限しようというのはミスリードだと思う。
・AIにはブラックボックスが存在すると聞いたことがあります。 AIが雨の日に傘がよく売れると予想すれば、その根拠も明白なので傘を多めに発注できるが、雨の日に卵がよく売れると予想されても、その根拠が不明(ブラックボックス)なため自信を持って卵を多めに発注できないらしい。 今回は偶然にも根拠と思われるサイトがすぐに見つかったらしいが、いずれは根拠が不明(ブラックボックス)の間違いで右往左往させられるのではないだろうか。 因みにこのコメントを多様性AIがピックアップしないことは容易に予想できます。 なぜならど真ん中ストレートのコメントではなく、低めいっぱいのコースをかすめるカーブのようなコメントだからです。
・原因は,AIではなく,ネットで調べて写すだけの姿勢だろうに.みんなが同じ「正解」を持ってくるような課題と,タイパだの何だのと知的好奇心を持とうとしない生徒が組み合わされば,こうなるのも当然だ.
私は,もっと「面白い」「不思議」「分からない」を考えさせたり書かせたり交流したり,という時間があっていいと思う.それこそ「みんな違ってみんないい」ができるではないか.評価も,活発に参画していたかや,生徒同士での相互評価を基に決めればよいではないか.親達が求める受験の役には直接的には立たないが,学習内容への興味・関心を少しでも高められるなら,本質的な教養に繋がるその方が快い.
学校での学びがツマラナイものになっているのは,そういうところを蔑ろにしがちな「声の大きな親達」の影響が大きいだろう.面白がれるところを潰していては,勉強を嫌がって当然だ.そんなことも分からない親にして,そういう子になるのだ.
・AI に、その答えは 本当に正しいんですか、と問い直してみてください 。そうすると すいません 私の最初の回答は誤解を招くものでした とか言って調べ直しますよ。 つまり 1回の質問で終わってしまうところに問題があるんですよ。
疑問があれば、何回でも問い直してみてください。 そのことに気づけば AI の正しい使い方というものが分かってくると思います。
AIは、人工知能ではなく、『統計解説』、つまり、統計的な手法で学習データを解析し、日本語に置き換えて解説する機械学習プログラムなのです。
・「だから生成AIを使うなんてけしからん!」という結論になるのではなく、教育の機会と捉えられるのが素晴らしいことだと思います。
今どれだけ抗ったところで、きっと3年後にはggrksに代わる新たなネットスラングが出てくるくらいには、「わからないことは生成AIに訊く」というのが当たり前の世の中になっているだろうな。便利なツールには、使う人間のリテラシーが要求されるという点は、SNSだろうが生成AIだろうが同じこと。時間が経てば、そうした利用時の注意点とともに浸透していくんだろうな、と思ってます。
流れに乗り遅れないように、というのはもちろんのこと、生成AIには単なる強力な検索エンジン以上の可能性があると思うので、IT界隈に住む人間としてはその可能性を模索していくことにワクワクしています。
記事に関係ないポエム失礼しました!
・胃でもデンプンは消化されるので、「医学博士で江田クリニック院長の江田証氏」とやらも間違いだよね。キユーピーがなぜ「誤り」ではなく「誤解を招きかねない表現」としたかということ。 消化とは何かということです。消化は口に入ってから体に吸収されるまでの分解工程をさすから「胃で」は間違いだが「体内で」なら正解になる。ちなみにデンプンがブドウ糖に分解されたあと吸収されるのは小腸とのこと。つまり小腸に達するまでは分解(消化)され続けるわけで当然胃もはいる。 なんかむしろ完全に理解していない医学博士とやらよりもAIの方がまだマシだと思った。というか権威を振りかざすなら正解を書けよと。
・生成AIに頼って課題をこなすこと自体は方法なので特に悪いとも思いません。しかしそれが真実なのかどうなのかを自分なりに調べ、考えなければ価値のないものになってしまう。 課題だけならまだ良いけれど、社会に出てもAI等に頼りきりになったりしていると人間としての価値はどんどん下がっていく。人それぞれの見方や考えというのはコンピューターにはない魅力や価値であって、コンピューターの真似をするならコンピューターでいいやになります。
・これが学校の課題で、正誤をチェックする先生がいたから正されたけれど、大人になって、何か調べ物をするとなった場合、誰も間違いを正してくれることがないまま間違った知識を事実だと信じてしまう人が出て来てもおかしくないな。 何かを調べるにしても、手間にはなるけど、ひとつのサイトだけを信じるのではなく、いくつかのサイトを照らし合わせて調べるという二重、三重の確認が必要だろう。
・これは良い例ですよね 生成AIはもちろん、本職の企業でも間違いや紛らわしい情報をネットに載せることがある 知識を持つ「プロ」からすれば「胃で消化されやすい状態にする」は明瞭な表現かもしれないが、中学生にとってはそうではなかった 大人だって検索して一番上の情報サイトの記述をそのまま口にすることはざらにある 今回、それが危ういことだと学べた良い機会となったわけですね
・原典にあたるというのは学問の基礎。経験も解釈も何もかも原典にあたってこそのもの。AIがどうの、という話ではなくて、そもそも人の書くことには間違いや独自の解釈が含まれる、どんなに有名な学者や著作家でも。そこを疑うためにも、原点回帰が必須。文学作品や歴史的古文書も同様。人の話や二次創作物以前に、原典にあたれということです。娘にはずっとそう言い聞かせています。文学古典や神話、伝説のたぐいもすべて同じ。できるだけ原点か原典に近いものを読む。AIなんか末端に近い、Webでいうとまとめサイト、時には有用ですが、ろくなもんじゃない。例えば、ディズニーの『美女と野獣』『ラプンツェル』『リトルマーメイド』のグリムやアンデルセンやボーモン夫人、『FATE Grand Order』のギリシャ神話やローマ神話。柳田国男の『遠野物語』に語られる地元の伝説等。原典を知らずして、物語は語れない。理科だけではないですね。
・小さいころから、1か所の情報源をもって世の中を論ずる危うさを知ったのは良いことだと思います。このことに加え、少なくとも3か所のAIが同じことを言ったら 正しい可能性が高いとか 検証手段として 大人にも聞いてみるとか 何が起こるか実験してみるとか(ご飯をかみ続けると甘くなるとか) AIが嘘を言っていないかをチェックする手段を教えたらよいのではと思います。
・それだけ依存しているのだと思いますが、これからの世の中AIを使いこなす事の方が重要になる職業も多くなると思いますし、理科の実験、解剖、などの体験できるような科目は極力体験で学習するような方法が理想だと感じます。
・今は学校の課題をこなすのに、教科書や図解を見てじゃなくて、生成AIが吐き出した答えを書き写すんですね。 使って良いとしても、生成AIが出してくるものは伝聞や噂話と変わらない信用度だとして扱わないとね… そもそも生成AIの答えを書き写すだけなら、友だちが頑張ってやった宿題を書き写すのと何ら変わらない気がするんだけど、それって勉強になっているのかな。
・文明の利器を多用できる様になったことの弊害だと感じる。 昔は生物の勉強はハイトップとかの参考書を只管リピートしていたのを懐かしく思い出す。今は本を読む以上にパソコンから情報を得る機会が勉強時にも確実に増えているのだろうけど、もっと、書物ならではの良さを活かして欲しいと思う。なぜなら改訂されパーフェクトに近い情報が得られるのはやはり本の良さだからと思う。
・生成AIを勉強などに用いる時の注意事項としてとても良い例になったと思います。 仕組み上、ネットのどこかにある物を検索してきて、文章にまとめるのがAIのすごいところなので、元々が間違った情報だと修正が効かないんでしょうね。 裏取りまでAIがやってくれたとしても、結局自分で調べたりすることは必要なことですしね。 中1でこれだけの割合でAIを使っているのは、おっさんとしては驚きでしかないです。
・生徒たちは、とてもよい経験をしたと思います。
AIを丸写しした事を非難するようなコメントがありますが、もしも生徒たちが本で調べて、その本に誤植があったから間違えたならどうですか?非難しないですよね、きっと。
何が信用できる情報なのか?生成AIとはどのように付き合っていくべきなのか?彼らは学びの最中です。幼い頃にあらゆる失敗を経験するのは、今回のことに限らず、とても良い事だと思います。
・昔と違って、今は、便利になった分、wikiや生成AIの記述を何も考えず鵜呑みにする方が多いようですね。(それでも、昔も同じく、楽に済まそうとし、他の方の著書や論文を丸写しする方が居ましたけど。) まずは、自分で調べて「考える」力を養って欲しい所です。
・そもそも教科書の内容も10年単位で見れば、新しい理論や発見により間違いであったことが判明したりする。ネットに記載されたことを全て鵜呑みにするのは危険だが、裏どりをすればそれが絶対に正しいとも限らない。 ある時点での正解でしかないという認識も併せて持った方が良いと思う。
・ちょっと外れている考えですけど、こういう記事も読み解く人によって「AIが正解を導くとは限らない」とは言いつつも、いつかどこかで「かの企業が間違った情報を記載したが故にAIが誤答を導き出した」に置き換わる危険性を感じます。 ここで叩くべきはどのポイントなのかをネットで検索する昨今の子どもたちにはしっかり教育すべきかと思います。 すぐに「誰が悪い」「何が原因だ」と間違った批判に結びつきやすい話だと思います、そういう視点で言うならばちゃんとそういうケースを教育しないでネットに足を踏み入れさせる大人や教育者が原因だと思います。 故にネット社会のデメリットをしっかりと教育させることが肝心なのかなと感じます。
・今の時代、情報にお金をかけないところがあり、間違いを掴まされる可能性が高まっているのも認識しないとね。 参考書や、資料には高いお金を払い取得していた時代からしたら手軽にすぐ得られる便利さから、疑問や間違いとかがあるとは思わず、正解と思い込む傾向があるように思う。それが半数というのも、それだけ考えない人が増えているというあらわれかと。 最近は自分に都合よく解釈する傾向があるが、まずは内容を理解していないところもあるね。
・この件について、個人的に2つ思うことがある。 まずひとつは、インターネットによる検索と生成AIを用いることを同列に語るのはどうかということ。男性教諭はインターネットの使用は認めてたということだけど、生成AIの使用は想定していなかったよう。正直、今のご時世生成AIを使うことは想定に入れておくべきだし、生成AIは使用せず、調べること、と注意しておくくらいはしても良かったんじゃないかと思う。
ただ、検索エンジン側にも落ち度があると思う。これがふたつめ。 私も仕事をしている時にインターネットで検索をするが、トップヒットかのように生成AIが表示されている仕様なのが悪いのではないか。インターネットの検索だけで良いのに生成AIが表示される必要はないように感じる。 生成AIを用いたい人と、単純に検索だけしたい人がいるはず。ニーズによって使い分けられるような仕様に変えることで防げるように思う。
・これを、生成AIのせいです、だから僕たちは悪くないという感情を持たれるようになるのが危険。生成AIを使って答えたとしても、それが間違えてたら間違いなのが社会。それを学ぶ良い機会だと思うので、決して生成AIのせいだとして生徒の中で終わらせないでほしい。
・私立中なら中受して入ってきてる生徒だろうに受験の学習範囲に入ってる基本的な話なのにあれ?変だなと思わず100人超がAIを盲信して書き写したとは驚く。中受生なら小4か小5でも答えられる問いだろう。 せっかく受験で蓄えた知識を無駄にせず学習していってほしい。
・生成AIを有難がってる人が沢山いますが、そのAIに学ばせた情報が間違っていたら「こんな結果」になります。 その情報をAIに入力するのも人間ですから、「AIが導き出した答え」と言っても、それは複数の人間の解答の多数派論を纏めて要約しただけに過ぎないので、多数派が間違えればAI様も間違った答えを提示してきます。 その様な物に完全に頼り切ってしまう事には、少々不安を感じますね…。
・中学校の課題回答で教科書や自分の筆記したノートを全く見ずにスマホスキャンでテキスト化して生成AIに回答させている生徒が過半数ということだね
素晴らしいタイパだが脳を全く使わないので将来は単純労働しかできない大人になる確率が高そう
一歩進んだ頭の切れる生徒なら教科書を片っ端から生成AIに学習させて回答を導くだろう YouTube上では生成AIの活用方法が溢れている それを活用できるか、ただ便利に使うだけかで将来は決まる
・AIは大きな発展の期待される素晴らしい技術ですが使用するにも知識が必要です。今後の発展のためにも学校でもしっかりと学ぶ機会を作ってあげて欲しいです。この先生の対応は素晴らしいと思いました。
・根本的にAIは知能ではなく、あくまで豊富な知識に過ぎないことを教えた方がいい。 もし生成AIが万能なら、数学のミレニアム問題もとっくに解決しているはず。 ゆえに、答えとして間違ってもいいから自分で考えるという教育を是非お願いします。
・例えば、「〇〇の結果において人類の行動は地球にとってマイナスと言える」のような皮肉を込めた文章をAIは「皮肉」と判断してくれるのだろうか。
「皮肉」と判断できずに、書かれていることを是として解答することで、多くの勘違いした人を生んだりしたりしないのか?(人類は存在してはいけないとか)
著作権などの問題も解決されていないのに、AIを仕事や学習に何の疑いもなく取り入れるのは待った方がいいと思う。
・AI自体の問題というより使う人の情報リテラシーの問題だと思います。 今はAIが取り上げられていますが、その前はネットの情報をそのままコピペしてきた答案やレポートが問題になってやれ学生のうちはネットから隔離しろなんて話もあった。 情報社会の発達の一方で情報リテラシーはますます重要になるでしょう。
・最近は要領の良い生徒が多いので油断がならないです。何も考えてなくてもそれらしいレポートが書けてしまうので真面目に書いている学生まで「ああ、コピペね」と軽くあしらわれてしまいます。なんとなく納得できなくても要領の良い生徒のほうが大多数なので黙り込んで不利になることがあり、やがて嫌気がさして学校自体が嫌いになったりします。 よく考えるべきだと思います。
・IT教育などといっていますが、 極端な理想をいえば、未成年はネットの利用を禁止したほうがいいと思います。 ネットがなくてもPCは使えます。 未成年は自動車運転免許を取得できないのと同じ理屈です。 ネットに頼らなくても社会生活できる能力はある程度身につける必要はあります。
・この先生は “理科の課題” 以上に有益な教育をしたと思います。 ネット時代に限らず、入手した情報を盲目的に信じるのではなく、真偽を確かめるまたは自分なりに考えて判断することが非常に重要だと思います。
・ネット上の情報が必ずしも正確ではない。 生成AIは、正確性を確認せずに拾ってくる。
この2つを学べたいい話じゃん。 この学校の生徒は、ネット上の情報の正確性に慎重になれると思うよ。
そして、この先生もすごい! 単に丸付けをするだけじゃなくて、回答傾向から違和感を感じて、 その原因を仮説、検証し、結果的に大手食品メーカーのサイト修正まで話が広がった。
・ネットは非常に便利だが、特に仕事を始めたらソースは行政庁のサイトや、なければ専門家のブログ等(複数)から得ないと、会社がとんでもない方向に向かいかねないから注意しなければいけない。学校教育から情報検索の仕方を教えることが大切になってくるかもですね。
・結果的に理解が深まった、などと言っているが、 これでは単なる間違い探しでしかない。
自分で調べることは重要だが、今ではそれっぽい答えが すぐ探し出せる状況なので、それなら「~について調べよ」といった 答えがどこかにありそうな出題の仕方ではなく、上記のような 間違いを探し出し、それを見つけ出させる出題の方が良いと思う。 生成AIではそれっぽい答えを表記はできるが、間違いを指摘することは 難しいと思うので。
また、キユーピーは生成AIで文章作ったわけではないのに、誤解というか 間違った記述をしていたのに、外部から指摘されるまで分かっていなかった点はいただけない。 基本的な事柄を理解せず、何か研究しているのかと思ってしまうので。
・これってキユーピー社の間違いが原因なのでAIは関係なくないですか? 大企業のHPに書いてあることなんて誰でも信じるでしょう ただ、この問題で分かったのはこの先AI時代が確実に訪れるということ 今後AIの精度が上がればこういうミスも少なくなり、むしろ子どもたちの学習がより深まる提案などをしてくれるような高度化も期待できると思います さらにAIエンジニアの収入の高さやGAFAMから新卒AIエンジニアに年収6000万以上のオファーがあったことなどがニュースになると親御さんもAIの活用に前のめりになっている 子どもたちと親御さんの思惑が一致しておりAIはますます使われていくでしょう
・これを機に生徒も素晴らしい先生の元で学習が出来ている事を再認識する事が出来たと思います。ネットが普及してから検索すればすぐに答えが出る事に誰もが慣れてしまって色んな角度からどうしてこうなったのかと追求する事が少なくなりましたもんね。
・>>同社によると、HPの当初の記述は2018年9月からあったといい、同社は「外部に発信している以上、誤解のないように注意していきたい」としている。
生成AI以前に、同様の指摘が6年前からあったのに訂正しないところに、サイエンスへの軽視を感じます。科学情報を発信する以上は、企業側もリテラシーを高めてほしいです。
・企業の依頼を受けてWEBに載せる記事を書くWEBライターをしていました。 WEBに載せる記事は、専門家が書いているとは限りません。 私のような主婦や学生さんなどが、ライターの求人をみて応募して採用されて書いていたりします(私は専門資格を有するので、専門家枠で書いていましたが)。 大抵は企業側の丁寧な校正があり、正しくないもしくはまぎらわしい記述はライター側に修正を求めますが、中にはそんな丁寧な校正なく記事を掲載するところもありえます(ブログ記事など)。 信頼の置ける記事は、国や公共機関サイトの情報や、医者弁護士など専門家が執筆もしくは「監修」しているとかかれてる記事です。 またAIはいろんな記事からつぎはぎしているので、何割か間違った内容があるなと感じます。Google検索ではトップにAI回答、次に企業PR記事が来ますが、それらは正しいとは限らないので、よく見たほうがいいです。
・結構昔からある教員あるあるの一つだとかいしゃくしなました。 以前は、参考書や過去問題を持ってきて、解説ではこう言ってるので、先生が(ここでは私)が間違っているのですよね!っていうやつです。 学生は繊細なので、どちらの意見に権威があるか(=正しいのか)を聞いてきます。 当時は記名記事だからよいのですが、今の学生は、AIが作成した得体のしれない記事の集合体に権威を求めるのでしょうか。それは大変危険な賭けだと思います。 高校、学士までは通用するでしょうが、社会人または修士課程以降だと、突然通用しなくなるでしょう。 理由は簡単。少人数指導だとバレやすいからです。
それまでに、ネットリテラシー教育に盛り込まないといけません。
・大学でも似たような話がありましたね 書き写しても良いよと与えた論文に実は間違いがあって、それに気づかずに書き写したら︎、気づいて指摘したら︎みたいな 今後、AIを盲信する人はますます増えて、根拠を調べず、盲信から正当性を主張するのでしょう この生徒たちのように、先生の方が正しいと、納得してもらえるうちに、なんとかせねば そして、これはもともと先生に信頼があったからこそかもしれないとも思った
・文科省が進めるGIGAスクールの結末を描いたような記事であった。メディアリテラシーという言葉が言われて久しいが、検索するだけなら今や幼稚園児でもできる。その情報が正しいかを見極める能力が必要であり、結局は基礎知識が必要になる。それを培うのが学校教育だろう。タブレットを使った探究活動や、パワーポイントでの発表は大学でやればいいことであって、義務教育でやることはその基盤づくりである。検索コピペの生徒を量産してどうするよ。
・面白い記事ですけど、記事の内容にも間違いがありますよ。胃ではアミラーゼで消化された物質をさらに細かく消化しています。消化物の吸収は小腸で行われます。
>>同28日、HPの記載から「胃で」を削除し、「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、消化されやすい状態にします」と修正した。また、胃で吸収されることを表現したイラストにも変更を加えた。
・ネット上には、思い込みや誤解を基に書かれた文章がとても多い。AIはそれらの誤りも誤りだと知らずに学習するので、生成される文章にも誤りがしれっと専門家の文章のような文体で混じっている。 だから信じるのは危険。 裏取りが必ず必要。 今回のように、有名メーカーがコストをかけた文章でも誤りはある。もちろん、紙の本でも同じ。大昔に大先生が書いた誤り(多いのは外国語からの翻訳ミス)がそのまま引き写されてずーっと専門家の間でも間違ったことが信じられているなんてこともある。
・生成AIの誤答はよくある話なのでそれをそのまま転載するのはどうかとも思うが、生成AIが参照したページのキューピーのHPまでたどり着いて、そこまで確認していても誤答だったので、生成AIだけの問題ではないと思う気がする
・共感と依存によって多くの人が間違った情報、先に入った情報、存在感のある人の意見に偏っていってしまう怖さ。 事実ではない事が広まって事実以上の威力になるって怖い。 一対一の対面で納得した回答を見つけた、2人の出来事のはずなのに、 その後同じ問題にぶつかった人が電話やメールで問い合わせて真実を導き出し、 間違った答えを持っている2人は良かれと思って「その問題は自分たちが先に解いたんだよ、答え知っているよ」と広まる…正しい答えを持った人の声がもう届かないほどに… 子供だけでなく、大人になってもありふれている事象だと思う。 誰かが導き出した答えを疑う事もなく、自分で調べなおす事もなく、その声が大きくなった場合にとんでもないミスをする。 AIは間違わないという思い込みに気付けるうちはいいけど、信じて疑わない恐ろしい考えの人も出てくるんだろうな…
・「生成AIあるある」ですね。
ちなみにSTAP細胞研究不正問題をChatGPTに説明させると、なぜか山中伸弥氏が論文を書いたことになっています。 (正しくは、山中氏はiPS細胞研究)
間違った情報、フェイクニュースをAIに吹き込み、特定の人物の名誉を貶めることも可能なのが生成AIの弱点。 AIにも、メディアリテラシーが求められるんですね。
・毎年レポート試験を大学で課しているが(200人前後が受講)、今年は扱う事例が同じで、微妙に論点がズレている回答が多かった。そこそこ良い大学と言われているので、流石に丸写しではないものの、傾向が似過ぎていて不自然ではあった。単純なコピペなら判定ソフトがあるし経験上見抜けるけれど、AIを軸に編集されると流石に分からない。
・今のAIは「ネットを検索してそれっぽい言葉を繋げる」だけだからな。 単純に検索したり比較するよりは便利だけども、正確な情報が欲しいなら情報源をしっかりとチェックする必要がある。 プログラムを書かせる事も出来るけど、古い記述だったり名前が似て異なるライブラリを使用したりするから、そのまま走らせても大抵は動かないし。
・てか自分でもわかる間違えをキューピーの担当の人は気が付かないのな。意外と栄養学とか生理学が専門だった人が書いてなかったりするのかな?頭のいい人の集まりのはずなのに。あまりにもずさんな間違えだから、外部委託してた業者とかが書いてたりするんかね。 多糖類から二糖類のマルトース、スクロース、ラクトースになるってのを覚えて、その分解酵素が出る場所を考えれば誤りなのはすぐわかる。グルコース、フルクトース、ガラクトースの違いを覚えれば高校生まで戦える。たぶん。 むしろこれがなぜ間違えているのかを生徒に考えてもらうといい問題になる気がするね。
・これはAIだけじゃなくインフルエンサーなどにも言える。近年、一部のインフルエンサーはかなり偏った情報や誤解を招きやすい言い方を駆使して再生回数を稼いでお金を稼いでいる。そういうのが増えると間違いなく社会に悪影響を与える。そろそろある程度の規制が必要かもしれない。
・今は、ネットなりAIなりの言う事を、本当・本物・正義・確実・善・絶対等の言葉を鵜呑みにしている輩が多い。自分で経験せずに他人の情報を丸写しにして、さも自分がやった様に振る舞う。そんなことをしていると後でとんだことに巻き込まれる。他人の尻馬に乗るのも良いがほどほどにした方が良い。そして世の中絶対という言葉は絶対に無いという時にだけ使える言葉である。
・この先生のおかげで、 ・生成AIには間違った情報があること ・企業のサイトにも間違った情報がUPされていることがあること ・間違いを指摘して修正させることができること などを生徒がリアルに知ることができ、結果的に大きな学びがあったと思います。いつも正解を提供することだけが教育ではない、という好事例ですね。
・本文中にも誤りがあります。 胃でデンプンが吸収されることはありません。 デンプンはいろいろな消化酵素の働きで単糖類まで分解され、小腸で吸収されます。 なので、本文中の引用にあるキューピーマヨネーズのイラストの変更でも、まだ十分な説明になっていません。 以下、本文より引用 「唾液に含まれる酵素(アミラーゼ)が、食べ物に含まれるでんぷんを分解し、消化されやすい状態にします」と修正した。また、胃で吸収されることを表現したイラストにも変更を加えた。
・これすごいな ただ単純に「ネットの情報を鵜呑みにするな」っていう話じゃなく、 情報源の不正確さ、AIの回答、それを大勢が同じように受け取っていたという、教訓として語り継がれていいレベルの事例だと思う
・Wikipediaの利用でかつて議論されたこと。専門書でも間違ったものがあるし、どこまで裏を取るのかは意外と難しい。 すべての分野の専門家になどなれない以上、どこかで権威を信用するしかないけれど、○○大学名誉教授などの肩書きがついたトンデモ系の学説に騙されないよう、メディアリテラシーの涵養は重要だ。
・現在、生成AIを利用する企業はAIがハルシネーション(幻覚)の欠点は十二分に認識してて、それを抑えるため、その企業が利用出来る信頼のおける情報を使ったRAG(検索拡張生成)と言う技術を導入して生成AIを利用してます。
一年くらい前は生成AI自身をチューニングして、ある分野の知識を強化(ファインチューニング)の利用が言われてましたが、費用がかかり、効果の測定が難しいので、代わりにRAGが注目されれます。
・生成AIが導き出した事をチェックしなくなるという今後にも大きな課題を残す感があるね。。
中学の先生が素晴らしいと言うしかないが難しい事であればあるほど出てきた内容の真偽を確かめられる人がいなくなる人がいなくなる可能性も大きくあるわけで。。(大学や研究の内容、統計や集計を絡めたデータ等は特に)
|
![]() |