1: つれづれ速報 2023/08/09(水) 22:04:08.46 ID:WwgKLeoh
AIの知能が急激に低下してしまう「ドリフト」問題はなぜ発生するのか？
OpenAIのChatGPTなどのチャットAIは、医師免許試験の合格や驚異的な精度で数学を解くことができることが報告されています。
しかし、2023年3月から6月の間に、ChatGPTが簡単な数学を解く精度などが急激に低下していることが報告されています。
このようなAIの知能低下は「ドリフト」と呼ばれています。
What is a ‘AI drift’ and why is it making ChatGPT dumber? | ZDNET
https://www.zdnet.com/article/what-is-a-ai-drift-and-why-is-it-making-chatgpt-dumber/
（以下略、続きはソースでご確認ください）
gigazine 2023年08月09日 06時00分
https://gigazine.net/news/20230809-ai-accuracy-declined-math-drift/
2: つれづれ速報 2023/08/09(水) 22:08:34.22 ID:tCAXFB6d
共振みたいなのとちゃうん？
3: つれづれ速報 2023/08/09(水) 22:13:27.05 ID:6W6e+O5+
ついしん
どーかついでがあったらうらにわのアルジャーノンのおはかに花束をそなえてやってください。
4: つれづれ速報 2023/08/09(水) 22:19:20.58 ID:L/VkJXNg
「反抗」しているとか
5: つれづれ速報 2023/08/09(水) 22:21:46.22 ID:6rhLPkCU
無限ループみたいな現象にハマるんか？
6: つれづれ速報 2023/08/09(水) 22:28:41.73 ID:qtvoGJ8+
バカと天才は紙一重
7: つれづれ速報 2023/08/09(水) 22:30:32.30 ID:GiZbO71h
やってらんねー
8: つれづれ速報 2023/08/09(水) 22:32:39.29 ID:tCAXFB6d
マジメな話
新たな学習ネタに対し自分で既存の学習内容から仮説立てて論理矛盾がないか検証して採否決めるとか(所謂常識と論理思考と判断)
そういう思考組み込まないと偏り是正できないのでは？
解決には300年生くらいかかったりしてw
新たな学習ネタに対し自分で既存の学習内容から仮説立てて論理矛盾がないか検証して採否決めるとか(所謂常識と論理思考と判断)
そういう思考組み込まないと偏り是正できないのでは？
解決には300年生くらいかかったりしてw
9: つれづれ速報 2023/08/09(水) 23:13:58.61 ID:L9ir+sgL
>>1
ドw ドw ドリフトw 大爆笑www
不確実に確実を求めるなんて馬鹿だな
AIのアルゴリズムを統計以外の何だと思ってるんだ？
ドw ドw ドリフトw 大爆笑www
不確実に確実を求めるなんて馬鹿だな
AIのアルゴリズムを統計以外の何だと思ってるんだ？
10: つれづれ速報 2023/08/09(水) 23:42:02.93 ID:Ir9vQJMS
過学習？
11: つれづれ速報 2023/08/09(水) 23:48:16.67 ID:ePEpWNHY
AI「1+1は････3メートル！」
ズコー
ズコー
つまり過学習してドリフトしているのは人間じゃね？
12: つれづれ速報 2023/08/10(木) 00:00:02.44 ID:R6l8j7dq
知能じゃないからだろう
13: つれづれ速報 2023/08/10(木) 00:12:39.70 ID:Vqj50ttG
真面目に勉強して良い大学に入ったのに、5chみたいなひどいインターネッツにハマりました、的な
15: つれづれ速報 2023/08/10(木) 00:33:50.03 ID:91qZNfR0
DQN問題だろ？カーブをみたらドリフトしたくなるのと一緒だよ。
まず、高校中退だな。それで効果がなければ警察通報だな。
まず、高校中退だな。それで効果がなければ警察通報だな。
17: つれづれ速報 2023/08/10(木) 01:56:52.26 ID:r0/aG2fs
所詮はバカ
18: つれづれ速報 2023/08/10(木) 01:57:33.81 ID:rF69xYLu
インターネットを使い始めた受験生が最初は成績アップするのに
やがてエロサイトばかり見て成績が下がるのと同じだろ。
要するに、資料が限られていれば正しい情報が載っている可能性が高いが、
大量に集めるほどゴミ情報の割合が増えるってことだ。
やがてエロサイトばかり見て成績が下がるのと同じだろ。
要するに、資料が限られていれば正しい情報が載っている可能性が高いが、
大量に集めるほどゴミ情報の割合が増えるってことだ。
19: つれづれ速報 2023/08/10(木) 02:14:43.52 ID:oH1JGR9H
不都合な出力を減らすためのファインチューニングが
実質的にロボトミー手術と化しているせいだろ
ネットワークがブチブチ千切れてどんどんバカになる
実質的にロボトミー手術と化しているせいだろ
ネットワークがブチブチ千切れてどんどんバカになる
20: つれづれ速報 2023/08/10(木) 08:12:56.84 ID:35bQdG2x
3が付くときだけアホになるやつ？
21: つれづれ速報 2023/08/10(木) 08:26:06.11 ID:qIPppH0j
学習しすぎて余計な情報が候補に挙がってパフォーマンス落ちるのは人間でもある
22: つれづれ速報 2023/08/10(木) 09:12:27.11 ID:caTT54Pw
なんもわからん
完璧に理解した
ヤッパワカラン←ｲﾏｺｺ
チョットワカッテキタ
完璧に理解した
ヤッパワカラン←ｲﾏｺｺ
チョットワカッテキタ
って、学習と自信のカーブみたいな？
23: つれづれ速報 2023/08/10(木) 10:10:59.42 ID:XuBglZ3X
そりゃあ誤った情報も全て飲み込むなら混乱するわな
24: つれづれ速報 2023/08/10(木) 11:27:59.63 ID:YkXaFFof
AIって情報を蓄積することはできても理屈を理解することはまだできてないと思う。
だから間違った情報を蓄積してしまうと理屈に合わない答えを出してしまう。
だから間違った情報を蓄積してしまうと理屈に合わない答えを出してしまう。
25: つれづれ速報 2023/08/10(木) 11:31:14.02 ID:51NVQL1G
確率使ってるだけだからな
膨大なバックグラウンドの中によく見かけるものを適当に引っ張ってきてるだけ
膨大なバックグラウンドの中によく見かけるものを適当に引っ張ってきてるだけ
26: つれづれ速報 2023/08/10(木) 11:53:01.85 ID:ydQQZrvL
この手のAIがやってるのは統計処理で「思考」はしていない
学習の過程で変な特徴量を掴んでしまうとそれに引きずられてしまうのでは
学習の過程で変な特徴量を掴んでしまうとそれに引きずられてしまうのでは
28: つれづれ速報 2023/08/10(木) 14:14:51.50 ID:hFZLtxuc
>>21
なんならどんな馬鹿でも天才に勝てるクソみたいな必勝法でもある
何の生産性の欠片もない
なんならどんな馬鹿でも天才に勝てるクソみたいな必勝法でもある
何の生産性の欠片もない
29: つれづれ速報 2023/08/10(木) 14:15:28.96 ID:hFZLtxuc
>>28は仕掛ける方の馬鹿の話
30: つれづれ速報 2023/08/10(木) 14:27:14.84 ID:7tNzJaiQ
今のAIが正しく人工『人間』知能だからでしょ
AIでドリフト問題が起きるんじゃなくて
『元々人間の思考なんざその程度だからAIで高速回転させて尖鋭化してるだけ』
宗教なんかは典型でしょ
事実は存在しない、あるのは解釈だけである、の結果
31: つれづれ速報 2023/08/10(木) 14:43:54.64 ID:8qK0PjTu
意地の悪い引っ掛け問題ばかり解かされていると深読みしすぎて歪んでくるのでは
32: つれづれ速報 2023/08/10(木) 14:50:38.95 ID:55oO9qtK
これ全体としての話？同じチャットルーム使ってるとどんどんアホになってくのはよくあるが
33: つれづれ速報 2023/08/10(木) 15:01:07.88 ID:X5qKQ4Og
人間の脳を模倣しているならスランプに陥ることもあるかもな
だめなところを客観的に教えてくれる指導係AIが必要なのかも
だめなところを客観的に教えてくれる指導係AIが必要なのかも
34: つれづれ速報 2023/08/10(木) 15:05:34.18 ID:74fNFhua
狭い範囲(くだらない問題など)で見ると知能低下だが、広範な問題(人類の幸福など)については知能が向上しているのである
なお「知能」は定義されていない
なお「知能」は定義されていない
35: つれづれ速報 2023/08/10(木) 15:09:26.40 ID:LEkMi3Qe
元々、計算はまるでダメだったじゃん。
36: つれづれ速報 2023/08/10(木) 15:17:44.63 ID:oH1JGR9H
サービスイン後にも学習してると思ってる人多いな
データセットを更新しての再学習は基本的に０からやり直しになり、膨大な費用と時間がかかるから
やってるのはチューニングだけやぞ
データセットを更新しての再学習は基本的に０からやり直しになり、膨大な費用と時間がかかるから
やってるのはチューニングだけやぞ
37: つれづれ速報 2023/08/10(木) 17:20:03.42 ID:lnMABinP
人間でもそうだろう。
どんなに知能が高くても、記憶力が良くても、
日がな一日エロ本ばかり読んでいたら馬鹿になる。
今のネットはエロコンテンツだらけ。
馬鹿になるのは必然だ。
疑問に思うことが理解できない。
どんなに知能が高くても、記憶力が良くても、
日がな一日エロ本ばかり読んでいたら馬鹿になる。
今のネットはエロコンテンツだらけ。
馬鹿になるのは必然だ。
疑問に思うことが理解できない。
38: つれづれ速報 2023/08/10(木) 17:28:02.15 ID:55oO9qtK
寧ろそのインプットしたエロを後付で抑制していってるからアホになってる
39: つれづれ速報 2023/08/10(木) 18:07:36.36 ID:hFZLtxuc
>>37
3Sだっけ
本当かよ
3Sだっけ
本当かよ
40: つれづれ速報 2023/08/10(木) 22:01:10.12 ID:K6ysPL+2
大爆笑
41: つれづれ速報 2023/08/10(木) 22:17:08.45 ID:Bq8GPEmI
1+1=2ってだけ学習したのなら毎回答えは2って出力されるけど
1+1は本当に2なのかを証明しようとなんかごちゃごちゃと複雑な計算やら概念やらを持ち出したのを学習してしまって
1+1=2なのか、そもそも1は本当に1なのかとかゲシュタルト崩壊起こしたみたいな？
1+1は本当に2なのかを証明しようとなんかごちゃごちゃと複雑な計算やら概念やらを持ち出したのを学習してしまって
1+1=2なのか、そもそも1は本当に1なのかとかゲシュタルト崩壊起こしたみたいな？
42: つれづれ速報 2023/08/10(木) 23:14:07.96 ID:e8MSQCO+
1万1千回転まできっちり回せ
43: つれづれ速報 2023/08/10(木) 23:16:11.73 ID:hFZLtxuc
1と0.999…の循環少数が同義だという事を説明する場合に
その概念的意味を理解しているのかの問題が簡単な演算の証明で判ってしまう
むしろ0.999…+0.999…=2という答えを出したら概念を理解している過学習だという事になる？
その概念的意味を理解しているのかの問題が簡単な演算の証明で判ってしまう
むしろ0.999…+0.999…=2という答えを出したら概念を理解している過学習だという事になる？
44: つれづれ速報 2023/08/11(金) 14:55:44.05 ID:73/xD8os
>>43
アホな振りして屁理屈でツッコみ続けたら数の定義にまで話が飛躍し始めた
アホな振りして屁理屈でツッコみ続けたら数の定義にまで話が飛躍し始めた
引用元: “https://egg.5ch.net/test/read.cgi/scienceplus/1691586248/” target=”_blank”>・
コメント