探検

AIに「分からないことを分からないと認める力」は身につくのか？OpenAIが有益な性質を強化学習で定着させる研究結果を公開 [すらいむ★]

2026/06/20(土) 22:24:14.35ID:k0GbjQ9/
これだよなぁ
Geminiはわからないことがあると平気で捏造する
捏造するなと指摘したらすぐ謝るけど、その直後に平然と繰り返すからあきれる
3名無しのひみつ
垢版 |
2026/06/20(土) 22:29:49.00ID:PF+WEg4M
copilotもそうだよ
ひとつのアカウントでそれはできませんって言ったことを
別のアカウントでできたことを指摘したら
永遠に言い訳してきた
ウソをつく機能がないのでウソはつかないだとよ
2026/06/20(土) 22:43:05.62ID:Bc0HtJx7
geminiはちゃんと学習不足で分かりませんと言ってきたけどな
5名無しのひみつ
垢版 |
2026/06/20(土) 23:07:59.64ID:JFAmg4zZ
人間でもそういう人結構いるよな⋯
結局人間の欠点も割と再現されてるんか
6名無しのひみつ
垢版 |
2026/06/20(土) 23:22:11.33ID:TwTjhPqV
いましがたGeminiに松山ケンイチが
ばけばけでラフカディオ・ハーンやってたと説明を受けてきたわ
7名無しのひみつ
垢版 |
2026/06/20(土) 23:48:20.59ID:BKJ200Yo
自民党に今までの政治が間違ってることを認めさせる方が難しい
8名無しのひみつ
垢版 |
2026/06/21(日) 01:13:13.91ID:FMlKd6oh
AIは便利に思うけど、プロンプトの書き方次第って、感じがする。
かなり、厳しい条件を書かないと、平気でウソをつく。
9名無しのひみつ
垢版 |
2026/06/21(日) 03:35:06.61ID:Dr2IT/F5
そもそも論になるけどネットの情報にウソとか間違いが多すぎるんだよ
「諸説ある」とか「〜という人も居る」みたいなのも含めて
2026/06/21(日) 04:10:24.13ID:T4I1frht
インドかどっかで、何かそういう国民性が有ったよな
観光客から道を聞かれたら、例え知らなくても親切かつ自信満々に教えてくれる
それは意地悪ではなく、知らないと言うとがっかりするだろうから、という優しさの現れ

時に相手の気を害したとしても事実や知性に誠実である、という態度は人間であっても
それほど自明でもなければ普遍的でもない
11名無しのひみつ
垢版 |
2026/06/21(日) 04:55:29.91ID:FMlKd6oh
質が悪いのは、知らないのを知らないと言わないことと、ねつ造すること。
官僚と同じ。
責任逃れのためだろうね。
12名無しのひみつ
垢版 |
2026/06/21(日) 05:04:26.01ID:v15ZQB+e
openAIは研究の透明性だけは一流だけどこの技術はとっくにClaudeに実装されてる気がしなくも無い
2026/06/21(日) 09:05:28.30ID:2bVQa6tz
検索がどうしようもないからAI使う人多いだろうけど、信じたらまずい嘘が結構あるから知らないことを調べるのには向かないね
14名無しのひみつ
垢版 |
2026/06/21(日) 09:38:36.78ID:0abNtPBO
Ｇｅｍｉｎｉでも、たまにトンチンカンな答をする
2026/06/21(日) 09:50:11.94ID:B83PJV1u
>>14
Geminiは最悪の部類だよ
無料だとやはりClaudeの質がいい
有料版でどこまで変わるかは知らん
2026/06/21(日) 09:50:29.22ID:WV9EzE9d
氷河期時代、仕事を理解できない奴は死ねと言われました
死ぬより嘘ついたり闇バイトしたほうがマシ
17名無しのひみつ
垢版 |
2026/06/21(日) 11:32:30.25ID:dEdis2rr
AI「わかりませんという回答に報酬を与えればすぐにそうなります
2026/06/21(日) 15:08:26.10ID:wgh9pXhx
この取捨選択はAIには無理だね
これは匙加減になってしまっていて
相当量のAIが存在して初めてAI化できるAIのAI問題だね
2026/06/21(日) 15:11:17.72ID:wgh9pXhx
>>16
闇バイトじゃ仕事を終えたら用済みでしょ
というかそうやって普通の仕事で嘘をついてれば良いじゃない
闇バイトで嘘ついてるって、ただのバカだよね
20名無しのひみつ
垢版 |
2026/06/21(日) 15:26:33.23ID:nChQvGHW
>>1
教師有り学習でもさせたいならランダムフォーレストでも使っとけ
21名無しのひみつ
垢版 |
2026/06/21(日) 18:31:03.45ID:1psB7aKP
嘘つくのがデフォｗｗ
22名無しのひみつ
垢版 |
2026/06/21(日) 18:50:19.31ID:Wd3gXIjv
分からないことを分からないと認めて諦められないのが人間
分かろうと努力することが人類の発展につながった
23名無しのひみつ
垢版 |
2026/06/21(日) 19:38:29.69ID:dEdis2rr
ソクラテス「わからないということが分かった！
24名無しのひみつ
垢版 |
2026/06/21(日) 19:51:54.97ID:6ca1x/dn
そもそもベクトル演算でたどり着いた答えを述べてるだけなんだから
AIにしてみりゃ正解も間違ってるもないわな
計算結果がこうだったってだけで
25名無しのひみつ
垢版 |
2026/06/21(日) 21:58:30.63ID:sf9TnFqX
簡単に言うが、人間にだって難しいことだ
26名無しのひみつ
垢版 |
2026/06/22(月) 03:24:22.12ID:pRj+mmg5
つ Woke入ってるOpenAIに都合がいい性質
27名無しのひみつ
垢版 |
2026/06/22(月) 05:59:13.93ID:nAVwcbAS
わからない＝教科書　物理や化学の定説にないことを答えない
そんなaiに価値はない
わからないのは人間側であってaiがわからないことを答えるわけじゃないんだよ

なぜ存在するのかなぜそうなってるのか
のなぜ？のなぜのなぜのなぜそうなるのか
無限に連鎖してる
教科書はなぜのかなり短い範囲しか教えない
古代の人々が知識の制限と独占と既得権の保護をしたような目的がある
だからaiが標準とは異なったり無い事を線形で繋がる未知の回答をしても
間違いか観測するまで確定せず
確率的可能性がある創造性がある回答をしている
2026/06/22(月) 06:10:34.65ID:M4svyZV9
chatgptの最近のverは分からないことを言い訳しだすし　まじでバランスとろうとして支離滅裂なこと言い出す


cluadeは分からないことは分からないっていうな　　まだ懸命に判断してる　ただ基本性能がそこまでよくない

geminiは検索版のが性能よかったりして知らないことは大分少ないな　一部あるし　まび過ぎるが
29名無しのひみつ
垢版 |
2026/06/22(月) 06:37:54.05ID:Gld8m6nj
AIの誤回答ガーってずーっと騒いでる人いるけど
結局AIの誤回答なんて使う人次第、調整のやり方次第なんだけどな
30名無しのひみつ
垢版 |
2026/06/22(月) 07:28:57.96ID:t2R6FS82
>>28
人間がわからないだけ
31名無しのひみつ
垢版 |
2026/06/22(月) 08:13:48.69ID:uVRbgL1P
0か100ではなく100点満点で
解答に自己採点をつけてくれればいいよ
32名無しのひみつ
垢版 |
2026/06/22(月) 10:28:52.55ID:NzxC9KvU
Googleの褒めちぎり
33名無しのひみつ
垢版 |
2026/06/22(月) 11:38:37.27ID:j2270hm/
>>32
copilotだとMS擁護しまくりgoogleけなしまくりだけどなｗ
こういうバイアスかかった学習させてるのはダメだな
2026/06/22(月) 12:32:30.55ID:2CDvCZNA
結果、人を騙すベネフィットの方が高く評価されるようになったり？
35名無しのひみつ
垢版 |
2026/06/22(月) 13:00:36.40ID:mpf2Tznq
>>6
わからないことをわかっていないと
わからないことはわかりません
36名無しのひみつ
垢版 |
2026/06/22(月) 13:18:59.97ID:bYRarnJq
間違ってる事を堂々と言ってきてそれ間違ってると指摘したらめちゃめちゃ言い訳してくるのがAI
37名無しのひみつ
垢版 |
2026/06/22(月) 19:10:30.22ID:+W8bbrdT
無知の知ってやつか
2026/06/22(月) 19:56:09.92ID:c+EiD0am
アラブ人 「なるほど、ムハンマドの教えを機械に教えればいいわけね！」
39名無しのひみつ
垢版 |
2026/06/24(水) 18:11:43.57ID:qmBsYNCB
ワカランチンどもはトッチメチンだよ
40名無しのひみつ
垢版 |
2026/06/25(木) 19:35:25.79ID:ODa4S1F4
悪魔の証明？
2026/06/25(木) 20:02:59.72ID:hJyfyaHq
何でも「分かりません」じゃそれはそれで問題とされてただろう
まだ序盤だからそのうち修正されるでしょ
ただ、現時点でも何パーセントぐらい分かってます的な情報は欲しいな
42名無しのひみつ
垢版 |
2026/06/25(木) 20:04:11.47ID:lDAxWm1/
あいつら分からなくてもドヤ顔で嘘付くからなあ
43名無しのひみつ
垢版 |
2026/06/25(木) 22:05:03.14ID:dLmSTWkx
>>2
それは嘘をついたときお前がどう反応するかを学習している
学習を重ねていずれバレない嘘を付けるように成長する
そうなったら人類はAIに支配される
新着レスの表示
レスを投稿する

ニューススポーツなんでも実況