AIに「分からないことを分からないと認める力」は身につくのか？OpenAIが有益な性質を強化学習で定着させる研究結果を公開 [すらいむ★]

AIに「分からないことを分からないと認める力」は身につくのか？OpenAIが有益な性質を強化学習で定着させる研究結果を公開

　OpenAIは2026年6月18日、AIに正直さや不確実性を認める謙虚さ、訂正を受け入れる姿勢、公平性などの有益な性質を学習させると訓練に使っていない分野でも望ましい振る舞いが広がり、悪意ある指示にも崩されにくくなるという研究結果を公開しました。

　Reinforcement learning towards broadly and persistently beneficial models
　https://alignment.openai.com/beneficial-rl/

（以下略、続きはソースでご確認ください）

Gigazine 2026年06月19日 20時00分
https://gigazine.net/news/20260619-openai-beneficial-rl/

これだよなぁ
Geminiはわからないことがあると平気で捏造する
捏造するなと指摘したらすぐ謝るけど、その直後に平然と繰り返すからあきれる

copilotもそうだよ
ひとつのアカウントでそれはできませんって言ったことを
別のアカウントでできたことを指摘したら
永遠に言い訳してきた
ウソをつく機能がないのでウソはつかないだとよ

geminiはちゃんと学習不足で分かりませんと言ってきたけどな

人間でもそういう人結構いるよな⋯
結局人間の欠点も割と再現されてるんか

いましがたGeminiに松山ケンイチが
ばけばけでラフカディオ・ハーンやってたと説明を受けてきたわ

自民党に今までの政治が間違ってることを認めさせる方が難しい

AIは便利に思うけど、プロンプトの書き方次第って、感じがする。
かなり、厳しい条件を書かないと、平気でウソをつく。

そもそも論になるけどネットの情報にウソとか間違いが多すぎるんだよ
「諸説ある」とか「〜という人も居る」みたいなのも含めて

インドかどっかで、何かそういう国民性が有ったよな
観光客から道を聞かれたら、例え知らなくても親切かつ自信満々に教えてくれる
それは意地悪ではなく、知らないと言うとがっかりするだろうから、という優しさの現れ

時に相手の気を害したとしても事実や知性に誠実である、という態度は人間であっても
それほど自明でもなければ普遍的でもない

質が悪いのは、知らないのを知らないと言わないことと、ねつ造すること。
官僚と同じ。
責任逃れのためだろうね。

openAIは研究の透明性だけは一流だけどこの技術はとっくにClaudeに実装されてる気がしなくも無い

検索がどうしようもないからAI使う人多いだろうけど、信じたらまずい嘘が結構あるから知らないことを調べるのには向かないね

Ｇｅｍｉｎｉでも、たまにトンチンカンな答をする

>>14
Geminiは最悪の部類だよ
無料だとやはりClaudeの質がいい
有料版でどこまで変わるかは知らん

氷河期時代、仕事を理解できない奴は死ねと言われました
死ぬより嘘ついたり闇バイトしたほうがマシ

AI「わかりませんという回答に報酬を与えればすぐにそうなります