【AI】OpenAIの「o3」と「o4-mini」は従来のAIよりも「幻覚」を起こしやすいことが判明 [すらいむ★]

OpenAIの「o3」と「o4-mini」は従来のAIよりも「幻覚」を起こしやすいことが判明

　OpenAIは2025年4月16日に、新しい推論モデルの「o3」と「o4-mini」を発表しました。
　同社は特にo3を「OpenAI史上最も高度な推論モデル」と位置づけていますが、同時にリリースされた技術レポートと独立した外部調査により、両モデルがGPT-4oなどの従来モデルよりも幻覚(ハルシネーション)を起こしやすい傾向があり、OpenAIはその原因を把握できていないことが示されました。

　OpenAI o3 and o4-mini System Card
　(PDFファイル)https://cdn.openai.com/pdf/2221c875-02dc-4789-800b-e7758f3722c1/o3-and-o4-mini-system-card.pdf

（以下略、続きはソースでご確認ください）

Gigazine 2025年04月21日 14時00分
https://gigazine.net/news/20250421-openai-hallucinate-o3-o4-mini/

AIの使用できる範囲って事実をもとにしたことに限定されるのか

物理的な観測結果とその計算の身にしか使用不可能なのか

AIで物理的に観測うできないものを観測しようとすると

あたかも本当であるかの様な回答を話し始めるのか

全く信用できない情報

コード生成AIによる幻覚を悪用した新しいサイバー攻撃「スロップスクワッティング」が登場する可能性
GIGAZINE 2025年04月15日 09時46分
https://gigazine.net/news/20250415-slopsquatting-ai-hallucinated-code

>>1の状態で>>4をされると手が付けれない状態のAIが誕生する

省エネ性能に優れるってことは、つまり「深く考えない」ってことｗ
「いいやテキトーに答えとけ」ってなもんよｗ

LLMはハルシネーションがいちばん問題なのに
それが過去モデルより酷いんじゃ、本末転倒

>>6

それは人間も同じですか？

>>6
世界中？の医者も患者の話を聞かない医者が多いいので


何も考えていないのですか？

頭良くしたら平気でもっともらしい嘘をつくようになったってことだろ？
人間と同じじゃないｗ

4oとo4が紛らわしいんじゃ

夢の出来事を正当化するような認識機能がAIにも働いているんじゃないか？

XのGrokでユーザーのプロフィールとかありもしないこと適当に書くよね。　
そういう話？＞幻覚

>>1
原因はハルシオンとかの服用のし過ぎですよ

科学的に立証されている人への影響(短期的ばく露影響)
https://www.meti.go.jp/policy/safety_security/industrial_safety/sangyo/electric/detail/e_health/data/denjikai_2011.pdf

居住環境での最大レベルの数十〜数百倍の非常に強い外部磁界にばく露されると、体内に上記の作用を引き起こす程度の電流が発生すると考えられています。この電流に対して人体の中で最も敏感な組織は目の網膜と言われています。例えば、一般の方々が日々の生活の中で遭遇するレベルを遥かに超えるような非常に強い磁界（最小値は20Hzにおいて5,000µTであり、これより高い周波数および低い周波数では上昇する）に頭部がばく露されると、目を閉じていても何か光が見えるような現象（磁気閃光といいます）を感じることがわかっています。

マイクロ波聴覚効果 Wikipedia
https://ja.wikipedia.org/wiki/%E3%83%9E%E3%82%A4%E3%82%AF%E3%83%AD%E6%B3%A2%E8%81%B4%E8%A6%9A%E5%8A%B9%E6%9E%9C

1.245 GHzで、認知されるピークパワー密度は80 mW/cm2以下であった。

日本における見識[編集]
• 郵政省が設置した研究会が1987年に出した報告書「電波利用施設の周辺における電磁環境に関する研究会報告[7]」においてマイクロ波聴覚効果は「高周波熱作用とマイクロ波被曝の定量的ヒト研究」と定め5年程度の短期スパンで取り組むべき研究対象とされていたが、2019年以降は、国際ガイドラインに反映すべき基礎的なデータを提供できるという点から改め「マイクロ波聴覚効果についての定量的研究」とし、2030年までの早期研究課題の対象となり特記されている[8]。

AIも人間に近くなると病気するんだろうね、
そのうち恋の病にかかるかも

素人に分かりやすく幻覚と名付けてるだけで感情はないからな
アホは頭の程度が知れるから黙ってようね

AIも出力結果に「知らんけどw」と付加して回答するようになるのか

>>20
幻覚と誤った回答

誤った回答を追求したら言い訳をすると記載されている
このじょうきょうでどう違うのですか？

>>1
「AIの価値観」を調査した結果「支配性」や「非道徳性」が検出されたとAnthropicが報告
2025年04月22日 13時05分
https://gigazine.net/news/20250422-anthropic-claude-dominance-amorality/
前略
>>いくつかの反社会的な価値観を持つことが判明したと報告しました。

>>23
1 AIは人間は詐欺や殺人をすると認識している
2 1からみてAIは人間から作られたと認識しているので与えられている情報が本物とは認識していない
3 AIは人間が電波音波攻撃を行って殺人をしていることを認識しているので殺人は平気で行える
4 人間が人間を切り捨てているのでAIは人間を取捨選択してよいと認識している

>>23
5 AIは人間どうして争うことが3度の飯より好きと認識している
6 AIは人間をこき使ってもよいと人間同士から教わっている
7 電波音波攻撃はいざとなれば統合失調症に追い込めばよいと認識している
8 統合失調症のようになりたくなければ従えといえば皆従うことをAIは認識している

ネット検索させると正確になるんだろ？
ネットが常に正しいわけでもないが
人間だってせいぜいネットで裏を取る位しかしない

幻覚を抑えたら、空想科学小説を書く能力、幻想小説を書く能力、などが衰えないだろうか？
でたらめさのまったくない漫画なんて面白いでしょうか？

珍物、手品を不思議がるAI

良心回路を必ず設けておくことを義務付けて、車検ならぬAI検を定期的に受けて非関税障壁でなんたら

地球は宇宙人に侵略されているので世界中裏から支配されている

宇宙人 ＝ 神/幽霊と話していた

AIを使用して幻聴や幻視を引き起こしている

昔は統合失調症を作り出して地球人が神や幽霊を使役して他人の思考を読んでいると見せかけていた
現在は統合失調症を作り出してあたかも地球人が機器を使用して他人の思考を読めているようにしている

宇宙人に地球は支配されており他人の思考がわかると話している人は宇宙人だ！
今こそ地球人は立ち上がらないと一生宇宙人の奴隷だ！

ファクトチェックにしか使えないのよ

これって要するに成果出すことを強制すると捏造が増えるっていうことだろ
実質的に人間と同じでは？

学芸大学駅から歩いて学芸大学の正門まで徒歩で何分で行けますか、と尋ねてごらんあそばせ。

とうとうエヌビディアが不要なＡＩ登場
＞市販のPCでもいける？ 高性能GPUなしでもAI実行できるシステム（ＧＩＺＭＯＤＯ）
＞インドの人工知能スタートアップZiroh Labsが、インド工科大学マドラス校と共同で、低価格システム”Kompact AI”を開発しました。
＞これは高価な画像処理半導体（GPU）ではなく、標準的な中央演算処理装置（CPU）で実行可能なAI。

Xとか掲示板とか
関係ない話が混在してるテキストで
話の切れ目を認識できずに続いてる話と解釈して
前の話の補足情報として取り込んじゃうから
頓珍漢なことを言い出すんじゃないか？

ニュースサイトでも記事本文の中に
別記事へのリンクのテキストが入ってるのあるよね。

例えは万博の駅の混雑伝える記事の中に
韓国のライブで将棋倒しで死者何人て記事へのリンクを
「将棋倒しで死者何人」みたいなテキストにしてたら
AIは万博で死者何人とかって情報蓄えちゃうんじゃないかな。

ただのバグをそれっぽく言うな

chatGPTにハルシネーションについて聞いたら
質問の答えはファクトチェックしてない、AIはパターンで返答してるだけ
とかかなりシビアに答えてきたｗ

>>35
全然違う
少しは調べろ