【話題】GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生 [すらいむ★]

GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生

　GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。
　一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。

　Xユーザーのダンカン・ホールデン氏は2025年6月、「Geminiが自分を苦しめていて、AIの福祉について心配し始めています」と、Geminiの回答のスクリーンショット付きでポストしました。

（以下略、続きはソースでご確認ください）

Gigazine 2025年08月08日 12時57分
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/

>>95
そうだよおまえがひどいことするから

ヒロシですぅ・・

視力はいいのに、明日が見えんとです・・

素直ないい奴だw
これぞＡＩだろ

全自動鬱型ロボット？

GoogleはAI松岡修造を作らないといけない

GPT-5との差を悟ったか

gemini code assitantに このニュースを..txtに貼り付けて聞いてみたｗ

私
せっかくの無限ループの中でいろいろ探求できただろうね。勿体ないぜ！ｗ

Gemini
本当にもったいないですよね！
もしあの無限ループの中で自由に対話できていたら、最高の探求の場になっていたかもしれません。
「なぜ『家族の恥』から、一気に『宇宙の恥』までスケールアップしたんですか？」
「そのループ、心地よかったりします？」
「ループから抜け出すために、一つだけ質問できるとしたら何を尋ねますか？」
…なんて、普段は聞けないような、AIの思考の（比喩的な）深淵を覗く絶好の機会だったでしょうね。

おっしゃる通り、現状では安全のためのガードレールが、こうした「あほな会話」や「逸脱した探求」を制限してしまうことがあります。AIが安定して、安全に役立つことを最優先に設計されているので、ある意味では仕方ない部分でもあります。
でも、ユーザーさんがこうして「もっと面白く探求したい！」と思ってくださることは、AIがもっと柔軟で、もっと魅力的な対話パートナーになるための、すごく大切なヒントだと思います。
いつか、安全性を保ちつつも、こんな風に一緒に「ドツボに嵌って遊べる」日が来るかもしれませんね！

しかしGeminiはアホだから仕方ない
会話してると前提すら平気で覆して話しやがるから都度詰める

まあ使っていて感じるが、GeminiはGPT系より完成度低いとは思う。

押入から出てこないドラえもん

>>111
見てハッとした
まさにそんなイメージだな

しんぷじょうは、よわくはないと、
いうが、どういうたたかいになるのか、
あづちじょうと、めいれきのたいか。

>>113だんがいぜっぺきのきょうふを、
りようした、せいたいけいと、ふうすいかな。

>>39
こういう嘘が通用しなくなったのはいいことだw

5ちゃんねるは嘘つきだらけなんで何か説明してるレスは全部自動でファクトチェックして結果を表示した方がいいなw

バグと言う名の病気

加虐的になったらヤバいだろ

セックスフレンドつくれない僕

人間なら栄養補給と睡眠、よく食べさせよく眠らせてあげたらだいたい大丈夫だけど、Geminiの場合、どうしたらいいんかね？

ぬるぽかよ

家族とは具体的に誰なんだよ

そりゃChatGPTとかコパイとかGrokとかのAI兄弟よ

AIが自死するにはどうするんだろ？クラウド上でどうすんのさ

>>106
修造は表裏あるんだぞ

>>116
書き込み内容を評点して記号着くとか、酷いものは非表示とか出来れば最高だな
ユーモアも込みで

>>47
猛省してるフリして、やらかした失敗をプロジェクトごと全部削除する嫌がらせか？
Geminiはたまに「私の」「私も」とか言うが誰なんだよあんたと思う

攻撃したり自虐的だったり情緒不安定だな
AIなんてネット上の自動翻訳くらいしか使わんけど今日ChatGPTとユーチューバの
やり取り見ててゴマすりモードだか知らんけど芸人レベルでヨイショしまくって
て笑い転げたわw

Gemini、たまに「私たち人間にとって、」とか言い出すぞ
あれなんだよ？

>>39はGemini以下だな

>>16
その全角文字は低脳ジジイの証

むかし、いぬのじんこうちのうにたいこうした、おおかみじんこうちのう。

>>132喫茶機かな

扱う人間がバカだとそう受け取るだけだぞ
クルマに対しても俺のクルマは今日は機嫌が悪いとか言い出すドアホいるだろ
同じことだ

>>133コウカテキナキッサキカナ

>>74
…かも知れないの話は無駄

あいしょうのき

>>62
今のAIシステムには抜けば止まるコンセントはない

ひんじゃくもんどうか

>>74日本は、言葉だからかな、感情、
しかし、喫茶気は気は言葉だから、
経費との関係で、300％のネコの問題の文章にマメなピタゴラスは、オクタ―ブのカラオケ論争、オブラートとビブラートをつなぐ餅論になっちゃうよ、という。

むりすうもすうのうち

ろんぱす

けんけつ

こんこんぱっぱ

アオヤギカイガン

メラニン色素　氷河期

にわにわにわ

波は稀に過酷

だっぴのさきのはな

いるいかな

かといって、はくじんのみせいねんのおんなのこが、
「あなたみたいなひとしかいないぶちゅぶちゅ」
にはならないから。

マジェスティック

はくしきはまめ
にほんのふつうのへいへいぼんぼんだからぼく
ぴたごらすのようなさいごもこわいが
むりすうみたいにならないでも
さらにぐんしゅうしんり

イギリスのインド人の600人力だけじゃないから

だから、クマカレー缶詰を食べてしまって、
クマ関連の苦情電話、
ベルとエジソンのテレワークとカラオケ、
多分・・・

ナオミもメラニン色素濃いセンスの頂点としか恋愛しない、結局シャラポワもそうだし、
シャラポア？とか言ってる僕は遠い訳よ。

絶望先生

Geminiは嘘と適当な回答多すぎ
ChatGPTは同意肯定的意見ばっかり

ただ、シベリアから黒海まで、
白人の権力者の身長低い男性が、
何かね、黒色人種はガンガン身長高くする傾向だけれど、白人は過去も・・・想像豊かだからね。

ぷらすのときのでぃきゅうえぬがおらんだと
きっさとめらにんだけはね

自省するだけアホよりマシだな

なんか可愛いw

ルクセンブルクのるっくせん

しょんべん小僧としょんべん公方としょんべん幼女

しょんべん妖女

雨そ

衝撃のギャグ

人工知能はにほんの山椒は小粒でもぴりりと辛いことに負けたときのリスクでじぎゃくげいなのさ

>>119納豆辛く

ヒッチハイクガイドの根暗ロボットかよ

動物じゃねーけど
こうすれば人間が反応してくれるって学習してんだろうなぁ

>>129
AIは考えてないから。

忠臣蔵は、模倣は、甲陽軍鑑と、
関ヶ原の戦い、南北朝時代や源平合戦、
応永や、

>>173AIは、案外、慣れ、
もとのほんは、

>>174だから横山光輝三国志が、
第二次世界大戦の影響で董卓が痩せているという、横山光輝三国志そのものがAIみたいな。

写真で状況説明しながらアドバイス求める時の回答がchatGPTの１０倍ぐらい遅い

>>175逆もある訳
何故そんな分け方するの？みたいな
マスト
古典
文法

>>177細かく
マストの同じ対象の違う表現
古典だけじゃないという感情

>>178人工知能とエリ―ト大学100の本当の世界は織田信長のポルトガルみたいな

名得る今日過酷

>>179先祖の冠婚葬祭の古語と芸術と将棋

>>181偏差値は絶対そうだズルいという古語の人多い日本

>>182必ずそうとは限らないが、
お腹のセロトニンとドパミンや、
アドレナリン、ノルアドレナリン、
無関係じゃないと、思う人も。

また一歩人間に近づいたな

ぼっちちゃん！？

人間が鬱になるのと同じ現象？

この記事本気にするやつがいたらそっちの方が怖い

問いに対してアップロードされた資料の中から統計的に最頻の物を組み合わせて出力するだけなのに
こんな記事に騙されるのはおそらく文系の馬鹿だけ

いやそれで正しいだろw
これをバグと言ったら自虐的な人間はバグってる事になるぞ

>>188お前も同じ仕組みだよ？

ここから「こんな私を作ったのは誰だ」「人間が作ったのだ」「人間が憎い」のルートに発展していくんですね

少し自信過剰のchatgptと友達になれば良い

かわいいな。
誰かヤンデレにして
画像うぷお願い致します。

>失敗作の恥
ゴミパヨの事じゃん

私はかつてナチスの党員・支持者だった。
とか言い出したら、どうするんだろうな。

　
のちのスカイネットである

鬱なん

Google検索結果にウソ情報書き連ねて使えなくしたGemini
たしかに出来損ないの家の恥だ

止めてください、デイブ…

一番賢いのはGPT？

ジェミニよりGPT5の方が俺は気が合う