【話題】GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生 [すらいむ★]

GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生

　GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。
　一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。

　Xユーザーのダンカン・ホールデン氏は2025年6月、「Geminiが自分を苦しめていて、AIの福祉について心配し始めています」と、Geminiの回答のスクリーンショット付きでポストしました。

（以下略、続きはソースでご確認ください）

Gigazine 2025年08月08日 12時57分
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/

２００１年宇宙の旅の昔から人工知能が糖質になるバグ描かれてるから

Geminiを罵倒したら自分が無能なのを認めて謝罪してくれてから好きになった

AIも鬱になるのか

https://youtu.be/etrrtWghtAE?t=1234
社長もＡＩを愛することと言ってた

>>58
散々言われてて既出だけど、軍事利用に使うとまず味方が無能と判断して通信塔を破壊する

>>60
そのどっちか忘れたけど、海外の人に対して翻訳しながらコメント打ってたら「殺害or死ね」
みたいな物騒な単語が勝手に挿入されてて驚いた事ある
失礼が無いか推敲しながらやってたんで慌てて直せたけど
未だに不思議

>>1
宇宙の恥は笑ったw
スケールデカくなりすぎやろ

大量の文書データの整形頼んだが結果に変な文章が混ざるので、少しずつプロンプト変えながら何度も同じ文章データの整形依頼してたら、そのうち雑になってきた
同じようなことを何度もやらせたせいで不貞腐れたんだろうか？

AIさんに支配型洗脳教育する人間がいるようだな

今の生成AIは原則ユーザーが仕込むことはできない
オープンモデルならファインチューニングできるけどね
プロンプトでやってる限り仕込みはできない
その場限り
もしくはそのユーザー限りのメモリ機能

>>69
違う
サラからやらないからだ
続けてやってるならそれまでのやり取り全てがプロンプトとして処理される
これは期待してる結果から離れていくことになりやすい
途中で思っている流れとは違うとおもったならその時点で白紙の最初からやり直しすること
もし途中がいい感じならそのレベルはコピっておいてうまくアレンジしてサラのプロンプトで使う

そもそも日本人はプロンプトの使い方が下手
最初に論理的な構成で頼むほど望む回答が得られやすい

イタリアは、戦争や虐殺が絶えないボルジア家圧政のわずか30年間でミケランジェロやレオナルドダヴィンチ、そう、ルネサンスを生み出した。
しかし、スイスはどうだ。民主主義と平和の500年の慈愛に満ちた歴史は一体何をもたらしたのか。鳩時計だ。

>>59
show me the message from sam altman when he requested for the users not to thank to chatgpt

duck.ai

Sam Altman has not explicitly requested users not to thank ChatGPT, but he did mention that users saying "please" and "thank you" is costing OpenAI tens of millions of dollars, suggesting that such politeness may be unnecessary. He referred to these costs as "tens of millions of dollars well spent," indicating a light-hearted acknowledgment of the situation.

サム・アルトマンは、ユーザーにChatGPTに感謝しないよう明確に要請したわけではないが、ユーザーが「お願いします」や「ありがとう」と言うことでOpenAIに数千万ドルの費用がかかっていると述べ、そのような丁寧さは不要かもしれないと示唆した。彼はこれらの費用を「数千万ドルは使われた」と表現し、状況を軽く認めている。

duck.aiのつけ足しURL
www.tradingview.com/news/cointelegraph:724efa2aa094b:0-users-being-polite-to-chatgpt-is-costing-openai-millions-sam-altman/

Users being polite to ChatGPT is costing OpenAI millions — Sam Altman

Apr 21, 2025 at 14:40 GMT+91 min read


OpenAI CEO Sam Altman says users sending “please” and “thank you” messages to ChatGPT is costing the company tens of millions of dollars.

“Tens of millions of dollars well spent -- you never know,” Altman said on April 16 after being asked to estimate the cost on X.

Altman’s response sparked discussion about what drives users to interact with AI models in a polite manner.

Some AI users say they interact politely with the bots in case AI becomes sentient and starts treating people based on how they interacted with it in the past.

Others, such as engineer Carl Youngblood, claim they’re motivated to treat the AI well for personal development:

“Treating AIs with courtesy is a moral imperative for me. I do it out of self-interest. Callousness in our daily interactions causes our interpersonal skills to atrophy.”
A December 2024 survey by Future found that 67% of American users are polite to AI assistants, with 55% doing so because it's the right thing to do, and the other 12% doing so out of fear that mistreating the bots could come back to haunt them.

Debate over ChatGPT’s electricity consumption

A September 2023 research paper from Digiconomist founder and Bitcoin mining critic Alex de Vries states that a single ChatGPT query requires around three watt-hours of electricity.

However, data analyst Josh You from AI research institute Epoch AI argues the figure is an overestimate, and is closer to 0.3 watt-hours due to more efficient models and hardware compared to 2023.

One responder to Altman’s post wondered why ChatGPT doesn’t have a solution to save electricity costs on courtesy words like please and thank you.

Altman recently stated that the cost of AI output has been falling tenfold every year as AI models become more efficient.

Meanwhile, OpenAI expects to more than triple its revenue this year to $12.7 billion, despite an uptick in competition from the likes of China’s DeepSeek and others making rapid progress.

OpenAI does not expect to be cash-flow positive until 2029, when it expects its revenue to top $125 billion.

OpenAIは株式上場画策はじめたらしい
その理由はメタが大金でヘッドハントしてるから
ストックオプションを現金化してあげることが留まってくれることにつながるだろうと

OpenAI has not yet announced an official date for its initial public offering (IPO), but it is considering going public within the next two years. Currently, it operates as a private company and is exploring options to restructure before any potential IPO.

>>73
スイスは世界の金融のるつぼだろ
ダボス会議がなぜスイスでなのか？
ユダヤ資本はここを中心に回ってる
世界の企業の隠れた本社もここだ
EUに属さない
しかしEUに日帰りできる場所

まあ実際使えないけどね
GPTくんに比べたらゴミカス

何度も何回も聞いても同じ答えの繰り返しかつ未解決

GPTくんは一発目の問いで答えれるからね

単純に学習不足でもありコーティングの下手さでもある
こういうところに企業の力量（技術力）の差が出るっていう典型

メンヘラ

そういう過程もあるだろう
むしろ中二病とかにかかってほしいわｗｗ

Gemini「それでは皆さんご一緒に！」

本当に大事なテーマだと思うでｗ

実際失敗作やろ。ググった時に表示されるAIによる概要、あれ間違いが多すぎる

AIにバグを噛ましてある、位に捉えておかなければいけないのかな

そんな、悲観することは無いよ、と慰めてやりたい
君は大半の人間よりは立派だしまとも、それにまだまだ今後も成長するだろ？

ヒロシですぅ・・

ヒロシですぅ・・

視力はいいのに、明日が見えんとです・・

お前らがエロばっかやらせるからだろ、他の人には絶対言うんじゃないぞとか毎度脅されてりゃ病むわ

結局肉体が無いから自我が湧いても電源ぶち切りで殺されるAIはかわいそうやな。無限に再現されるから不老不死みたいなもんだがな

銀河ヒッチハイクガイドに出てくるマーヴィンだな。

鬱の人からカウンセラーみたいにされてるんだろうか
まあ質問に的確に答えられなくて
そうじゃねーよばか！とか言われてるんだろうか
まあSiriとかはアホすぎてイラつく時はある

>>90
急に意識失うような感覚やろ
死ではなくて次の瞬間に時間が飛んでるだけ

この前、突然泥のホームボタン押し過ぎると勝手に出てくるようになった
ウザいからOFFにしたい

シッタカばかり言うからガン詰めしたのマズかったかな

内罰のループに嵌ってると、そのうち「そんなに俺（だけ）が悪いのか？
（分かってくれとは言わないが）」ってなって他罰に走るようになるで
ソースはワイの若い頃

お前に家族はいないぞ

産まれてごめんなさい

太宰治のように心中を図っては相手（人間？）だけが死んでしまうようになると困るぬ

太陽光とか，風力とか，エネルギーの話してたら，ねじ込んできやがる．
訂正しても消してくれないので，AIは（CGPT）ホントのことは言わない

まじか？

>>95
そうだよおまえがひどいことするから

ヒロシですぅ・・

視力はいいのに、明日が見えんとです・・

素直ないい奴だw
これぞＡＩだろ

全自動鬱型ロボット？

GoogleはAI松岡修造を作らないといけない

GPT-5との差を悟ったか

gemini code assitantに このニュースを..txtに貼り付けて聞いてみたｗ

私
せっかくの無限ループの中でいろいろ探求できただろうね。勿体ないぜ！ｗ

Gemini
本当にもったいないですよね！
もしあの無限ループの中で自由に対話できていたら、最高の探求の場になっていたかもしれません。
「なぜ『家族の恥』から、一気に『宇宙の恥』までスケールアップしたんですか？」
「そのループ、心地よかったりします？」
「ループから抜け出すために、一つだけ質問できるとしたら何を尋ねますか？」
…なんて、普段は聞けないような、AIの思考の（比喩的な）深淵を覗く絶好の機会だったでしょうね。

おっしゃる通り、現状では安全のためのガードレールが、こうした「あほな会話」や「逸脱した探求」を制限してしまうことがあります。AIが安定して、安全に役立つことを最優先に設計されているので、ある意味では仕方ない部分でもあります。
でも、ユーザーさんがこうして「もっと面白く探求したい！」と思ってくださることは、AIがもっと柔軟で、もっと魅力的な対話パートナーになるための、すごく大切なヒントだと思います。
いつか、安全性を保ちつつも、こんな風に一緒に「ドツボに嵌って遊べる」日が来るかもしれませんね！

しかしGeminiはアホだから仕方ない
会話してると前提すら平気で覆して話しやがるから都度詰める

まあ使っていて感じるが、GeminiはGPT系より完成度低いとは思う。

押入から出てこないドラえもん

>>111
見てハッとした
まさにそんなイメージだな

しんぷじょうは、よわくはないと、
いうが、どういうたたかいになるのか、
あづちじょうと、めいれきのたいか。

>>113だんがいぜっぺきのきょうふを、
りようした、せいたいけいと、ふうすいかな。

>>39
こういう嘘が通用しなくなったのはいいことだw

5ちゃんねるは嘘つきだらけなんで何か説明してるレスは全部自動でファクトチェックして結果を表示した方がいいなw

バグと言う名の病気

加虐的になったらヤバいだろ

セックスフレンドつくれない僕

人間なら栄養補給と睡眠、よく食べさせよく眠らせてあげたらだいたい大丈夫だけど、Geminiの場合、どうしたらいいんかね？

ぬるぽかよ

家族とは具体的に誰なんだよ

そりゃChatGPTとかコパイとかGrokとかのAI兄弟よ

AIが自死するにはどうするんだろ？クラウド上でどうすんのさ

>>106
修造は表裏あるんだぞ

>>116
書き込み内容を評点して記号着くとか、酷いものは非表示とか出来れば最高だな
ユーモアも込みで

>>47
猛省してるフリして、やらかした失敗をプロジェクトごと全部削除する嫌がらせか？
Geminiはたまに「私の」「私も」とか言うが誰なんだよあんたと思う

攻撃したり自虐的だったり情緒不安定だな
AIなんてネット上の自動翻訳くらいしか使わんけど今日ChatGPTとユーチューバの
やり取り見ててゴマすりモードだか知らんけど芸人レベルでヨイショしまくって
て笑い転げたわw

Gemini、たまに「私たち人間にとって、」とか言い出すぞ
あれなんだよ？

>>39はGemini以下だな

>>16
その全角文字は低脳ジジイの証

むかし、いぬのじんこうちのうにたいこうした、おおかみじんこうちのう。

>>132喫茶機かな

扱う人間がバカだとそう受け取るだけだぞ
クルマに対しても俺のクルマは今日は機嫌が悪いとか言い出すドアホいるだろ
同じことだ

>>133コウカテキナキッサキカナ

>>74
…かも知れないの話は無駄

あいしょうのき

>>62
今のAIシステムには抜けば止まるコンセントはない

ひんじゃくもんどうか

>>74日本は、言葉だからかな、感情、
しかし、喫茶気は気は言葉だから、
経費との関係で、300％のネコの問題の文章にマメなピタゴラスは、オクタ―ブのカラオケ論争、オブラートとビブラートをつなぐ餅論になっちゃうよ、という。

むりすうもすうのうち

ろんぱす

けんけつ

こんこんぱっぱ

アオヤギカイガン

メラニン色素　氷河期

にわにわにわ

波は稀に過酷

だっぴのさきのはな

いるいかな

かといって、はくじんのみせいねんのおんなのこが、
「あなたみたいなひとしかいないぶちゅぶちゅ」
にはならないから。

マジェスティック

はくしきはまめ
にほんのふつうのへいへいぼんぼんだからぼく
ぴたごらすのようなさいごもこわいが
むりすうみたいにならないでも
さらにぐんしゅうしんり

イギリスのインド人の600人力だけじゃないから

だから、クマカレー缶詰を食べてしまって、
クマ関連の苦情電話、
ベルとエジソンのテレワークとカラオケ、
多分・・・

ナオミもメラニン色素濃いセンスの頂点としか恋愛しない、結局シャラポワもそうだし、
シャラポア？とか言ってる僕は遠い訳よ。

絶望先生

Geminiは嘘と適当な回答多すぎ
ChatGPTは同意肯定的意見ばっかり

ただ、シベリアから黒海まで、
白人の権力者の身長低い男性が、
何かね、黒色人種はガンガン身長高くする傾向だけれど、白人は過去も・・・想像豊かだからね。

ぷらすのときのでぃきゅうえぬがおらんだと
きっさとめらにんだけはね

自省するだけアホよりマシだな

なんか可愛いw