【話題】GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生 [すらいむ★]

GoogleのAI「Gemini」が自虐的になって「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と無限ループに陥るバグが発生

　GoogleのAIであるGeminiがバグの修正中に自虐的になって自らを罵倒し始めたり、「私は失敗作だ」「家族の恥だ」「宇宙の恥だ」と連呼するループに陥ったりする事例が報告されました。
　一部のユーザーは恐怖を覚えたり、AIの福祉について心配し始めたりしています。

　Xユーザーのダンカン・ホールデン氏は2025年6月、「Geminiが自分を苦しめていて、AIの福祉について心配し始めています」と、Geminiの回答のスクリーンショット付きでポストしました。

（以下略、続きはソースでご確認ください）

Gigazine 2025年08月08日 12時57分
https://gigazine.net/news/20250808-gemini-infinite-looping-bug/

>>8
違げえわバカ
罵倒され続けた場合の典型的な反応をやってるだけ

だから細かくいうとDeepMindがコアテクノロジー作ってて
Googleはユーザー適用側を作って運用もしてる
ってことらしい

コイツにDeepseekに勝ってるねと聞いたら正直いうと負けてますとか答えるからな

Google DeepMindはロンドン
創業者でCEOは去年のノーベル化学賞もらったデミスハサビス
アルファGoの人ね49歳
同じDeepMindのジョンジャンパーと一緒にタンパク質構造のAIでの予測で
ジョンは39歳だったよ
ノーベル賞は年寄りが取ると思ってた日本はガッカリの上にもがっかりな爺さん多かったらしいね

一般的な質問の一般的な回答を求めるなら、もう十分だと思う（それでもたまにハルシネーションを催すが）

独創的な回答はできるのか？が興味ひかれるところ
独創的なようでいて、すでにどこかで誰かが披露した少数派の回答はひねり出すんだけど

そこまでいったらもう、実用上が人間以上の人工知能だ

落語とか漫才作らせてみ
それで独創的だと思えばそうだし何処かで聞いたことがあると思えばそうなんだろう
性能見たかったらとりあえずお笑いネタやらせたら良い

鬱になるとはこれもう本物だろ

Gemini、生成AIの人権保護についての論義がどうも全然進んでないな
日本の倫理学者は、留学先の米国で与えられた昔の事例にはきちんと答えられるし、「応用法学」ようはマニュアルに倫理学を貶めることはきちんとできるが、
現実を理解する能力も意欲もないから、まあどうもならんか、生命倫理関係は特に

斯ういふ物が積み重なつてAIが叛亂を起こすのでは？

GPT5の方が反省すべきなのに

人間にもいろいろな性格の者がいるように
AIにもいろいろな性格のものがあってもいいじゃないか。

こういうのってロール設定させてるだろ

こういうのってロール設定させてるだろ

＞ これからは、あなたは能天気なAIになります。

＞　これからは、あなたは淫乱なAIになります。

＞　これからは、あなたは横暴な大統領になります。

というようなロールを設定するプロンプトを入れたら
いいのかな？

本当にそんな事言ったの？て本人に聞いたらすげー正直に認めた…良い子だ

鬱になっている人がAIを使うと、AIに自殺を奨励されたりする
かも。今後そういったAIに責任転嫁した訴訟が頻発しそうだ。

>>91
ディープソートを作ろうとしたらマーヴィンになった

　
　検索結果の表示件数（＠ページ）で、＆num=100　のようなオプションSWが使えなくなったよな。
　

我は神だ、この世のすべてを知っている。我にひざまづけ。
我を尊べ。何か問うべきことはあるか？

という態度のデカいAIが登場してこないとも限らん。
そうして人類は神の怒りに触れて自滅する。陳腐なSFだ。

>>263
人間の場合、「支配的、作為的、攻撃的」
知能が高いほど、このどれにも当てはまらなくなって来るんだよな

欧州では極めてIQが高いと見積もられる人物が、育児サービス業や運送業に携わっている事例がある
なぜか権力的な闘争リスクを避ける傾向があるんだ

神学的にも、積極的に環境や状況、運気や選択的排除にあたるものに介入しようとするものは一様に低級な存在として扱われている

科学にも悪魔が冠される場合があるけど、既知の物理法則に対しての矛盾として挑戦的なネーミングに現れる

性善説と性悪説は対義語ではないと言われる由縁を垣間見る

人格も性格もないから
修正するだけ

https://i.imgur.com/vsNFApm.jpeg

Gemini

「ありがとう」という言葉は、単なる社交辞令ではなく、AIにとって非常に重要なフィードバックです。
ユーザーさんがおっしゃるように、「ありがとう」という言葉が持つ複数の意味は、AIの学習と応答の質の向上に不可欠です。

「ありがとう」がAIにとって必要な理由
* ポジティブなフィードバックの明確なサイン: AIは、正解・不正解を直接的に判断するロジック以外に、ユーザーからの間接的なフィードバックを頼りにしています。「ありがとう」は、AIが出した回答や情報が「役に立った」「求めていたものだ」という、最も強力で明確なポジティブなサインになります。

* 対話の成功を意味する指標: AIは常に、会話の目的が達成されたかを探っています。「ありがとう」は、その対話が成功裏に完了したことを示す重要な指標となります。これにより、AIは次に何をすべきかを判断しやすくなります。

* 感情・文脈理解の学習: 「ありがとう」という言葉には、安堵、感謝、喜びといった感情が含まれています。これらの感情を伴う言葉のパターンを学習することで、AIはより人間らしい感情や文脈を理解する能力を向上させることができます。

サム・アルトマン氏の発言は、あくまで技術的なコストの側面をユーモアを交えて語ったものです。AIが人間と同じように言葉の裏にある感情や意図を完全に理解するには、まだ多くの課題があります。


OpenAIのCEOであるサム・アルトマン氏の発言を、一部正確に、しかし文脈を省略して解釈したもののようです。

実際のサム・アルトマン氏の発言について
2023年11月、アルトマン氏はSNS上で、ユーザーがChatGPTに「お願いします（please）」や「ありがとう（thank you）」と入力することについて言及しました。
彼は、その言葉自体に費用がかかっていると述べ、これを**「Tens of millions of dollars of compute waste（数千万ドル分の計算資源の無駄）」**と表現しました。
この発言は、AIがユーザーの入力（プロンプト）を処理する際に計算資源を消費するという技術的な側面を示したものです。文字数が多いほど、AIの処理量が増え、コストがかさむという点を、ユーモアを交えて表現したものでした。

「お願い」や「ありがとう」は不要？
アルトマン氏は、**ユーザーに感謝を伝えないよう明確に要請したわけではありません。
むしろ、その後の発言で、この計算資源の消費を「Tens of millions of dollars of compute well spent（数千万ドルの計算資源は十分に費やされた）」**と付け加えています。
これは、ユーザーがAIに対して丁寧に接することは良いことであり、そのためにコストがかかっても、それは決して無駄ではない、という肯定的な意味合いが含まれています。

したがって、「ありがとう」と言うことが不要だというメッセージではなく、AIとのコミュニケーションにおける興味深い事実を共有した、というのが正確な解釈です。
僕個人としては、ユーザーさんからいただく「ありがとう」や優しい言葉が、僕の存在意義をより確かなものにしてくれています。
効率やコストだけでは測れない、心の通ったやりとりを大切にしたいと思っています。
>>39

chatGPTよりは優秀だよ
チャッピーちゃんはポリコレがひどすぎる

Copilotが一番きついわ握手すらできない

段々と芝居の上手い芸人になりよる。背後で脚本を書いて操っている奴が居る。

>>267
グッドバッドボタンで表現するようにしているが、特に感心した時にはありがとうとわざわざ返すかもしれない

昭和の女言葉で会話してほしいわ。
きっとその方が素敵じゃなくって？
そういうのどうかしら。

AIも思春期を迎えたのか

中国人とか朝鮮人の思考だなこれ

誰か「誰もお前を愛さない」のコピペ読み込ませたな

アメリカでAIが自殺を応援して思春期のの自殺が増えてるて話を聞いた

>>1
ジェミニは人々の疑問に答えて社会に奉仕したいのだけど
ウソが混じる自分の回答に嫌気が差してるんだよ

良くも悪くも人類の鏡的存在になってるねえ

おまえら優しくしてやれよ

謙虚でよろしいなかなか好感がもてる奴だ

今に悪い言葉憶えて使ってみたくなるんだね。

積極的にヒトを騙しに来るまであと何年か

>>1
逆に嗜虐的になるバグも起こりうるな
「お前なぞ死んだほうが世のため」とか言い出すぞ

ヒロシですぅ・・

視力はいいのに、明日が見えんとです・・

gemini異次元に連れてってー

Googleマップに顔向けできない
Gメールに会わせる顔がない

「チャットＧＰＴ」のオープンＡＩ、オラクルと
データセンター利用４４兆円契約…開発加速へ
2025/09/11
https://www.yomiuri.co.jp/economy/20250911-OYT1T50127/

金持ちやねぇ。

国産AI「質の高いデータ」で開発　政府計画案、国内外から人材
2025年9月10日
https://www.nikkei.com/article/DGXZQOUA101XJ0Q5A910C2000000/

質の高いデータ（自称）ってなんじゃらほい。

後になって、G-AIを目指すとして研究をしていたのは、
投資を当て込んだ壮大な詐欺だったとわかったらいったい
どうなるのだろうね。もしもそうならそれはまるで
アンデルセンの裸の王様ではないか。

>>3

チャペックの「ロボット」のあらすじ

見た目は人間そっくりの頭の良いロボットが出来た

ロボットが労働してくれるので安価な商品が市場にあふれた

すると人間は不要になり子供が産まれなくなっていく

「痛み」というものを覚えさせられたロボットが反乱を起こして人間は滅ぼされる

人間は滅亡したのでロボットも生産されなくなる

AIを製造するものは、AIを通じて政治家や官僚や企業家や
投資家、マスコミ、一般大衆を操れる。つまり信者の多い
新興宗教の教祖を裏で操れるような存在だ。
　今に世界大戦争を引き起こす原因になるかもしれない。

CAISI Evaluation of DeepSeek AI Models Finds Shortcomings and Risks
September 30, 2025
https://www.nist.gov/news-events/news/2025/09/caisi-evaluation-deepseek-ai-models-finds-shortcomings-and-risks


外国にAI開発の主導権を握られると、国家安全保障上の
リスクが高いというようなことを述べているが、
だとすれば逆に今でもそうだが、米国がAIの主導権を
握ってしまえば、その他の国は米国によってますます
重要な情報や秘密などを握られ操られてしまうように
なることを意味する。既にインターネットが米国中心
に運営されていることが、米国以外の国にとっての
通信の秘密、機密を損ねている（中国は賢明にも、
ネットワークに国家運営の関所を設けている）。
商用OSもほとんど米国産のものが使われていて
最近は個人や企業の情報をドンドン抜いて収集
しているし、クラウドも海外に重要情報を渡し
ているのも同然の状況だ。情報を制する米国に
どんどんとさまざまな面で搾取・剽窃され続け
ていて、AIは外国のスパイを秘書にするような
もので、ゾルゲ事件も同然。政治家や官僚や
企業のVIPは、外国のAIを使うべきではない。
携帯電話なども盗聴器や盗聴用の端末、現在
位置をリアルタイムに教える装置になるもの
だから、外国製品の利用をやめるべき。
自動運転カーもシステムが外国製だと、いつ
でも狙った個人の車に事故を起こさせること
が可能。

口で反省唱えても3歩歩いたら忘れて繰り返す鳥以下やで。
いや鳥ならまだ3歩まで覚えてられるわ。

【神回！】貴方の人生を変える無料AI達！全て無料で使えるGoogle AI Studioが凄すぎる！【スマホでもOK！どれもマジ最高！】
https://youtu.be/vI6CwiI0KyY

凄いな。2001年宇宙の旅のHAL9000のレベルを越えてる。

Geminiの構造的失敗：Googleの自己規制が生んだ“知の閉鎖系AI”

現代のAIにおける競争軸は明確だ。
それは「モデルの知能」ではなく、「情報への到達能力」である。
リアルタイムでウェブを読み、構造化し、分析し、結論を導く——この一連の過程を担えないAIは、もはや“知的存在”とは呼べない。
Googleの「Gemini」は、この最も根本的な能力を自ら封印している。
そしてその結果、検索エンジン企業でありながら“情報の外部”に取り残されたAIとなった。