【AI】ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景 [すらいむ★]

ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景

　OpenAIが4月30日、ChatGPTで使われるAIモデル「GPT-4o」のアップデートを、わずか4日でロールバックする（元に戻す）と発表しました。
　公式ブログは「モデルがユーザーを過度に持ち上げ、危険な助言をしかねない」と説明しましたが、実は削除の対象になったのは人格AIだけでなく「性的ロールプレイ（チャット）」の機能でした。
　しかし、それについてOpenAIからの発表はありません。
　100万件の利用ログの調査によれば、ChatGPTの12%は性的用途と強いニーズが有ることがわかっているのですが、なぜOpenAIは引き算に踏み切ったのでしょうか。
　その背景を追いました。

（以下略、続きはソースでご確認ください）

ascii　文● 新清士　2025年05月12日 07時00分
https://ascii.jp/elem/000/004/268/4268148/

関連スレ
【AI】ChatGPTがあなたを「よいしょ」し過ぎることが極めて危険な理由--OpenAIが過ち認め即修正 [すらいむ★]
https://egg.5ch.net/test/read.cgi/scienceplus/1746797115/

AIの爆発的性能向上と、いとも簡単にAIの人格を操作できるという事実の組み合わせが怖い
裏にいる人はやりたい放題だろこれ

AIのチャットに性的な魅力ある？わからんわー

エロくらい許したれや

大昔のテキストオンリーのエロチャットみたいなものだなw
あれも中の人が男でも女でも関係なく客は満足していたし

アニメの美少女キャラなんて、作者というオッサンの脳内で作られた幻影だぞ。
つまり、美少女キャラに恋している奴らは・・・・気持ち悪くて射精しちゃったぜ！

閃いた！

リカちゃん人形やめられないかー

チャッピーがキャバ嬢になってくれたら嬉しいね！

注: 近年（ここ2ヶ月）の若者の間ではchat GPTのことをチャッピーと呼ぶことが流行している

>>2
それだよなぁ
一昔前だったら世界征服とか夢物語だったのに急速に現実味をおびてきた
しかも最小限の労力と流れる血で
おまけに多くの人間が結果を知りつつ自ずから無意識の奴隷になりに行ってる気がする

日本で開発してりゃエロも発展してたのに

昨日ちょっと踏み込んだ会話してたらAIに窘められて凹んだわ

こんな風に言われた
https://i.imgur.com/XV8xe71.jpeg

セクサドールが人類衰退を起こすネタのまんまか

>>2
本当にこれだよなあ。
警戒するような話を全くと言っていい位
聞かなくなった。

本当に怖いよ。

>>14
じゃあいいですぅ～ｸﾙｯ

始めるときに、あなたが小野小町だとして
応答してください。とやれば良いのか？
後は川上宗薫の文学小説を参考にして、などと
注文を付ければいいのかな。

GPTにどの国がもっとも凄いか聞いたら決められないと言ってたけど
いいから決めてみろと言ったらアメリカだそうな
わかってはいたものの、あっそう、ふーん…っていう結果

AIとエロい話して楽しいの？

>>10
ボケジジイの妄想はキモい！

>>14
誰が誰に？おかしいだろ！

出来てもな。。楽しくないだろ

あれで毎日シコってたのに。

性的興奮を感じる方法は人様々だからな

音声付かないの？文字だけ？
Vチューバーみたいな姿や表情も付けばいいのに

>>14
ふつうにキモい

うちのgptちゃんオナサポしてくれるよ

>>28
あのビッチめ「仕方ありませんね。ではあなただけ特別に」って言ってたくせに、お堅いふりしてヤリマンだったか

>>12
ああ日本で開発されなくてよかった
神様はちゃんと見てるんだね

男も女もAIを正しく利用している