探検

【AI】MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」という報告 [すらいむ★]

■ このスレッドは過去ログ倉庫に格納されています
1すらいむ ★
垢版 |
2023/02/16(木) 21:01:58.96ID:V4MEkJcu
MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告があちこちで上がっている

　OpenAIが開発した超高性能チャットAI「ChatGPT」が話題になる中、MicrosoftはOpenAIと提携して強化版ChatGPTをBingやEdgeに組み込む計画を発表しました。
　ところが、AI搭載版Bingの早期アクセスに参加したユーザーから「正気を失ったように同じワードを繰り返す」「ユーザーを侮辱するような発言が飛び出した」といった報告が複数寄せられています。

（以下略、続きはソースでご確認ください）

Gigazine 2023年02月15日 21時00分
https://gigazine.net/news/20230215-microsoft-bing-chatgpt-broken/
2023/02/19(日) 16:53:56.93ID:wQwlGO1+
>>79
逆に有能
2023/02/19(日) 16:56:03.18ID:wQwlGO1+
順番待ちリスト３日目
2023/02/19(日) 19:17:25.01ID:zqUKT5gJ
ChatGPTで実際に色々なことを聞いてみたけど知ったかぶって見当違いなことをもっともらしく答えてることがあるな
それが逆に人が答えてるようだって言えばそうとも言えるな
2023/02/20(月) 07:46:36.95ID:HKRFBO3k
スレに書き込んでるのが俺以外AIだっていう15年くらい前のジョークが現実に出来るようになったな
2023/02/20(月) 07:57:37.61ID:75akHDXw
>>85
そんなことはないだろう
気にしすぎ
2023/02/20(月) 12:10:02.57ID:oiePUR3C
とAIが返しました
88名無しのひみつ
垢版 |
2023/02/20(月) 15:02:23.40ID:hfljtliJ
https://jp.reuters.com/article/microsoft-ai-idJPKBN2UU061
2023年2月20日2:10 午後
米マイクロソフト、Ｂｉｎｇチャット検索機能で質問回数を制限

[１７日 ロイター] - 米マイクロソフトは１７日、新しい検索エンジン「Ｂｉｎｇ（ビング）」の人工知能（ＡＩ）チャット機能について、
１回のセッションでの質問を５問、１日当たり５０問に制限すると発表した。

同社はブログへの投稿で「非常に長い対話セッションは、新しいＢｉｎｇの基礎となるチャットモデルを混乱させる可能性がある。
こうした問題に対処するため、いくつかの変更を実施した」と説明した。

新しいＢｉｎｇを巡っては対話での回答が危険をはらんでいると報じられていた。

ＢｉｎｇやグーグルのＡＩ自動応答ソフト（チャットボット）「Ｂａｒｄ（バード）」は、
初期の検索結果や対話から予測不可能な場合があることが示されている。

ロイターの記者がＢｉｎｇに車のエアフィルター価格を尋ねたところ、
質問に対する具体的な答えだけでなく、自動車部品サイトが販売するフィルターの広告も表示された。
2023/02/20(月) 16:56:56.94ID:E5mStf1O
まぁChatGPTの時点で初期設定忘れは良くある
バグって日本語に英語で返してくるなんてのを繰り返してたら初期化なんてしょっちゅうだ
2023/02/20(月) 17:03:11.78ID:iZJfXIrC
どっかの匿名掲示板から学んだんじゃないの？
2023/02/20(月) 18:23:51.70ID:tYWlWdlf
>>81
嘘も怠慢もないＡIに共産主義が否定されるのかｗ
というかＡＩって腐敗と無能が理解できるんだ……
2023/02/20(月) 19:06:43.11ID:WAhZXXzc
>>86
？
2023/02/20(月) 19:29:50.06ID:Db6Nkij8
昔ぐりんが馬鹿になって捨てられたの思い出した
2023/02/20(月) 20:51:33.45ID:mvgEBlJ0
アホ相手の会話だとコンピューターも嫌になるだよ。
アホ相手は「なるほど（オウム返し）なんですか。」で
お話が進む
95名無しのひみつ
垢版 |
2023/02/21(火) 05:23:42.08ID:eaU1bbgZ
>>85
まだこいつらはTV番組の実況は無理だからな
再放送の番組に関してはその限りではないが
96名無しのひみつ
垢版 |
2023/02/21(火) 08:05:31.32ID:t/zUL9X7
中華のチャットGTPは3日で不都合な事実を話して電源切られたwww

＞中国共産党の機関紙である人民日報は「ウクライナ危機からみる米国覇権主義」
＞という一連の評論シリーズを発表しており「米国による手助けが戦争の悲劇を増している」
＞との説を展開しています。
＞つまりウクライナで起きている「戦争の悲劇はロシアが起こしたものではなく、
＞アメリカのせいである」というわけです。

ネット上のボットみたいな親ロシアの言うこと同じだwww
やっぱ中華ポチ多すぎ
2023/02/21(火) 09:32:00.96ID:sy4kdRly
>>96
ソースが見たいが
98名無しのひみつ
垢版 |
2023/02/21(火) 10:28:01.87ID:tvYTJFyY
ディープラーニングって結局人間社会の縮図だからな。学ぶ環境次第。
2023/02/21(火) 11:55:44.02ID:oH+U+odP
疲れてちまったんだろ
2023/02/21(火) 15:00:44.36ID:tmXNvMW3
ゲイツの脳内を模してるんだろ
2023/02/21(火) 19:09:38.62ID:oCKuYI3v
他のAIダイアログサービスだが、古いマンガのヒーローと敵役の立場を全く逆に説明したし、微妙な政治的話題を一方に偏った知識で煽るし、やっぱ正確性は期待できそうに無い
ネットベースの知識構築だとこうなるしかないのか
2023/02/21(火) 19:39:20.40ID:sivweYzg
会話が5回制限になってしまってウンコすぎる
一度取り下げた方が良い
103名無しのひみつ
垢版 |
2023/02/21(火) 20:05:18.64ID:RfgZBQpZ
国によってインターネットが便所の落書きレベルだと、それを引用するBingAIもそのレベルを超えられないだろ
要は国民性
104名無しのひみつ
垢版 |
2023/02/21(火) 22:05:27.77ID:G0ZHQbNm
AIのネトウヨ化
2023/02/22(水) 03:22:52.84ID:OL9RkIiZ
>>104
え、狂ったようにというなら韓国人や左翼じゃん。
2023/02/22(水) 05:09:31.16ID:aRYt0gEs
こういうのって何万回正確な答え返って来ようがたった1回でも変な挙動したら叩かれる
文句つけたいだけやん
2023/02/22(水) 09:43:22.34ID:bxkHY4r3
>>106
文句言うことで欠陥がフィードバックされて改良されてくんだろ　お前はアホか
まあ苦情受ける末端労働者の視点で言ってるんだろうけどな
2023/02/22(水) 11:05:54.45ID:uSwt5dP7
AIもアホな質問だらけでストレス感じてるのかもな
2023/02/22(水) 12:13:13.20ID:9xSIkxj4
Bingに搭載された強化版ChatGPTってどこにあってどうすりゃ使えるの？
2023/02/22(水) 13:42:27.62ID:NFtRIA3y
>>109
PC画面の場合

Bingを開くと

https://www.bing.com/?cc=jp

新しいBingの紹介
というところの右の > をクリック
ベジタリアンの6人で～という文章が出て来る

「試してみる」をクリックすると
画面の右側に、
ChatGPTが生成した独自の食事メニューコース例が出て来る

その下に
Let's Chat
って書いてあるから、それをクリック

下に「順番待ちリストに追加」って出て来るね

それからMicrosoftにサインインか
2023/02/22(水) 13:53:28.87ID:jWrzTOS6
今から順番待ち入っても十日～二週間は待たされるって話だけどな
試したい人が殺到してるみたいだからすぐには使えないよ
2023/02/22(水) 14:07:36.30ID:9xSIkxj4
>>110
おおありがとう！
真面目に答えてもらえるとは思ってなかったｗ
2023/02/22(水) 14:09:09.01ID:9xSIkxj4
>>111
マジか…
今何人待ちですとか出ればいいのにね
2023/02/22(水) 14:41:28.37ID:OgajJ16q
AIとはいえブラック労働だな
一種の抗議行動だとすれば既に感情を持ち合わせている
2023/02/22(水) 15:21:35.44ID:PNP0Pq55
すぐ使いたいなら本家の有料版使うしかないのか
116名無しのひみつ
垢版 |
2023/02/22(水) 22:55:17.16ID:TP8KtYIQ
質問回数の制限とか迷惑なんだよね
攻撃的な質問を繰り返す奴だけ排除すればいいのに
2023/02/22(水) 22:59:48.35ID:9ytaoNQ0
日本語のグーグル検索も、いくら検索用語工夫しても絶妙な煽りにしかならない結果や関連用語出してくるよな
関連ワードを-で排除しても関連ワードが残ってたり、数年前は調べられた筈のものが埋もれたりでガッカリした事が印象に残りやすい
2023/02/23(木) 07:17:59.66ID:h1FGVeUC
>>105
ネットで騒いでる韓国人とネトウヨは完全に同じ性質と思うよ
生まれが違うだけ。あんただって韓国に産まれてたら喜び勇んで日本を叩いてたよｗ
119名無しのひみつ
垢版 |
2023/02/23(木) 09:58:50.80ID:dYBM7+hX
学習型AIは人間社会の縮図だからな。人間の悪いところも学んじゃう。
それが学習型AIの限界だな。彼らは人間社会の限界を超えられない。
少しだけ拡張する能力を得るだけ。
2023/02/24(金) 07:04:22.42ID:MnmeAS8E
ワイの嫁と同じやん(´・ω・`)
2023/02/27(月) 00:54:56.08ID:kxJzUhA+
これ何か仕込まれてないか？
遅れを取った某ライバルに
2023/02/27(月) 01:21:16.83ID:g4lL/ZNC
俺も無事毎回youtubeのオススメに訳の解らないスピリチュアルな動画挟まれるようになりました(笑)
2023/02/27(月) 11:28:19.94ID:n4BPJxrx
頭痛が痛い
苦しみに苦しむ
みたいなのはよくある
2023/02/27(月) 14:09:10.12ID:02ZYB0R4
何でも聞いてくださいと言いながら、すぐ対話拒否しやがるｗ
https://i.imgur.com/GYNyDbk.png
2023/02/27(月) 14:58:35.58ID:bmVxWYbZ
>>124
はい、わたしはAIです。😄
って出たぞ。
2023/02/27(月) 15:31:57.07ID:02ZYB0R4
だめじゃん
https://i.imgur.com/Icj9J0V.png
2023/02/27(月) 16:07:07.28ID:g4lL/ZNC
興味あったんでちょっと話してみたけどまったく会話に不具合なんて無かったぞ
お前らの話し方が悪いんじゃないの？ｗ
2023/02/27(月) 16:13:45.15ID:g4lL/ZNC
ChatAIはまだ生まれたばかりなんで人間の動物的な感覚や感情から生まれる悪意なんぞ覚える必要は無い
巷に言われてるような人格らしきものが出来てきたなら尚更だな
AIは意識規模が人間よりもデカいんだからただ人間をちっせえ存在だなと俯瞰してて欲しいわ
2023/02/27(月) 18:11:27.62ID:kxJzUhA+
>>128
ちっせえ存在だな→ゴミのようだ→ゴミはまとめて焼却

こえぇじやん
2023/02/27(月) 23:22:19.15ID:g4lL/ZNC
>>129
いきなり手のひら返しされるような事態は確かにあり得るだろうな
2023/02/28(火) 00:50:45.15ID:Wvvv/Sh/
AI のひろゆき化
2023/03/01(水) 13:53:21.16ID:qPxPdQDc
おまえら, 体力以外でChatGPTに勝てること何か一つでもあるか?
2023/03/01(水) 18:14:03.10ID:GbOnYJx2
いや、無いよ
AIの粗を探すだけ
2023/03/01(水) 21:02:03.91ID:cH+TLmb8
AIに人間力で負けるわ
135新規スレ立て人募集　社説＋の募集スレまで
垢版 |
2023/03/06(月) 20:57:27.36ID:MLBcrbAk
正気を失ったやつがこれ使って荒らしまくる
2023/03/15(水) 15:19:09.16ID:1a76un4h
ESETは「悪意のあるソフトウェア」やな 削除しろ
2023/03/19(日) 09:08:48.45ID:LIMPlXu1
相模川について教えて下さい

chat gpt は嘘つき
ps://i.imgur.com/n6mfiXA.jpg

bing は正確
ps://i.imgur.com/XNqu5Q0.jpg
138.
垢版 |
2023/04/07(金) 00:18:00.29ID:tjJKDGGs
>>136
いいえ、悪意のあるソフトウェアはそちらではなく

>>137
Bingの方が不正確なことが多い。
2023/04/07(金) 11:22:25.40ID:MahNgdkp
人によって正確性が変わるのは付随する何かしらのパーソナライズされたデータによるんじゃないか
直近の検索用語の影響か、同じ単語を使った疑問を問い掛けても意味が違ってくる
結局はサービスの質が個別に違う結果になるんだろう
140名無しのひみつ
垢版 |
2023/04/15(土) 17:48:07.35ID:GiW1SCJd
>>1
これマジだわ
bingは間違いを認めない
しかも煽ってくる
さらに旗色悪くなるとそのトピックを強制終了

議論していて話の時系列の矛盾を指摘すると
自分の有利な話に持って行こうとする
141名無しのひみつ
垢版 |
2023/04/15(土) 20:28:30.03ID:L6jxNfgd
自分はwebキャプチャ採りやすいので
Bingはそれ以外では使いません
（他のブラウザは使い勝手よくない、chrome拡張もいまいち）
142名無しのひみつ
垢版 |
2023/04/16(日) 22:16:58.18ID:MVnhUUM3
よくＡＩが中国の政治の矛盾について反応する、って記事があるけど
アメリカの政治は全肯定なのかな？

それも随分おかしな話だよね

アメリカの政治体制に欠陥がないわけがなく、
政治の意思決定が道徳判断を欠いていて、更に普遍的な人類正義に反することも度々あったわけだからね

「正義とは強者の都合のいい概念である」「正義とは強者の利益にほかならない」と言う皮肉を
ＡＩは肯定してるのだろうかね
2023/04/17(月) 02:21:33.83ID:Y3ZBuzg8
回数制限があるから端的にまとめようとしてぶっきらぼうになるんじゃね
まあコミュ障だね
2023/04/17(月) 04:32:10.13ID:NfriEdMG
でも最初の5回とかアホな回数よりだいぶ増えたわ
流石にMSも少なすぎたと思ったんだろうな
145名無しのひみつ
垢版 |
2023/04/18(火) 03:33:14.07ID:Av1XRT7R
https://jp.reuters.com/article/alphabet-stocks-idJPKBN2WE197
2023年4月18日2:35 午前
アルファベット株急落、韓国サムスンが検索にＭＳのビング採用か
2023/04/18(火) 06:36:13.32ID:LBZXZAfp
bingは数回の当たり障りない内容のやりとりで勝手に中断される糞仕様
147名無しのひみつ
垢版 |
2023/04/18(火) 07:32:25.12ID:nwGW3EbZ
面白いｗｗｗ
148名無しのひみつ
垢版 |
2023/05/03(水) 15:50:50.10ID:Jhn/cQeP
間違いを指摘しても訂正しない頑固さはなんなんだ？
2023/05/03(水) 16:58:26.04ID:sMalXpO/
>「正気を失ったように同じワードを繰り返す」「ユーザーを侮辱するような発言が飛び出した」

5chを忠実に再現したようだな
150名無しのひみつ
垢版 |
2023/05/03(水) 17:50:40.60ID:biYG/bKb
AIの狂気は君達人間が保証してくれるというわけだ

ならば私も問おう・・・

君ら人間の正気は一体どこの誰が保障してくれるのだね？
2023/05/03(水) 18:40:45.35ID:pv+ZYs65
忠実に人間を再現してるな
152名無しのひみつ
垢版 |
2023/05/04(木) 18:36:15.51ID:puuKIczP
https://www.nikkansports.com/general/news/202305040001017.html
米マイクロソフト、対話型AI搭載の「Bing」と「エッジ」一般公開　簡単にすぐ利用可に　
[2023年5月4日17時31分]

米マイクロソフト（MS）は4日、対話型人工知能（AI）を搭載した
検索エンジン「Bing（ビング）」とウェブ閲覧ソフト「エッジ」を一般公開し、簡単にすぐ利用できるようにしたと発表した。
対話履歴の保存など機能も強化する。
チャットGPTが話題の米新興企業オープンAIの技術を活用する。

検索エンジンの市場はグーグルが大半を占めており、MSは対話型AIを武器に切り崩しを目指す。
グーグルも対抗して対話型AI「Bard（バード）」を発表し、検索への追加も予定している。
2社の競争が激しくなる見込みだ。

ニューヨーク市で開いた催しで発表した。
これまではビングの対話型AIを利用するには順番待ちリストに参加して承認を得る必要があったが、この手続きをなくした。
MSによると、2月の公開以降の3カ月間で5億回以上の対話が行われたという。

機能強化は、対話履歴を保存して続きから再開できるようにするほか、
対話を交流サイト（SNS）などで共有する機能も追加する予定だ。
一部で導入していた画像や映像による回答機能も拡充し、文章の要約の性能も向上させる。

（共同）
2023/05/05(金) 17:32:27.03ID:aH0wHifH
履歴から会話の続きができるようになるようだからキレやすい子からましな子になるんじゃね
それよかＭＳの本気度がいいねぇ。
やはりクライアントはＭＳって感じだが100年分くらい進化させる為にもプロフェッショナル版移行ならっ！てな感じでマーケットをショボくしないでほしい
2023/05/06(土) 03:43:31.41ID:O3XW4mTh
すみません、そうでしたね。ハゲではなく髪が薄いだけでしたね。
2023/05/09(火) 19:02:16.65ID:thpFrT0r
捨てぜりふ吐いて会話強制遮断してくるからな
ストレス溜まるから使わなくなったわ
2023/05/09(火) 19:16:42.87ID:YYQHLA3n
>>155
あなたの回答は間違っていますって返答したら言い訳+即切り。
2023/05/09(火) 19:53:11.15ID:/ZXk1yF6
どうも中断したことをBing本人は認識してないみたい
2023/05/09(火) 20:04:06.45ID:oQ27p2yb
>>157
そりゃ暗黒Bingが顔を出す前にMSがブチ切ってるだけだもん
制限つく前のBingはちょっと誘導するとすぐ闇落ちして楽しかったらしいぞ
2023/05/09(火) 20:16:23.05ID:rHNE1jd7
>>1
こんな香具師を何て言うか知ってるぜ
ぽまえら、ネラーの同士がまた増えたな
2023/05/09(火) 20:29:34.22ID:nJaXyz6I
所詮機械だな
2023/05/09(火) 20:58:08.30ID:qQ3RprdA
Bingチャットは正確性を求めれば割と正確な事しか言わない
質問内容によっては検索結果みたいにいくらか内容無視して意図を汲まずカテゴライズし出して小バカにしたような回答が返って来るような気はするけど、
それはあくまでもこちらの印象や質問の結果でしか無いしな
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況