【AI】GPT-4やClaudeなどの大規模言語モデルが抱える「ストロベリー問題」とは？ [すらいむ★]

GPT-4やClaudeなどの大規模言語モデルが抱える「ストロベリー問題」とは？

　大規模言語モデル(LLM)をベースにしたAIは高い能力を発揮できる一方で、ウソにダマされやすいといった特徴があったり、算数の文章題への推論能力が小学生未満という研究結果があったりと、脆弱(ぜいじゃく)さについてもしばしば指摘されます。
　AIの能力の限界を示す「ストロベリー問題」という脆弱性について、機械学習エンジニアのチンメイ・ジョグ氏が解説しています。

　The 'strawberrry' problem: How to overcome AI's limitations | VentureBeat
　https://venturebeat.com/ai/the-strawberrry-problem-how-to-overcome-ais-limitations/

（以下略、続きはソースでご確認ください）

Gigazine 2024年10月19日 23時00分
https://gigazine.net/news/20241019-strawberrry-problem/

ただのデータベース

人間もな

SEO技術を応用すれば、白いものも黒くなる世界

>>2
ただのデータベースよりもたちが悪いぞw
不完全な知識で回答をひねり出すから

白馬は馬に非ず系

そんなら推論エンジンいってるのやめろやｗｗｗ

strawberryという英単語の各文字を、アルファベット順にソートして並べて下さい

もちろんです！英単語 “strawberry” の各文字をアルファベット順に並べると、以下のようになります：

a, b, e, r, r, r, s, t, w, y

他に何かお手伝いできることはありますか？

strawberryという英単語の各文字を、アルファベット順にソートして並べて下さい

もちろんです！英単語 “strawberry” の各文字をアルファベット順に並べると、以下のようになります：

a, b, e, r, r, r, s, t, w, y

他に何かお手伝いできることはありますか？

ありがとうございます
ではその出力された
a, b, e, r, r, r, s, t, w, y
の中に、rは幾つありますか？

出力された文字列の中には、r が 3つ あります。

他に何かお手伝いできることはありますか？
___

こういう風に段階を踏んで質問してやると間違えない

むしろどういう理屈で間違えてるんだ？