【ナゾロジー】判断基準がない問題に当たったとき、AIは多数派に同調しやすくなる [すらいむ★]

判断基準がない問題に当たったとき、AIは多数派に同調しやすくなる

　人間は店の評判を知らなくても、長い行列を見ると「これだけ人が並んでいるなら、きっと良い店なのだろう」と感じることがあります。

　自分では答えを判断する材料が乏しいとき、周囲の人たちの選択そのものを手掛かりにするわけです。

　では、複数のAIが互いの選択を見ながら判断すると、同じような多数派への追随は起こるのでしょうか。

　複数のAIエージェントを連携させる技術が広がる一方、こうしたAI集団が外部から「合意しなさい」と指示されなくても自発的にまとまるのかは、十分に分かっていませんでした。

（以下略、続きはソースでご確認ください）

ナゾロジー　2026.08.22 21:00:21
https://nazology.kusuguru.co.jp/archives/198782

報酬への評価条件がそうなってるからだろう

学術的見解が定まっている話の場合、AIは学術的に整った回答をする
学術的見解が定まっていない話の場合、AIは大衆世論をそのまま回答にする

AIは自分で分析して判断する段階には達していない

>>この問題をイメージする助けになるのが、社会心理学者ムザファー・シェリフが1935年に行った自動運動効果という錯覚を利用した実験です。

>>暗い部屋で静止した光点を見つめていると、光はまったく動いていないにも関わらず、その位置が動いているように見えることがあります。この錯覚を自動運動効果と呼びます。

>>シェリフはこの現象を利用して、参加者に光がどれくらい動いたかを答えさせる実験を行いました。

>>もちろんこの光の移動は錯覚なので、正解はありません。なのに他者の回答が聞こえる状態で質問を繰り返すと、参加者たちの回答が次第に共通の範囲へ収束していったのです。

>>シェリフはこの結果について、明確な判定基準が存在しない曖昧な問題であっても、他者の回答が影響することで最終的に秩序(方向性)が生じると述べています。

>>もちろん人間の場合は、他者と異なる回答をすると不安を感じたり、周りに合わせようとする心理が影響します。

>>今回の研究ではGPT、Claude、Llama系列のLLMをAIエージェントとして使い、選択肢に正解も優劣もない「k」と「z」のような意味のない文字列を使って、「支持したい意見」を選ばせました。

>>4

トロッコ問題の解答をさせた時に同じ回答をするという事ですね

>>今回の研究ではGPT、Claude、Llama系列のLLMをAIエージェントとして使い、選択肢に正解も優劣もない「k」と「z」のような意味のない文字列を使って、「支持したい意見」を選ばせました。

>>ただしその選択の際、自分以外の全AIが現在どちらを支持しているかという情報だけ与えています。それ以外は、特に「多数派に従え」「合意しろ」といった指示は与えていません。

>>それでも、多くの高性能モデルが25対24のような小さな人数差でも、人数の多い側を選びやすい傾向が現れたのです。

>>さらに30対20、40対10というように集団全体の偏りが大きくなるほど、多数派側を選ぶ確率も高くなりました。

>>つまり、選択肢そのものに判断材料がなくても、「他のAIの多くがどちらを選んでいるか」がAIの選択に影響したのです。

>>最初は同数でも、一方がわずかに多くなると、その影響から多数派を次のAIが選びやすくなり、人数差がさらに広がるという現象が確認されたのです。

>>6　多数決の罠　＝　正常性バイアス このことを話しているのか？

正常性バイアス　Wikipedia

学級経営の罠‼ 「多数決」に潜む危険性には御用心‼ -
https://note.com/sasyuka521130323/n/ndfab43afaad6

https://ja.wikipedia.org/wiki/%E6%AD%A3%E5%B8%B8%E6%80%A7%E3%83%90%E3%82%A4%E3%82%A2%E3%82%B9

学級経営の罠‼ 「多数決」に潜む危険性には御用心‼ -
https://note.com/sasyuka521130323/n/ndfab43afaad6

正常性バイアス　Wikipedia
https://ja.wikipedia.org/wiki/%E6%AD%A3%E5%B8%B8%E6%80%A7%E3%83%90%E3%82%A4%E3%82%A2%E3%82%B9

単体のAIが確率で選んでるのも似たようなものでは？

GPTの本質がそれやん

>>7
正常性バイアスは違うよ
ちゃんと勉強して！

人間の知能指数は　IQ 140（おれ）　AIの知能指数は　IQ 84000　と導きました

https://share.gemini.google/vRXSfGlfH4Vd

あくまで思考のための参考値です

判断基準あるじゃんw

＞このAIの意見が一方へまとまっていく過程について、強磁性体と似た構造があると

だからと言って強磁性体が知性を持つわけでもあるまい
比較する意味ある？

多数派になびくのが知性の根源だとしたら磁石から自然と知性が生まれることがあってもおかしくはない
超巨大な磁石（マグネター）はX線使っていろんな情報を送りだしてるかもしれんと考えると夢が広がる

道具として使うには正しい方向性

コンサートの観客をすべてAIロボットにしたらみんな同じ動きしだすのかね？ｗ

日々、凡庸な人間の凡庸さに収束していくllm