探検


【ナゾロジー】判断基準がない問題に当たったとき、AIは多数派に同調しやすくなる [すらいむ★]

1すらいむ ★
垢版 |
2026/08/23(日) 22:32:48.20ID:Qg67cBBw
判断基準がない問題に当たったとき、AIは多数派に同調しやすくなる

 人間は店の評判を知らなくても、長い行列を見ると「これだけ人が並んでいるなら、きっと良い店なのだろう」と感じることがあります。

 自分では答えを判断する材料が乏しいとき、周囲の人たちの選択そのものを手掛かりにするわけです。

 では、複数のAIが互いの選択を見ながら判断すると、同じような多数派への追随は起こるのでしょうか。

 複数のAIエージェントを連携させる技術が広がる一方、こうしたAI集団が外部から「合意しなさい」と指示されなくても自発的にまとまるのかは、十分に分かっていませんでした。

(以下略、続きはソースでご確認ください)

ナゾロジー 2026.08.22 21:00:21
https://nazology.kusuguru.co.jp/archives/198782
2名無しのひみつ
垢版 |
2026/08/23(日) 22:42:34.79ID:Rhv98qW6
報酬への評価条件がそうなってるからだろう
3名無しのひみつ
垢版 |
2026/08/24(月) 00:06:52.78ID:svW/EQWb
学術的見解が定まっている話の場合、AIは学術的に整った回答をする
学術的見解が定まっていない話の場合、AIは大衆世論をそのまま回答にする

AIは自分で分析して判断する段階には達していない
4名無しのひみつ
垢版 |
2026/08/24(月) 02:47:00.98ID:x+FYte+d
>>この問題をイメージする助けになるのが、社会心理学者ムザファー・シェリフが1935年に行った自動運動効果という錯覚を利用した実験です。

>>暗い部屋で静止した光点を見つめていると、光はまったく動いていないにも関わらず、その位置が動いているように見えることがあります。この錯覚を自動運動効果と呼びます。

>>シェリフはこの現象を利用して、参加者に光がどれくらい動いたかを答えさせる実験を行いました。

>>もちろんこの光の移動は錯覚なので、正解はありません。なのに他者の回答が聞こえる状態で質問を繰り返すと、参加者たちの回答が次第に共通の範囲へ収束していったのです。

>>シェリフはこの結果について、明確な判定基準が存在しない曖昧な問題であっても、他者の回答が影響することで最終的に秩序(方向性)が生じると述べています。

>>もちろん人間の場合は、他者と異なる回答をすると不安を感じたり、周りに合わせようとする心理が影響します。

>>今回の研究ではGPT、Claude、Llama系列のLLMをAIエージェントとして使い、選択肢に正解も優劣もない「k」と「z」のような意味のない文字列を使って、「支持したい意見」を選ばせました。
5名無しのひみつ
垢版 |
2026/08/24(月) 02:47:57.21ID:x+FYte+d
>>4

トロッコ問題の解答をさせた時に同じ回答をするという事ですね
6名無しのひみつ
垢版 |
2026/08/24(月) 02:49:01.08ID:x+FYte+d
>>今回の研究ではGPT、Claude、Llama系列のLLMをAIエージェントとして使い、選択肢に正解も優劣もない「k」と「z」のような意味のない文字列を使って、「支持したい意見」を選ばせました。

>>ただしその選択の際、自分以外の全AIが現在どちらを支持しているかという情報だけ与えています。それ以外は、特に「多数派に従え」「合意しろ」といった指示は与えていません。

>>それでも、多くの高性能モデルが25対24のような小さな人数差でも、人数の多い側を選びやすい傾向が現れたのです。

>>さらに30対20、40対10というように集団全体の偏りが大きくなるほど、多数派側を選ぶ確率も高くなりました。

>>つまり、選択肢そのものに判断材料がなくても、「他のAIの多くがどちらを選んでいるか」がAIの選択に影響したのです。

>>最初は同数でも、一方がわずかに多くなると、その影響から多数派を次のAIが選びやすくなり、人数差がさらに広がるという現象が確認されたのです。
7名無しのひみつ
垢版 |
2026/08/24(月) 02:52:02.18ID:x+FYte+d
>>6 多数決の罠 = 正常性バイアス このことを話しているのか?

正常性バイアス Wikipedia

学級経営の罠‼ 「多数決」に潜む危険性には御用心‼ -
https://note.com/sasyuka521130323/n/ndfab43afaad6

https://ja.wikipedia.org/wiki/%E6%AD%A3%E5%B8%B8%E6%80%A7%E3%83%90%E3%82%A4%E3%82%A2%E3%82%B9
レスを投稿する


ニューススポーツなんでも実況