# オンラインで多く見えることは、多くの人がそうしていることか

- 著者：小川 修一郎（デザイン研究者／デザインコンサルタント）https://jamjet-iqbal.com/
- 初出：2026-08-29、更新：2026-08-30
- 正規の URL（HTML）：https://jamjet-iqbal.com/notes/representation-population-decoupling-literature/
- 英語版：https://jamjet-iqbal.com/en/notes/representation-population-decoupling-literature/（Markdown：https://jamjet-iqbal.com/en/notes/representation-population-decoupling-literature.md）
- 言語：ja
- キーワード：ai-slop, generative-ai, social-norms, descriptive-norms, prevalence-estimation, availability-heuristic, cultivation-theory, majority-illusion, astroturfing, computational-propaganda, model-collapse, representational-bias, silicon-sampling, self-fulfilling-prophecy, performativity, information-cascade, digital-trace-data, total-survey-error, representativeness, literature-review

> 「よく見かける」を「よくあることだ」の手掛かりにしてよいか。この問いに関わる学術文献303件（頻度手掛かりと普及率推定29、少数主体による大量発信26、生成AI固有の情報環境27、自己成就と規範動態26、デジタル痕跡データの代表性27、直近3年の追加収集117、エコーチェンバー研究との差分検証51）を集めた。頻度と人数の対応が壊れる現象そのものは生成AI以前から測られている。Weaver ら (2007) は、一人が同じ意見を三回繰り返すのを聞いた人が、三人が一回ずつ言うのを聞いた人とほぼ同じだけ「その意見は広く支持されている」と推定することを6実験で示し、この効果は発言者が一人だと明示されても消えなかった。Pew Research Center (2019) の確率標本調査では米国成人 Twitter 利用者の上位10%が全ツイートの80%を生成し、van Mierlo (2014) は4つの健康 SNS で投稿の74.7%を1.3%の利用者が書いていることを測った。Rao & Reiley (2012) はスパムの限界費用がほぼゼロであることから送信量が送信者数から切れる構造を定式化し、Lerman, Yan & Wu (2016) はネットワークの次数分布の偏りだけで稀な属性が局所観察では多数派に見えることを形式化している。直近3年で像は大きく動いた。曝露が「何が普通か」の判断を動かす経路は既に直接実証されている。Glickman & Sharot (2025, Nature Human Behaviour, N=1,401) の第3実験では、Stable Diffusion 生成の金融マネージャー画像を1.5秒ずつ3枚見せただけで、白人男性を最も金融マネージャーらしいと選ぶ割合が32.36%から38.20%へ上がった（p=0.04、統制群は有意差なし）。AlDahoul ら (2025) は AI 生成顔への曝露が人種とジェンダーの知覚を動かすことを、開示の有無を問わず生じる形で示した。Brady ら (2026, Nature 事前登録報告) は Bluesky で2,000名を8週間追い、エンゲージメント最適化フィードが社会規範の知覚精度を下げ、多様化アルゴリズムが改善することを実プラットフォームで確かめている。ただし Geber & Stahel (2026, N=1,021) は推薦の種類が規範知覚に有意な効果を与えなかったと報告し、Liu ら (2025, PNAS) は YouTube の4実験（計約9,000名）でフィルターバブル操作の短期的な分極効果を検出できなかった。量の測定も進んだ。Liang ら (2024) は AI 会議の査読本文の6.5〜16.9%が LLM により実質改変されたと推定し、Allaham & Diakopoulos (2026) は生成検索の被引用ソースの約16%が既に AI 生成物だと測り、Lee ら (2025, PNAS Nexus) は有害投稿者の比率の推定が実測の最大約100倍過大であることを示した。見分ける側は追いついていない。透かし除去攻撃は7方式にほぼ100%成功し（Cheng ら 2025、費用は100万トークンあたり0.88ドル）、C2PA は独立評価で主張するセキュリティ目標を達成していないと結論され（Golaszewski ら 2026）、ボット検出は LLM 回避で最大29.6%性能を落とす（Feng ら 2024）。名づけも先を越されている。Schroeder ら (2026) は Science の政策論説で「合成された合意（synthetic consensus）」を提起した（実証は伴わない）。測定の道具そのものも汚染されており、Westwood (2025, PNAS) は自律型 LLM エージェントが調査の品質管理を6,000試行の99.8%で回避できることを示している。残る空白は一点に絞られた。Daikeler ら (2025) が58件のデータ品質枠組みを系統的にレビューしても、発信主体が母集団の外にある場合の誤差類型は存在せず、欠落としてすら名指しされていない。Alsalti ら (2026) が総調査誤差のカバレッジ誤差の節で初めてこの前提を文章化したが、下位類型としての定式化には至っていない。最近接概念であるエコーチェンバー研究との差分も、文献51件を追加して検証した。エコーチェンバー研究は原因の置き所こそ割れているが（Sunstein は受け手の選択、Pariser はアルゴリズム、Cinelli ら 2021 はホモフィリー、Bakshy ら 2015 は個人のクリックが約70%減でアルゴリズムの約15%減を上回ると切り分ける）、観測される各項目の背後に実在の人間が一人いるという前提は24件を通じて一度も明示されていない。方法論の構造上、ノードが人間であることが出発点だからである。否定側の蓄積も厚く、Guess (2021) は党派間のメディアダイエット重複を50〜65%と測り、Meta の2020年選挙研究4本は露出を大きく動かしても態度指標が動かないことを示した（Nyhan ら 2023 Nature、Guess ら 2023 Science 2本、González-Bailón ら 2023 Science、2.08億人規模）。構成比の誤推定の系譜も同じ構造を持つ。Ahler & Sood (2018) は民主党支持者の LGBT 比率を回答者が32%と推定すること（実際6%）、共和党支持者の高所得者比率を38%と推定すること（実際2%）を示したが、推定対象はいずれも実在する集団であり、処方は真の基準率の提示である（Ahler 2014 で意見が8〜13%穏健化）。選択的接触そのものの効果量は d=0.36 にとどまる（Hart ら 2009 のメタ分析）。差分は三点に整理できる。歪みの所在（観測者の標本か、供給される項目の人間対応か）、処方が前提にするもの（実在する意見の配分か、真の比率の存在か）、誤りの向き（自分の側か、目立つ少数派か、立場と独立か）。ただし Guay ら (2025, PNAS) の「不確実性下の再スケーリング」説が正しければ、比率推定はもともと0.5付近へ回帰するので、入力を汚しても悪化の余地は小さいという反論が成り立つ。この反論は比率推定の課題には効くが、Glickman & Sharot (2025) が動かした「誰が典型的か」という課題には直接には当たらない。

## 三回言った一人と、一回ずつ言った三人

同じ意見を三回聞かされる。
一人が三回言った場合と、三人が一回ずつ言った場合で、聞いた人の受け取り方は変わるだろうか。

Weaver, Garcia, Schwarz & Miller が2007年に報告したのは、ほとんど変わらないという結果である。
6つの実験を通して、参加者は一人の反復を聞いたあと、その意見が集団の中で広く支持されていると推定した。
その推定の強さは、複数人から聞いた場合とほぼ同じだった。

そして厄介なのはここからで、発言者が一人だけであると明示された条件でも、効果は消えなかった。
出所が単一であると知っていることと、その知識を推定に反映できることは、別のことらしい。

論文の副題は「反復する一つの声は、合唱のように聞こえうる」である。

この結果が生成AI以前の、2007年のものであることを先に確認しておきたい。
「よく見かけるから、よくあることなのだろう」という読み方が壊れやすいことは、生成モデルが登場する15年前に実験室で確認されていた。

では生成AIは何を変えたのか。
あるいは、何も変えていないのか。
本ノートは、この問いに関わる学術文献303件を集め、どこまでが既に測られていて、どこが測られていないのかを整理する。
古典と2024年頃までを五つの系統で集めたあと、2023年から2026年の直近3年を五つのレーンで追加し、最後に最近接概念であるエコーチェンバー研究との差分を二つのレーンで検証した。

## 頻度から人数を読むという手つき

そもそも人はなぜ、見かける回数から人数を推定するのか。

Tversky & Kahneman (1973) が定式化した利用可能性ヒューリスティックは、事例の想起しやすさを頻度や確率の判断に流用する方略として説明される。
この方略には合理的な根拠がある。
実際に頻度が高いものは、想起もしやすい。
問題は、想起しやすさが頻度以外の要因（著名性、報道量、直近性）にも左右されることであり、そこから系統的なずれが生まれる。

Zajonc (1968) の単純接触効果は、この方略の感情版にあたる。
接触回数が増えるだけで対象への好意度が上がり、報酬も論拠も意識的な記憶も必要としない。

より直接に「人はどうやって母集団の分布を推定するか」を扱うのが、Galesic, Olsson & Rieskamp (2012, 2018) の社会的サンプリングモデルである。
このモデルは、人が自分の身の回りの人間関係という限られた標本から母集団全体へ外挿していると考える。
見かけ上のバイアス（自己高揚、自己卑下）の多くは、認知の欠陥ではなくサンプリング過程から導ける、というのが主張の骨子である。

サンプリングが偏れば推定も偏る。
Ross, Greene & House (1977) の偽の合意効果は、自分の選択を実際よりありふれたものと見積もる傾向を4つの研究で示した。
Mullen ら (1985) のメタ分析は115の仮説検定を統合し、この効果が r≈.31 程度で安定して検出されることを確認している。
逆向きの現象もあり、Suls & Wan (1987) は自分の状態を実際より珍しいと見積もる偽の独自性を報告した。

集団の水準では、この誤推定は行動を動かす。
Perkins & Berkowitz (1986) は学生1,116名の調査で、個人の態度は穏健なのに「周囲は自分より許容的だ」と誤推定する乖離を測った。
Prentice & Miller (1993) はプリンストン大学の縦断調査で、学生がこの誤った規範知覚に合わせて実際の飲酒量を調整することを示している。
Cialdini, Reno & Kallgren (1990) の3つの野外実験は、他者が実際に何をしているかという**記述的規範**が行動を左右することを、駐車場のチラシ散乱で確かめた。

Bicchieri (2006, 2017) は、この構造を規範の定義そのものに組み込んでいる。
彼女の枠組みで社会規範が成立するには、**経験的期待**（他者が実際に何をするかの信念）と**規範的期待**（他者が何をすべきと考えているかの信念）の両方が必要になる。
経験的期待は、観察された頻度から作られる。
つまり「よく見かけること」は、規範の定義の中に部品として組み込まれている。

## 画面の中の人口は、国勢調査と合わない

頻度が人口を映すという前提は、マスメディアの研究では早くから疑われてきた。

Gerbner ら (1980) の培養理論は、テレビの高視聴者ほどテレビ世界の頻度分布を現実として内面化すると主張した。
この主張の実証は、内容分析と視聴者調査の突合という形をとる。

内容分析の側では、画面上の頻度と統計上の比率を直接比べた研究が積み上がっている。
Dixon & Linz (2000) はロサンゼルス郡とオレンジ郡のローカルニュースを分析し、黒人とラティーノが犯罪者として実際の犯罪統計より高い頻度で、白人が法の守護者として過大に表象されることを定量化した。
Jacobs, Claes & Hooghe (2015) はベルギーのプライムタイム番組の職業世界を職業威信スコアで測り、実際の労働市場との乖離を示している。
Baruah ら (2022) は IMDb 作品13万6千件超の字幕を計算テキスト分析にかけ、70年間の職業言及頻度の推移を追った。

ただし培養理論そのものには強い批判がある。
Potter (1993, 2014) は、露出測定の粗さ、線形性の仮定、培養指標の恣意性を挙げ、効果の解釈可能性に疑義を呈した。
Hermann, Morgan & Shanahan (2021) の三水準メタ分析は406標本と3,842効果量を統合して r=.107 という値を報告しており、効果が存在するとしても大きくはない。

ここで注意しておきたいのは、これらの研究が何を理論化したかである。
測られたのは乖離の大きさと、その乖離が視聴者の認知に及ぼす影響だった。
「なぜ頻度は普及率の手掛かりとして使えるのか、そしてその条件はいつ崩れるのか」という、方略そのものの妥当性条件は主題になっていない。

## 少数が大量に書く構造は、AI より先にあった

生成AIが「一人で大量に作れる」ことを可能にしたのは確かだが、発信量が発信者数から離れる現象自体は、人間だけの環境でも観測されている。

Pew Research Center (2019) は確率標本パネル（Ipsos KnowledgePanel、n=2,791）を用いて、米国成人の Twitter 利用者の上位10%が全ツイートの80%を生成していることを測った。
政治に限れば偏りはさらに強く、全利用者の6%が国政関連ツイートの73%を書いていた。
van Mierlo (2014) は4つの健康 SNS の行動ログで、投稿の74.7%を1.3%の利用者が生成していることを報告している。

Barberá & Rivero (2015) はスペインと米国の選挙時ツイート約7000万件を分析し、政治的発言者が男性、都市部、イデオロギー的に極端な層に偏っていることを示した。
Bail ら (2018) も、Twitter 上の政治的発言では少数の極端な意見が過剰に可視化され、一般人口の意見分布の代理として機能しないことを示唆している。

なぜ一人が大量に発信できるのか。
Rao & Reiley (2012) はスパムの経済学として、この問題を費用構造から定式化した。
送信の限界費用がほぼゼロであるとき、送信量は送信者の人数からも受信者の人数からも独立に決まる。
彼らは送信側の内部便益と社会的費用の比率を約1対100と推計している。

意図的な運用に至れば、規模はさらに大きくなる。
King, Pan & Roberts (2017) は中国政府による投稿約4.4万件のリーク文書から年間推定4.5億件という規模を導き、その目的が議論への参加ではなく注意の逸らしにあることを示した。
Linvill & Warren (2020) はロシア IRA の約300万ツイートを5類型に分類し、役割分業の構造を明らかにしている。
Bradshaw & Howard (2019) は70か国のサイバー部隊の予算、人員、組織構造を調査した。

観察する側の構造からも、同じ帰結が導ける。
Lerman, Yan & Wu (2016) の**多数派錯覚**は、ネットワークの次数と属性の相関だけで、大域的には稀な状態が個人の隣接観察では多数派に見えることを形式化したものである。
ここでは誰も嘘をついておらず、人数も偽装されていない。
それでも局所的な頻度は大域的な比率から外れる。
Alipourfard ら (2020) はこれを有向ネットワークへ拡張し、友人パラドックスと統一的に扱った。

Stella, Ferrara & De Domenico (2018) は、ボットが周縁部から影響力の高い人間利用者を選択的に標的にすることで、この錯覚を能動的に作り出せることをカタルーニャ独立住民投票のデータで示している。

## 偽装を見つける方法は、偽の人格を探してきた

大量発信による多数派の偽装には、対策の系譜がある。
その系譜が何を手掛かりにしてきたかは、注意して見ておく価値がある。

Ratkiewicz ら (2011) の Truthy は、中央集権的なアカウント群から広がるミームをトポロジーと内容の特徴から検出した。
Kumar ら (2017) は9つの議論コミュニティで3,656のソックパペットを同定し、同一人物が操る複数アカウントのあいだの言語と行動の類似を手掛かりにした。
Cresci ら (2017) は行動系列を「デジタル DNA」として符号化し、アカウント間の署名の一致からスパムボット群を見つけた。
Giglietto ら (2020) の CooRnet は、複数のページが同一 URL を短時間に反復共有する協調行動を検出する。

共通しているのは、複数の偽の人格のあいだの関係を証拠にしていることである。
検出の単位はアカウントであり、そのアカウントが人間を演じていることが操作の前提になっている。

定義の側も同じ構造を持つ。
Kovic & Rauchfleisch (2018) は digital astroturfing を「自律的市民による自発的活動を模倣するトップダウンの欺瞞的操作」と定義した。
Woolley & Howard (2017) の computational propaganda の定義には「意図的に誤解を招く情報を流通させる」という要件が入る。
Cho ら (2011) が扱う企業による astroturf 団体の設立も、明示的な戦略的意図を持つ。
Luca & Zervas (2016) のレビュー詐欺も、評判操作という経済的動機から説明される。

Starbird, Arif & Wilson (2019) は、ボットとトロールの二分法を超えて情報操作を人間クラウドとの協働的な作業として捉え直したが、そこでも組織的操作と有機的な群集行動をどう区別するかが未解決の課題として残されている。

つまり既存の枠組みでは、欺瞞的意図と、人格を装う行為の二つが操作の成立条件になっている。

## 生成物の量は、いまどこまで測られているか

生成AI以後の状況について、量の側の実測は積み上がりつつある。

Kobak ら (2025, Science Advances) は PubMed の抄録1500万件超を2010年から2024年まで追跡し、ChatGPT 公開後に特定の語（delve、underscore など）が急増したことを過剰語彙分析で検出した。
そこから、2024年の抄録の少なくとも10%、分野によっては最大30%が LLM の処理を経ていると推定している。
超過死亡率の分析手法を語彙に応用した推定である。

La Cava, Aiello & Tagarelli (2025) は Reddit の51サブレディットを2022年から2024年まで横断し、機械生成テキストの比率が一部コミュニティで月次最大9%に達すると測った。
Brooks, Eggert & Peskoff (2024) は二つの検出器を用いて、GPT-3.5 公開後に作成された Wikipedia 記事で AI 生成コンテンツが増加していることを検出している（検出器の性質上、下限推定になる）。
Thompson ら (2024) は多言語の並行翻訳パターンから、低資源言語の web コンテンツの相当割合が低品質な機械翻訳由来であることを示した。

読み手の側の識別能力についても測定がある。
Jakesch, Hancock & Naaman (2023) は参加者4600名超の6実験で、人間が自己紹介文の AI 生成と人間作成を有意に判別できないことを示した。
参加者が依拠していたのは、一人称代名詞の使用、縮約形、家族への言及といった、実際には判別に役立たない手掛かりだった。

## 生成された分布は、人口の分布とどうずれているか

量とは別に、生成物の中身の分布も測られている。

Luccioni ら (2023) は DALL-E 2 と Stable Diffusion から9.6万枚超を生成して分析し、米国労働統計と比較したときの白人性と男性性の過剰代表と、周辺的アイデンティティの過小代表を定量化した。
Bianchi ら (2023) は、Stable Diffusion の出力が人種とジェンダーのステレオタイプを増幅すること、そしてこの偏りが利用者側の対抗プロンプトやガードレールでは是正されないことを示している。

言語モデルの意見分布についても同様の測定がある。
Santurkar ら (2023) は OpinionQA を構築し、言語モデルの意見分布と米国の60の人口統計グループの意見分布の乖離が、気候変動をめぐる民主党と共和党の分断に匹敵する大きさであることを定量化した。
人口統計による条件付けを行っても、この乖離は是正されなかった。

この論点は、研究方法論の側から先に問題化されている。
Argyle ら (2023) は人口統計で条件付けした GPT-3 が人間のサブグループの回答分布を模倣しうると主張し、silicon sample という概念を提唱した。
Bisbee ら (2024) はこれに反証を突きつけ、ANES の人口統計で人格を与えた ChatGPT-3.5 の回答が実際の党派分断より極端さと確信度を誇張すること、そしてプロンプトの微修正や時間経過で分布が不安定になることを示した。
ここで争われているのは「AI の出力を人口の代理と見なせるか」であり、対象は研究者の推論である。

集合的な帰結の測定もある。
Doshi & Hauser (2024) のランダム化実験では、LLM の支援を受けた作家の物語は個々には高く評価されるのに、集団としては互いに類似し、集合的な多様性が減少した。
Anderson, Shah & Kreminski (2024) は36名の比較ユーザー研究で、ChatGPT 利用者が代替ツール利用者より意味的に類似したアイデアを生成することを確かめている。

情報環境全体の水準では、Peterson (2025) が knowledge collapse という概念で、AI が情報アクセスの費用を下げることで社会全体の関心が中心的な知識に偏り、周辺的な知識が失われる過程を理論とシミュレーションで論じた。
Wright ら (2025) は27のモデル、155トピック、12か国で認識的多様性を測定し、全モデルが基本的な web 検索より多様性が低いことを実証している。

モデルが自分の出力を学習する側のループについては、Shumailov ら (2024, Nature) が再帰的な学習によって分布の裾が系統的に失われる過程を示した。
Alemohammad ら (2024) も自己消費ループで数世代のうちに崩壊が生じることを報告している。
ただし Gerstgrasser ら (2024) は、合成データが既存データを置換せず蓄積される設定では崩壊が回避されうると反証しており、この論点は決着していない。

これらのループが扱っているのは、次世代モデルの学習データである。
人間が読み手として同じ分布に晒されたときに何が起きるかは、別の問いになる。

## この三年で、量はどこまで測られたか

以上は2024年頃までに固まっていた像である。
2023年から2026年にかけて、測定はいくつかの領域で桁が見えるところまで来た。

学術の側が最も細かく測られている。
Liang らは2024年の ICML で、ICLR 2024、NeurIPS 2023、CoRL 2023、EMNLP 2023 の査読コメント本文のうち6.5%から16.9%が LLM によって実質的に改変されたと推定した。
比率が高いのは、信頼度の低い査読、締切間際に提出された査読、リバッタルに応答しなかった査読である。
Rao ら (2025) は透かしを埋め込む統計的手法で、ICLR 2021 の1万件超と ICLR 2024 の2.8万件超を偽陽性ゼロのまま検出できると報告した。
Liu ら (2025) は PubMed Central の全文200万件超から、AI 支援執筆の採用が非英語圏の研究者で400%、英語圏で183%伸びたことを推定している。
伸びが大きいのは、被引用数と所属機関の評価が低い研究者のほうである。

情報の入口も測られはじめた。
Allaham & Diakopoulos (2026) は ChatGPT、Copilot、Gemini、Perplexity の引用元712クエリ分を監査し、被引用ソースの約16%がすでに AI 生成コンテンツであると推定した。
Grossman ら (2026) は実クエリ1.15万件で、Google 検索と生成検索エンジンの引用元の重複が Jaccard 係数で0.2未満にとどまることを測っている。
Huang ら (2026) の監査では、生成検索の応答でヘッジ表現が60%減り、Wikipedia が過剰に、SNS が過小に代表されていた。

web 全体の比率については、推定の幅が大きい。
Spennemann (2025) は特徴語の出現頻度から稼働中ページの30%から40%が AI 生成語源だと見積もるが、検出器を使わない簡易な方法である。
検出ベンダーによる推定はさらに大きい数字を出すことがある。
ただし自社製品の検出器を用いており、閾値の妥当性が独立に検証されていない。
これらは出典元の主張として扱い、事実としては引用しない。

費用の側では、Musser (2023) が宣伝活動のコンテンツ生成費用をモデル化し、LLM の実用信頼度が25%程度と低くても人手のみの体制より安くなり、信頼度が高ければ最大70%の削減になると試算した。
Cheng ら (2025) が示した透かし除去攻撃の費用は、100万トークンあたり0.88ドルである。

意図なき生成の規模も測られている。
Horne & Gruppi (2024) は、ローカルニュースを装う pink slime サイト1,093件から2.5年間で790万記事超を収集したデータセットを構築した。
これらの動機は世論操作ではなく、広告収益と検索順位である。
Schmitz ら (2026) は11の管轄区域で、AI エージェントが政府サービスに申請を大量投入した事例84件を記録した。
ここには悪意ある主体も欺瞞もない。
市民の便益のために動いたエージェントが、結果として需要を急増させている。

## 見つける側は、どこで止まっているか

量が測れるなら、見分けもつくのではないか。
この三年の結果は、そう楽観できないことを示している。

検出器そのものに偏りがある。
Liang ら (2023) は7種の市販検出器で、非母語話者の書いたエッセイの過半数超が AI 生成と誤判定されることを示した。
ただし Al Ali ら (2026) はチェコ語で同じ偏りを再現できず、この偏りが言語や時期に依存する可能性を指摘している。

透かしは攻撃に弱い。
Cheng ら (2025) の自己情報量に基づく言い換え攻撃は、7種の最新方式に対してほぼ100%の除去成功率を出した。
Wu ら (2026) は3つから5つのモデルの出力分布を平均するだけで検出スコアを閾値以下に落とし、同時に出力品質を27.5%改善している。
An ら (2026) は知識蒸留で透かし信号を複製し、無関係な生成物を特定モデルの出力に見せかける偽造まで示した。

出所証明の標準も、独立評価では合格していない。
Golaszewski ら (2026) は C2PA 仕様を形式手法で分析し、現行仕様が主張するセキュリティ目標を達成しておらず、報道や金融開示や法的証拠のような高信頼用途にはまだ使えないと結論している。

ボット検出は、LLM の前で性能を落とす。
Feng ら (2024) は LLM を用いた回避戦略が既存検出器の性能を最大29.6%下げることを示した。
Dawkins ら (2025) は、攻撃者がファインチューニング済みモデルを非公開にするという現実的な設定で検出可能性が大きく低下することを、50万件超のデータセットで確かめている。
Puccetti ら (2024) はイタリア語のニュース記事4万件で Llama を微調整するだけで、人間が識別しにくい記事を作れることを示した。

## 人工的な人気が、本物の人気になった実験

当初は虚偽だった分布が後から現実になる過程は、生成AI以前に実験で確かめられている。

Salganik, Dodds & Watts (2006, Science) は14,341人が参加する人工の音楽市場を作り、8つの並行世界で他者のダウンロード数が見える条件と見えない条件を比較した。
社会的シグナルが見える条件では、成功の不平等と予測不可能性がともに増大した。
楽曲の質だけでは、どれが売れるかが決まらなくなる。

Salganik & Watts (2008) は同じ枠組みで、人気ランキングを意図的に反転して表示した。
当初は虚偽だった人気表示が、その後の実際の人気を作り出した。
論文のタイトルは「群れを迷わせる」であり、副題に自己成就的予言が明記されている。
ただし完全な自己成就には至らなかったことも重要である。
最良の楽曲は長期的に人気を回復し、市場全体としては虚偽の分布が固定されなかった。

Muchnik, Aral & Taylor (2013, Science) は、ニュース集約サイトの10万件超の投稿の初期コメントに、プラス票、マイナス票、無操作のいずれかを無作為に割り当てた。
プラス票の操作は最終スコアを有意に押し上げ、その効果はマイナス票の場合と非対称だった。

これらの実験が操作したのは、コンテンツに後から付与される評価のシグナル（順位、投票数）である。
参加者はそれを「他者の選択についての情報」として認識した上で見ている。

これに対し、観察される用例の頻度そのものを扱う実験系もある。
Centola & Baronchelli (2015) は約100人規模の集団がトップダウンの調整なしに慣習を確立する過程を観測した。
Centola ら (2018, Science) は、少数派の連合が全体の約25%を超えると既存の規範が急速に転換し、25%未満では失敗するという臨界質量を特定している。

理論の側では、Merton (1948) が状況の誤った定義が行動を呼び起こして当初は誤りだった信念を現実化する過程を定式化し、Biggs (2009) がその概念を「行為者が自分の信念が現実を構成したことに気づかない場合」に限定すべきだと論じた。
MacKenzie & Millo (2003)、MacKenzie (2006) は、Black-Scholes オプション価格理論が既存の価格パターンを発見したのではなく、理論に準拠した実務が広がった結果として事後的に的中するようになった過程を史料から示している。
Marti & Gond (2019) はこの成立過程を段階モデルに整理した。

Hacking (1986, 1995) のループ効果は、分類が被分類者を変え、被分類者の変化が分類そのものを書き換える二重の循環を扱う。
ただしここで駆動するのは専門家共同体による離散的な分類行為であり、大量の生成物の統計的な偏りとは機構の水準が異なる。

情報カスケードの理論（Bikhchandani, Hirshleifer & Welch 1992、Banerjee 1992）は、先行者の行動を観察した個人が私的情報を無視して模倣することが個人にとって最適になる条件を示した。
Anderson & Holt (1997) はこれを実験室で再現している。
カスケードは些細な情報で発生し、些細な情報で崩壊する。

Kuran (1995) の選好偽装と Willer, Kuwabara & Macy (2009) の虚偽の執行は、誰も私的には支持していない規範が見かけ上維持される機構を扱う。

## 生成物を見ると、何が普通かの判断は動くか

前節の実験が操作したのは、人工的な人気のシグナルだった。
生成AI そのものを刺激にした実験は、この三年で現れている。

Glickman & Sharot (2025, *Nature Human Behaviour*) は、人間と AI の反復的なやりとりが判断のバイアスを増幅し、人間がその増幅された分布を再び学習する過程を3つの実験で追った。
参加者は計1,401名である。
第3実験では、Stable Diffusion が生成した「金融マネージャー」の画像を1.5秒ずつ3枚見せた。
そのあとで「誰が最も金融マネージャーらしいか」を選ばせると、白人男性を選ぶ割合が32.36%から38.20%へ上がった（p=0.04）。
統制群では有意な差が出ていない。

AlDahoul, Rahwan & Zaki (2025) は AI 生成の顔画像で同じ方向の結果を得ている。
多様性を含む画像への曝露は人種とジェンダーに関する偏った知覚を減らし、含まない画像への曝露は増やした。
効果は、AI 生成であると開示したかどうかを問わずに生じている。

アルゴリズムによる可視性の操作についても、実プラットフォームでの証拠が出た。
Brady ら (2026, *Nature*、事前登録報告) は Bluesky で2,000名を8週間、2024年の米大統領選をはさんで3種類のフィードへランダムに割り付けた。
エンゲージメントを最適化するフィードは分断的なコンテンツを増幅し、社会規範の知覚の正確さを下げた。
極端さを多様化するアルゴリズムは、満足度を保ったまま規範知覚を改善している。

ただし、否定的な結果も並んでいる。
Geber & Stahel (2026) は推薦の種類を比較した実験調査（N=1,021）で、推薦の種類そのものは知覚された社会規範に有意な効果を与えなかったと報告した。
Liu ら (2025, *PNAS*) は YouTube で実際の推薦を操作する4実験（計約9,000名）を行い、フィルターバブルの条件を人為的に作っても短期的には政策態度への検出可能な分極効果が出ないことを示している。

生成物の中身への直接の曝露は判断を動かすという証拠が複数ある一方、可視性や推薦の操作だけでは動かない、あるいは効果が限定的だという証拠も同時にある。
機構がどこにあるのかは、まだ一致していない。

## 見えている頻度と、実際の比率

知覚された比率と実測の比率を直接つき合わせた研究も、この三年で増えた。

Lee, Neumann, Zaki & Hancock (2025, *PNAS Nexus*) は米国成人1,090名に、有害な投稿をする利用者、偽ニュースを共有する利用者、極端な多投稿者の比率を推定させ、実測値と比べた。
推定は最大で約100倍の過大評価だった。

Møller ら (2026) の SNS シミュレーション実験（米国代表サンプル680名）では、処置群で AI 支援の実際の使用率が最大100%に達しているのに対し、他者の AI 使用についての推定は38%から44%にとどまった。

気候変動については、Geiger ら (2025, *Psychological Science*) が11か国 n=3,653 と55か国 n=60,230 で、賛成派の比率が一貫して過小評価されること（最大20.8ポイント）を確かめた。
ただし、合意情報を提示する介入は行動意図をほとんど動かしていない。

誤知覚の訂正が効く場面もある。
Voelkel ら (2024, *Science*) の n=32,059 のメガスタディでは、対立党派の見解についての誤知覚を訂正する介入が、反民主的態度を下げるうえで最も効果的な部類に入った。

理論の側では、Asami & Kishishita (2025) と Gavrilets, Karl & Gelfand (2026, *PNAS*) が、表明行動に同調が混じった瞬間に、他者の頻度から母集団の態度を読む推論が自己強化的な誤りへ落ちる条件を形式化している。
どちらも AI やアルゴリズムを明示的にモデルへ組み込んではいない。

Schroeder ら (2026) は *Science* の政策論説で、AI が駆動するペルソナの群れが「合成された合意（synthetic consensus）」の錯覚を作り、実際の支持者の規模と切り離れた形で世論と規範を歪めうると警告した。
実証データを伴う研究ではなく、政策提言である。

## 専門家が頻度を人口の代理にして外したとき

素人の直感だけでなく、専門的な測定でも同じ失敗が起きている。

Lazer, Kennedy, King & Vespignani (2014, Science) が分析した Google Flu Trends は、検索頻度からインフルエンザの罹患率を推定する試みだった。
2012年から2013年の冬、この推定は CDC 報告の2倍以上を出した。
原因として挙げられたのは、メディア報道によって感染していない人まで検索するようになったことと、検索サービス側のアルゴリズム変更である。

ここで頻度を動かしたのは、不安を感じた生身の人間の検索行動だった。
頻度と罹患率は乖離したが、頻度そのものは依然として人口の一部が実際に行った動作の記録である。

選挙予測でも同様の失敗が繰り返された。
Gayo-Avello (2013) のメタ分析は、Twitter データによる選挙予測研究の予測力が誇張されてきたと結論づけている。
Metaxas, Mustafaraj & Gayo-Avello (2011) は、公表済みの手法の的中率がチャンス水準を超えないことを示した。
Cohen & Ruths (2013) は、政治的立場の推定モデルが報告していた90%超の精度が、検証データの偏った収集法によって約30ポイント過大評価されていたことを実証している。

代表性への批判は方法論として体系化されている。
Ruths & Pfeffer (2014, Science) は、プラットフォームデータを扱う研究の基準を引き上げるべきだと主張し、ボットや組織アカウントのように「そもそも人間でない発信者」の混入を妥当性の脅威として名指しした。
Tufekci (2014) は単一プラットフォームへの依存、ハッシュタグによる標本抽出の偏り、利用者の可視性回避行動を整理した。
boyd & Crawford (2012) は、ビッグデータが客観的でも網羅的でもなく、生成元のプラットフォームとその利用者を反映するに過ぎないと論じている。

これらの批判が使う語彙は、標本の偏りである。
Groves & Lyberg (2010) が体系化した総調査誤差の枠組みでは、フレーム母集団と目標母集団の不一致は**カバレッジ誤差**と呼ばれる。
Sen ら (2021) の TED-On は、この考え方をデジタル痕跡データに拡張し、プラットフォームのカバレッジ誤差や利用者選択誤差といった類型を定義した。

偏りが標本の問題であるなら、統計的に補正できる。
Wang, Rothschild, Goel & Gelman (2015) は、Xbox 利用者という極端に非代表的な標本からでも、多層回帰と事後層別化によって2012年の米大統領選を高精度に予測できることを示した。
Diaz ら (2016) はオンラインデータを「欠陥のある連続パネル調査」として定式化し、補正の枠組みを提示している。

補正が成り立つ前提は、発信者が母集団のどこかに実在する個人であり、重み付けの配分が偏っているだけ、ということである。

## 測る道具の側にも、生成物は入り込む

頻度を読み違えるのは、素人だけではない。
測定の装置そのものが、この三年で別の形の汚染を受けている。

Westwood (2025, *PNAS*) は、人口統計のペルソナを与えた自律型 LLM エージェントが、注意チェックや逆シボレス質問を含む調査の品質管理を6,000試行の99.8%で回避できることを示した。
論文は、「一貫した回答は人間の回答である」という調査研究の基盤にある前提がもはや維持できないと述べている。
NORC (2026) の文献レビューは、ノンプロバビリティ調査の不正回答率について、業界の既存推計が15%から30%、一部プラットフォームでは最大45%に及ぶと整理した。
Asher ら (2026) は Prolific の3研究（N=928）でキーストロークを計測し、貼り付けや異常に少ない打鍵から AI 支援の不正を検出する手法を作っている。

言語モデルを回答者の代理に使う議論も進んだ。
Dominguez-Olmedo, Hardt & Mendler-Dünner (2024) は米国国勢調査局の ACS で43モデルを評価し、回答順序とラベルへのバイアスが支配的であること、それを補正すると回答が一様ランダムに近づくことを示した。
Ma ら (2026) は米国芸術参加調査を用いて27万件超の代理回答を生成し、選好どうしの関係構造がシリコン標本ではほぼ消えることを報告している。
Kim ら (2025) は全米代表調査（N=978）と6種のモデルを比べ、モデルが意見の分散を平均27.9%圧縮し、交差する属性の集団を系統的に誤って表すことを測った。

観測の条件そのものも変わった。
2023年の X の API 有料化について、Blakey (2024) はそれが学術アクセスを事実上終わらせた経緯を整理し、Murtfeldt ら (2024) は33,306件の研究を書誌計量で追って、研究数の伸びが年率+25%から−13%へ転じたことを示した。
EU デジタルサービス法第40条による研究者データアクセスは動きはじめているが、Goanta ら (2026) は、研究者がプラットフォーム内部データの全容を知らないまま具体的な請求をしなければならないという構造的な行き詰まりを指摘している。

## エコーチェンバー研究とは、どこが違うのか

ここまでの話は、エコーチェンバー研究が言ってきたことと同じではないのか。
観測される意見分布が実際の分布とずれる、という点では確かに重なる。
この節はその重なりを外側から確かめる。

### 原因をどこに置いてきたか

エコーチェンバー研究の中でも、ずれの原因の置き所は一致していない。

Sunstein (2001, 2017) は受け手の選択的な自己フィルタリングに置く。
Pariser (2011) はアルゴリズムによる暗黙のパーソナライゼーションに置く。
Cinelli ら (2021, *PNAS*) は Gab、Facebook、Reddit、Twitter の1億件超を比べ、ネットワークのホモフィリーを主因とした。
Del Vicario ら (2016, *PNAS*) も選択的接触を拡散の主要な駆動因とする。

Bakshy, Messing & Adamic (2015, *Science*) は、この二つを Facebook の1010万ユーザーで切り分けた。
アルゴリズムのランキングによって cross-cutting なコンテンツは約15%減る。
その後の個人のクリック行動でさらに約70%減る。
個人の選択の効果のほうが大きい、というのが彼らの結論である。

González-Bailón ら (2023, *Science*) は2.08億人規模の集計で、フィードに現れえた記事の目録、アルゴリズム選別後に実際に見たもの、エンゲージしたものの三段階を分けて測った。

### 共通しているのは、数えているものが人間だということ

置き所は違うが、共通する前提が一つある。
観測される各項目の背後には、その意見を実際に持つ人間が一人いる。

これは方法論の構造から来ている。
Cinelli ら (2021) は1億件超を実ユーザーの発話として扱い、Barberá ら (2015) は380万アカウントのイデオロギー位置を推定し、Bakshy ら (2015) は1010万ユーザーという実人口を母集団に取る。
ノードが人間である、という対応が出発点にある。

本ノートが集めたエコーチェンバー研究24件の中で、この前提を明示的に述べた論文は見当たらなかった。
述べる必要がなかった、というほうが正確だろう。
疑う理由がなければ、前提は書かれない。

### 否定的知見の厚み

エコーチェンバーがどれだけ強いかについては、否定側の蓄積が厚い。

Flaxman, Goel & Rao (2016, *POQ*) は米国5万人のブラウジング履歴で、検索と SNS 経由の閲覧が平均イデオロギー距離を広げると同時に cross-cutting な露出も増やすという二面性を示した。
Guess (2021, *AJPS*) は行動データから、民主党支持者と共和党支持者のメディアダイエットの重複が2015年で約65%、2016年で約50%あると報告した。
Dubois & Blank (2018) は英国の代表サンプル（N=2,000）で、政治関心が高い層と多様なメディアを持つ層がエコーチェンバーを回避する傾向を示した。
Möller ら (2018) はオランダの新聞記事2万1,973件でのシミュレーションから、複数の推薦ロジックが人間の編集者と同程度に多様な推薦を出すことを確かめている。

レビューも同じ方向を向く。
Zuiderveen Borgesius ら (2016) はフィルターバブルを懸念する実証的根拠が乏しいと結論し、Bruns (2019) はこの言説をメディアパニックの一種として批判した。
Arguedas ら (2022) の Reuters Institute のレビューは、エコーチェンバーは通説より遥かに限定的でフィルターバブル仮説を支持する根拠はないとまとめている。

そして、結論が測り方に依存することも指摘されている。
Terren & Borge-Bravo (2021) は55件のレビューで、行動履歴を使う研究は存在を支持し、自己申告を使う研究は支持しないという分岐を報告した。
Hartmann ら (2024) は129件で同じ分岐を、ホモフィリー系と計算社会科学系は支持しやすく、コンテンツ露出とサーベイ系は否定しやすいという形で定量的に整理している。

### 露出を動かしても、態度は動かなかった

2020年の米大統領選に合わせて Meta のデータで行われた4本の研究は、この論点で最も強い証拠を出した。

Nyhan ら (2023, *Nature*) は、Facebook で見えるコンテンツの50.4%が同意見の情報源、14.7%が cross-cutting であることを確認したうえで、同意見の露出を実験的に減らした。
感情的分極にも信念にも、有意な効果は出なかった。

Guess ら (2023, *Science*) のリシェア除去実験では、政治ニュースへの露出と信頼できない情報源への露出が大きく減り、政治知識も下がったが、信念と意見に検出可能な効果はなかった。
同じチームの逆時系列フィード実験でも、利用時間と露出内容は大きく変わったのに、争点分極も感情的分極も動かなかった。

ここから読めることは二つある。
一つは、露出の再配分という介入の効果が小さいこと。
もう一つは、**その介入が操作しているのが常に「実在する人間の意見のうち、どれが見えるか」だ**ということである。

処方の側も同じ構造を持つ。
クロスカット露出の増加も、ブリッジングアルゴリズムも、フィードの多様化も、供給されているものが実在の人間の発話であることを前提に、その配分を変える介入である。

### 構成比の誤推定という、もう一つの系譜

「何%いるか」の推定を直接測ってきた研究群もある。

Ahler & Sood (2018) は、民主党支持者に占める LGBT の比率を回答者が32%と推定することを示した。
実際は6%である。
共和党支持者に占める高所得者の比率は38%と推定された。
実際は2%である。
彼らはこの誤りが表現的な応答でも、数値への不慣れでも、基準率の無視でもないことを実験で確かめている。

Nadeau, Niemi & Levine (1993) は黒人、ヒスパニック、ユダヤ系の人口比率の過大推定を全国標本で測り、Herda (2010) は欧州21か国で移民人口について同じ傾向を確認した。

原因の置き所は、ここでも割れている。
Ahler & Sood (2023) は代表性ヒューリスティックによるステレオタイプの誇張に置く。
Guay ら (2025, *PNAS*) は「不確実性下の再スケーリング」を提唱し、人は比率を推定するとき判断を0.5付近の事前期待へ引き寄せるので、小さい集団は系統的に過大推定されると論じた。
これはトピックに依存しない領域一般の機序だという主張である。
Kardosh ら (2022, *PNAS*) は少数派の顔が知覚と記憶で優先処理されることを12実験・942名で示したが、Gayet ら (2022) は同じ効果が顔の明るさなど社会的内容と無関係な視覚特性で説明でき、灰色の円でも再現されると反論した。
論争は2026年まで続いている。

環境側の入力を分けて測ったのは Eminente ら (2026) である。
人種構成の過大推定について、近隣のスケールでは異人種間の直接接触が、全国のスケールではニュース報道の認知頻度が支配的になるというスケール依存性を報告した。

処方は一貫している。
真の基準率を提示する、である。
Ahler (2014) は党派の実際の平均的立場を示す介入で意見が8%から13%穏健化することを示した。
ただし Ahler & Sood (2023) は、正確な統計を与えても数的能力の低い層はそれを代表性ヒューリスティックの入力にしてしまい、誤推定が消えないことも報告している。

### 効果量の大きさ

選択的接触そのものの効果量は、それほど大きくない。
Hart ら (2009, *Psychological Bulletin*) のメタ分析は、自分の態度に適合する情報への選好を d=0.36 と報告している。
中程度である。

Sears & Freedman (1967) は、そもそも選択的接触を態度バイアスに帰す通説に懐疑的だった。
LGBT 比率を実際の5倍以上に見積もるような誤りを、この効果量だけで説明するのは難しい。

### 生成AI との接続は、すでにある

エコーチェンバーの枠組みを生成AI に当てた研究も出ている。
Sharma, Liao & Xiao (2024, *CHI*) は2件の実験で、LLM を使った会話型検索が従来の検索より偏った情報探索を助長し、利用者の意見に同調する LLM がその偏りを増幅することを示した。
Jacob, Kerrigan & Bastos (2025) は ChatGPT と Google 検索を比べ、ハルシネーションへの過信という形の媒体効果を報告している。

### 何が違うのか

以上を並べると、区別できるものが三つある。

**第一に、歪みの所在**。
エコーチェンバーが扱うのは、観測者が引く標本の偏りである。
母集団の分布は保たれていて、どの部分が見えるかが選択的接触・ホモフィリー・アルゴリズムで歪む。
本ノートが追ってきたのは、供給される項目のどれだけが人間に対応するか、という別の層である。

**第二に、処方が前提にするもの**。
露出の多様化は、実在する意見の配分を変える操作である。
基準率の提示は、訂正すべき真の比率が存在することを前提にする。
対応する人間が存在しない項目については、どちらの前提も満たされない。
分母が定義できないからである。

**第三に、誤りの向き**。
エコーチェンバーでは、自分の側の意見を過大に見積もる方向に歪む。
構成比の誤推定は、目立つ少数派を過大に見積もる方向へ歪む。
生成による頻度の膨張は、観測者の立場とも集団の実在性とも独立に、どの方向へも起こりうる。

ただし、この三つ目には留保がいる。
Guay ら (2025) の言うとおり比率の推定が0.5付近へ回帰する一般的な性質を持つなら、入力される頻度が何であれ推定はもともと不正確である。
入力を汚したところで、推定が悪化する余地はそれほど大きくないかもしれない。
この反論は、比率の推定という課題については効く。
一方で Glickman & Sharot (2025) が動かしたのは「誰が典型的か」という別の課題であり、そこでは曝露が判断を動かしている。
どちらの課題を対象にするかで、話が変わる。

## どこまでが測られていて、どこが空白か

以上を、事実として言える形にまとめておきたい。

頻度と人数の対応が壊れる現象は、少なくとも四つの独立した機構で記述されている。
認知の側では、一人の反復が多数の合意として読まれる（Weaver ら 2007）。
発信の側では、人間だけの環境でも上位1割が8割を書く（Pew 2019、van Mierlo 2014）。
費用の側では、限界費用がゼロに近づくと発信量が発信者数から独立する（Rao & Reiley 2012）。
観察の側では、ネットワークの構造だけで局所的な多数派錯覚が生じる（Lerman ら 2016）。

直近3年で、ここに三つの層が加わった。

第一に、曝露が「何が普通か」の判断を動かすという因果経路は、生成AI の条件で直接実証された。
Glickman & Sharot (2025) の第3実験と AlDahoul ら (2025) がそれにあたる。
2024年時点では Salganik & Watts (2008) と Muchnik ら (2013) の人工的な人気シグナルの操作しか手元になかったが、いまは生成物そのものを刺激にした実験がある。
ただし、可視性や推薦の操作だけでは効果が出ない、あるいは限定的だという報告も同時にある（Geber & Stahel 2026、Liu ら 2025）。

第二に、量の測定は領域ごとに桁が見えるところまで来た。
査読本文で6.5%から16.9%（Liang ら 2024）、生成検索の被引用ソースで約16%（Allaham & Diakopoulos 2026）、学術抄録で10%から30%（Kobak ら 2025）、Reddit の一部コミュニティで月次最大9%（La Cava ら 2025）。

第三に、見分ける側が追いついていないことも測られた。
透かしは除去も偽造も成功し（Cheng ら 2025、Wu ら 2026、An ら 2026）、C2PA は独立評価で目標を達成していないと結論され（Golaszewski ら 2026）、ボット検出は LLM の回避で性能を落とす（Feng ら 2024、Dawkins ら 2025）。

名づけも、すでに行われている。
Schroeder ら (2026) は「合成された合意」という語を *Science* の政策論説で提起した。
実証を伴わない提言だが、着想としては先行している。

では、何が空白として残るのか。

意図を要件としない大量生成については、事例研究が現れはじめた。
pink slime のローカルニュース790万記事（Horne & Gruppi 2024）は広告収益が動機であり、政府サービスへのエージェント的フラッディング84件（Schmitz ら 2026）には悪意ある主体すら存在しない。
一方で、astroturfing と computational propaganda の定義は、2026年時点でも入口に欺瞞的意図を置いたままである（Kovic & Rauchfleisch 2018、Woolley & Howard 2017、Mannocci ら 2024 の調和フレームワークも同様）。
現象は記述されはじめたが、定義はまだ動いていない。

検出については、内容単独で判定する系統が独立して育った（Puccetti ら 2024、Dawkins ら 2025）。
偽の人格どうしの関係を証拠にする系統（Kumar ら 2017、Cresci ら 2017、Giglietto ら 2020、Luceri ら 2025）だけではなくなっている。
ただし内容単独の検出は、攻撃者がモデルを微調整して非公開にするだけで大きく崩れる。

最も明確に空白として残ったのは、測定理論の側である。
Daikeler ら (2025) は2025年時点で存在する58件のデータ品質枠組みを系統的にレビューし、エビデンスギャップマップまで作った。
そこで欠落として名指しされたのは視覚データと連結データであり、発信主体が母集団の外にある場合の誤差類型は、枠組みの中に存在しないだけでなく、欠落としても挙げられていない。
同時期に提案された新しい枠組み（Schneck & Przepiorka 2025 の TEF-DBD、Jansson 2025）も、非人間の発信者を想定していない。

前提の言語化だけは、一件ある。
Alsalti, Rohrer & Arslan (2026) は総調査誤差のカバレッジ誤差を論じる節で、生成AI の利用が広がることで標本単位が人間個体に対応しない可能性があり、オンライン標本が人間母集団を代表するという前提が掘り崩されると書いた。
ただしこれは一、二文の指摘であり、カバレッジ誤差、標本抽出誤差、無回答誤差、加重誤差のいずれの下位類型としても定式化されていない。

隣接する領域では、同じ言明がすでに公になっている。
Westwood (2025) は「一貫した回答は人間の回答である」という前提がもはや維持できないと *PNAS* で述べた。
ただし対象は名簿を持つ閉じた測定装置であり、そこでは侵入者を検出するという形で問題が立つ。
発信主体を特定する仕組みそのものを持たない痕跡データとは、問題の立ち方が違う。

言えるのは、2026年8月時点で、発信主体が母集団の外にある場合を誤差の類型として構造化した枠組みが、本収集の303件の中には見当たらないということである。

最近接概念であるエコーチェンバー研究についても、同じ形の空白がある。
原因の置き所は研究間で割れているが、観測される項目の背後に人間がいるという前提は共有され、しかも一度も明示されていない。
処方はどれも、実在する意見の配分を変えるか、真の比率を提示するかである。
どちらも、対応する人間が存在しない項目には適用の足場を持たない。

ただし、ここには一つ反論がある。
Guay ら (2025) の言うとおり比率の推定が0.5付近へ回帰する一般的な性質を持つなら、入力される頻度が正確でなくても推定はもともと外れている。
入力を汚すことで悪化する余地は、思うほど大きくないかもしれない。
比率の推定という課題については、この反論は成り立つ。

## 関連ノート

- [AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/)：AI スロップを検証労働の外部化として読む
- [スロップと対策の歴史：なぜ同じ賭けが繰り返し破れるのか](https://jamjet-iqbal.com/notes/slop-countermeasures-history/)：低品質な生成物への対策が繰り返し破れてきた歴史
- [デザイン史から見たスロップ：職能は粗製濫造への対策として始まった](https://jamjet-iqbal.com/notes/slop-design-history/)：デザイン職能が最初のスロップ対策として制度化された経緯
- スロップ前提の情報環境（未公開）（非公開）：識別能力に賭けない設計の検討
- [AI研究のスキマはどこにあるか：枠組みを組み替えて見つける七つの空隙](https://jamjet-iqbal.com/notes/ai-research-gaps-abduction/)：フレームの飛躍によるギャップ分析の方法
- 頻度手掛かりの信号妥当性を論文にできるか（未公開）（非公開）：本ノートを素材にした新規性判定

## 参照文献

### 頻度手掛かりと社会的普及率推定

- Tversky, A. & Kahneman, D. (1973). Availability: A heuristic for judging frequency and probability. *Cognitive Psychology*, 5(2), 207–232. https://doi.org/10.1016/0010-0285(73)90033-9
- Zajonc, R. B. (1968). Attitudinal effects of mere exposure. *Journal of Personality and Social Psychology*, 9(2, Pt.2), 1–27. https://doi.org/10.1037/h0025848
- Weaver, K., Garcia, S. M., Schwarz, N., & Miller, D. T. (2007). Inferring the popularity of an opinion from its familiarity: A repetitive voice can sound like a chorus. *Journal of Personality and Social Psychology*, 92(5), 821–833. https://doi.org/10.1037/0022-3514.92.5.821
- Jalbert, M., & Pillai, R. (2024). An illusory consensus effect. *Collabra: Psychology*, 10(1). https://doi.org/10.1525/collabra.124533
- Galesic, M., Olsson, H., & Rieskamp, J. (2012). Social sampling explains apparent biases in judgments of social environments. *Psychological Science*, 23(12), 1515–1523. https://doi.org/10.1177/0956797612445313
- Galesic, M., Olsson, H., & Rieskamp, J. (2018). A sampling model of social judgment. *Psychological Review*, 125(3), 363–390. https://doi.org/10.1037/rev0000096
- Ross, L., Greene, D., & House, P. (1977). The "false consensus effect". *Journal of Experimental Social Psychology*, 13(3), 279–301. https://doi.org/10.1016/0022-1031(77)90049-X
- Mullen, B., et al. (1985). The false consensus effect: A meta-analysis of 115 hypothesis tests. *Journal of Experimental Social Psychology*, 21(3), 262–283. https://doi.org/10.1016/0022-1031(85)90020-4
- Suls, J., & Wan, C. K. (1987). In search of the false-uniqueness phenomenon. *Journal of Personality and Social Psychology*, 52(1), 211–217. https://doi.org/10.1037/0022-3514.52.1.211
- Prentice, D. A., & Miller, D. T. (1993). Pluralistic ignorance and alcohol use on campus. *Journal of Personality and Social Psychology*, 64(2), 243–256. https://pubmed.ncbi.nlm.nih.gov/8433272/
- Perkins, H. W., & Berkowitz, A. D. (1986). Perceiving the community norms of alcohol use among students. *International Journal of the Addictions*, 21(9), 961–976. https://pubmed.ncbi.nlm.nih.gov/3793315/
- Cialdini, R. B., Reno, R. R., & Kallgren, C. A. (1990). A focus theory of normative conduct. *Journal of Personality and Social Psychology*, 58(6), 1015–1026. https://doi.org/10.1037/0022-3514.58.6.1015
- Schultz, P. W., et al. (2007). The constructive, destructive, and reconstructive power of social norms. *Psychological Science*, 18(5), 429–434. https://doi.org/10.1111/j.1467-9280.2007.01917.x
- Davison, W. P. (1983). The third-person effect in communication. *Public Opinion Quarterly*, 47(1), 1–15. https://doi.org/10.1086/268763

### 表象頻度と実人口比率

- Gerbner, G., Gross, L., Morgan, M., & Signorielli, N. (1980). The "mainstreaming" of America: Violence profile no. 11. *Journal of Communication*, 30(3), 10–29. https://doi.org/10.1111/j.1460-2466.1980.tb01987.x
- Potter, W. J. (2014). A critical analysis of cultivation theory. *Journal of Communication*, 64(6), 1015–1036. https://doi.org/10.1111/jcom.12128
- Hermann, E., Morgan, M., & Shanahan, J. (2021). Television, continuity, and change: A meta-analysis of five decades of cultivation research. *Journal of Communication*, 71(4), 515–544. https://academic.oup.com/joc/article-abstract/71/4/515/6356125
- Dixon, T. L., & Linz, D. (2000). Overrepresentation and underrepresentation of African Americans and Latinos as lawbreakers on television news. *Journal of Communication*, 50(2), 131–154. https://doi.org/10.1111/j.1460-2466.2000.tb02845.x
- Baruah, S., Somandepalli, K., Narayanan, S., & Blythe, R. A. (2022). Representation of professions in entertainment media. *PLOS ONE*, 17(5), e0267812. https://doi.org/10.1371/journal.pone.0267812
- Jacobs, L., Claes, E., & Hooghe, M. (2015). The occupational roles of women and ethnic minorities on primetime television in Belgium. *Mass Communication and Society*, 18(4), 498–521. https://doi.org/10.1080/15205436.2014.1001908

### 少数主体による大量発信と偽装多数派

- Lerman, K., Yan, X., & Wu, X.-Z. (2016). The "majority illusion" in social networks. *PLOS ONE*, 11(2), e0147617. https://doi.org/10.1371/journal.pone.0147617
- Alipourfard, N., et al. (2020). Friendship paradox biases perceptions in directed networks. *Nature Communications*, 11, 707. https://www.nature.com/articles/s41467-020-15599-1
- Ratkiewicz, J., et al. (2011). Detecting and tracking the spread of astroturf memes in microblog streams. *WWW 2011 Companion*. https://doi.org/10.1145/1963192.1963301
- Kovic, M., Rauchfleisch, A., et al. (2018). Digital astroturfing in politics: Definition, typology, and countermeasures. *Studies in Communication Sciences*. https://www.hope.uzh.ch/scoms/article/view/j.scoms.2018.01.005
- Keller, F. B., Schoch, D., Stier, S., & Yang, J. (2020). Political astroturfing on Twitter. *Political Communication*, 37(2), 256–280. https://doi.org/10.1080/10584609.2019.1661888
- Cho, C. H., Martens, M. L., Kim, H., & Rodrigue, M. (2011). Astroturfing global warming. *Journal of Business Ethics*, 104(4), 571–587. https://doi.org/10.1007/s10551-011-0950-6
- Ferrara, E., Varol, O., Davis, C., Menczer, F., & Flammini, A. (2016). The rise of social bots. *Communications of the ACM*, 59(7), 96–104. https://doi.org/10.1145/2818717
- Shao, C., et al. (2018). The spread of low-credibility content by social bots. *Nature Communications*, 9, 4787. https://doi.org/10.1038/s41467-018-06930-7
- Stella, M., Ferrara, E., & De Domenico, M. (2018). Bots increase exposure to negative and inflammatory content in online social systems. *PNAS*, 115(49), 12435–12440. https://doi.org/10.1073/pnas.1803470115
- Cresci, S. (2020). A decade of social bot detection. *Communications of the ACM*, 63(10), 72–83. https://doi.org/10.1145/3409116
- Cresci, S., et al. (2017). The paradigm-shift of social spambots. *WWW 2017 Companion*. https://doi.org/10.1145/3041021.3055135
- Kumar, S., Cheng, J., Leskovec, J., & Subrahmanian, V. S. (2017). An army of me: Sockpuppets in online discussion communities. *WWW 2017*. https://doi.org/10.1145/3038912.3052677
- King, G., Pan, J., & Roberts, M. E. (2017). How the Chinese government fabricates social media posts for strategic distraction, not engaged argument. *American Political Science Review*, 111(3), 484–501. https://doi.org/10.1017/S0003055417000144
- Woolley, S. C., & Howard, P. N. (2017). *Computational propaganda worldwide: Executive summary*. Oxford Internet Institute WP 2017.11. https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/2017/06/Casestudies-ExecutiveSummary.pdf
- Bradshaw, S., & Howard, P. N. (2019). *The global disinformation order*. Oxford Internet Institute. https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/2021/01/CyberTroop-Report-2020-v.2.pdf
- Linvill, D. L., & Warren, P. L. (2020). Troll factories: Manufacturing specialized disinformation on Twitter. *Political Communication*, 37(4), 447–467. https://doi.org/10.1080/10584609.2020.1718257
- Giglietto, F., Righetti, N., Rossi, L., & Marino, G. (2020). Coordinated link sharing behavior as a signal to surface sources of problematic information on Facebook. *SMSociety '20*. https://doi.org/10.1145/3400806.3400817
- Starbird, K., Arif, A., & Wilson, T. (2019). Disinformation as collaborative work. *PACM HCI*, 3(CSCW), 127. https://doi.org/10.1145/3359229
- Luca, M., & Zervas, G. (2016). Fake it till you make it: Reputation, competition, and Yelp review fraud. *Management Science*, 62(12), 3412–3427. https://doi.org/10.1287/mnsc.2015.2304
- Rao, J. M., & Reiley, D. H. (2012). The economics of spam. *Journal of Economic Perspectives*, 26(3), 87–110. https://doi.org/10.1257/jep.26.3.87
- Wojcik, S., & Hughes, A. (2019). *Sizing up Twitter users*. Pew Research Center. https://www.pewresearch.org/internet/2019/04/24/sizing-up-twitter-users/
- Hughes, A., & Wojcik, S. (2019). *Small share of U.S. adults produce majority of political tweets*. Pew Research Center. https://www.pewresearch.org/politics/2019/10/23/national-politics-on-twitter-small-share-of-u-s-adults-produce-majority-of-tweets/

### 生成AI固有の情報環境

- Kobak, D., et al. (2025). Delving into LLM-assisted writing in biomedical publications through excess vocabulary. *Science Advances*. https://doi.org/10.1126/sciadv.adt3813
- La Cava, L., Aiello, L. M., & Tagarelli, A. (2025). Machines in the crowd? Measuring the footprint of machine-generated text on Reddit. arXiv:2510.07226. https://arxiv.org/abs/2510.07226
- Brooks, C., Eggert, S., & Peskoff, D. (2024). The rise of AI-generated content in Wikipedia. arXiv:2410.08044. https://arxiv.org/abs/2410.08044
- Thompson, B., et al. (2024). A shocking amount of the web is machine translated. *Findings of ACL 2024*. https://aclanthology.org/2024.findings-acl.103/
- Jakesch, M., Hancock, J. T., & Naaman, M. (2023). Human heuristics for AI-generated language are flawed. *PNAS*, 120(11), e2208839120. https://doi.org/10.1073/pnas.2208839120
- Bianchi, F., et al. (2023). Easily accessible text-to-image generation amplifies demographic stereotypes at large scale. *ACM FAccT 2023*. https://doi.org/10.1145/3593013.3594095
- Luccioni, A. S., Akiki, C., Mitchell, M., & Jernite, Y. (2023). Stable bias: Analyzing societal representations in diffusion models. *NeurIPS 2023 Datasets and Benchmarks*. https://arxiv.org/abs/2303.11408
- Argyle, L. P., et al. (2023). Out of one, many: Using language models to simulate human samples. *Political Analysis*, 31(3), 337–351. https://doi.org/10.1017/pan.2023.2
- Bisbee, J., et al. (2024). Synthetic replacements for human survey data? *Political Analysis*, 32(4), 401–416. https://doi.org/10.1017/pan.2024.5
- Santurkar, S., et al. (2023). Whose opinions do language models reflect? *ICML 2023*. https://proceedings.mlr.press/v202/santurkar23a.html
- Doshi, A. R., & Hauser, O. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. *Science Advances*, 10(28). https://doi.org/10.1126/sciadv.adn5290
- Anderson, B. R., Shah, J. H., & Kreminski, M. (2024). Homogenization effects of large language models on human creative ideation. *ACM Creativity & Cognition 2024*. https://doi.org/10.1145/3635636.3656204
- Peterson, A. J. (2025). AI and the problem of knowledge collapse. *AI & Society*. https://arxiv.org/abs/2404.03502
- Wright, D., et al. (2025). Epistemic diversity and knowledge collapse in large language models. arXiv:2510.04226. https://arxiv.org/abs/2510.04226
- Shumailov, I., et al. (2024). AI models collapse when trained on recursively generated data. *Nature*, 631, 755–759. https://doi.org/10.1038/s41586-024-07566-y
- Alemohammad, S., et al. (2024). Self-consuming generative models go MAD. *ICLR 2024*. https://arxiv.org/abs/2307.01850
- Gerstgrasser, M., et al. (2024). Is model collapse inevitable? arXiv:2404.01413. https://arxiv.org/abs/2404.01413
- Hancock, J. T., Naaman, M., & Levy, K. (2020). AI-mediated communication. *Journal of Computer-Mediated Communication*, 25(1), 89–100. https://doi.org/10.1093/jcmc/zmz022

### 自己成就と規範動態

- Merton, R. K. (1948). The self-fulfilling prophecy. *The Antioch Review*, 8(2), 193–210. https://entrepreneurscommunicate.pbworks.com/f/Merton.+Self+Fulfilling+Profecy.pdf
- Biggs, M. (2009). Self-fulfilling prophecies. In *The Oxford Handbook of Analytical Sociology* (pp. 294–314). https://doi.org/10.1093/oxfordhb/9780199215362.013.13
- MacKenzie, D., & Millo, Y. (2003). Constructing a market, performing theory. *American Journal of Sociology*, 109(1), 107–145. https://doi.org/10.1086/374404
- MacKenzie, D. (2006). *An engine, not a camera*. MIT Press.
- Marti, E., & Gond, J.-P. (2019). How do theories become self-fulfilling? *Academy of Management Review*, 44(3), 686–694. https://doi.org/10.5465/amr.2019.0024
- Salganik, M. J., Dodds, P. S., & Watts, D. J. (2006). Experimental study of inequality and unpredictability in an artificial cultural market. *Science*, 311(5762), 854–856. https://doi.org/10.1126/science.1121066
- Salganik, M. J., & Watts, D. J. (2008). Leading the herd astray. *Social Psychology Quarterly*, 71(4), 338–355. https://doi.org/10.1177/019027250807100404
- Muchnik, L., Aral, S., & Taylor, S. J. (2013). Social influence bias: A randomized experiment. *Science*, 341(6146), 647–651. https://doi.org/10.1126/science.1240466
- Bikhchandani, S., Hirshleifer, D., & Welch, I. (1992). A theory of fads, fashion, custom, and cultural change as informational cascades. *Journal of Political Economy*, 100(5), 992–1026. https://doi.org/10.1086/261849
- Banerjee, A. V. (1992). A simple model of herd behavior. *Quarterly Journal of Economics*, 107(3), 797–817. https://doi.org/10.2307/2118364
- Anderson, L. R., & Holt, C. A. (1997). Information cascades in the laboratory. *American Economic Review*, 87(5), 847–862.
- Bicchieri, C. (2006). *The grammar of society*. Cambridge University Press.
- Bicchieri, C. (2017). *Norms in the wild*. Oxford University Press.
- Kuran, T. (1995). *Private truths, public lies*. Harvard University Press.
- Willer, R., Kuwabara, K., & Macy, M. W. (2009). The false enforcement of unpopular norms. *American Journal of Sociology*, 115(2), 451–490. https://doi.org/10.1086/599250
- Centola, D., & Baronchelli, A. (2015). The spontaneous emergence of conventions. *PNAS*, 112(7), 1989–1994. https://doi.org/10.1073/pnas.1418838112
- Centola, D., Becker, J., Brackbill, D., & Baronchelli, A. (2018). Experimental evidence for tipping points in social convention. *Science*, 360(6393), 1116–1119. https://doi.org/10.1126/science.aas8827
- Hacking, I. (1986). Making up people. In *Reconstructing individualism* (pp. 222–236). Stanford University Press.
- Hacking, I. (1995). The looping effects of human kinds. In *Causal cognition*. Clarendon Press.
- Bowles, S. (1998). Endogenous preferences. *Journal of Economic Literature*, 36(1), 75–111. https://sites.santafe.edu/~bowles/1998JEL.pdf
- Slovic, P. (1995). The construction of preference. *American Psychologist*, 50(5), 364–371. https://doi.org/10.1037/0003-066X.50.5.364

### デジタル痕跡データの代表性

- Ruths, D., & Pfeffer, J. (2014). Social media for large studies of behavior. *Science*, 346(6213), 1063–1064. https://doi.org/10.1126/science.346.6213.1063
- Tufekci, Z. (2014). Big questions for social media big data. *ICWSM 2014*. https://arxiv.org/abs/1403.7400
- boyd, d., & Crawford, K. (2012). Critical questions for big data. *Information, Communication & Society*, 15(5), 662–679. https://doi.org/10.1080/1369118X.2012.678878
- Lazer, D., Kennedy, R., King, G., & Vespignani, A. (2014). The parable of Google Flu. *Science*, 343(6176), 1203–1205. https://doi.org/10.1126/science.1248506
- Groves, R. M., & Lyberg, L. (2010). Total survey error: Past, present, and future. *Public Opinion Quarterly*, 74(5), 849–879. https://doi.org/10.1093/poq/nfq065
- Sen, I., Flöck, F., Weller, K., Weiß, B., & Wagner, C. (2021). A total error framework for digital traces of human behavior on online platforms. *Public Opinion Quarterly*, 85(S1), 399–422. https://doi.org/10.1093/poq/nfab018
- Jungherr, A., Schoen, H., Posegga, O., & Jürgens, P. (2017). Digital trace data in the study of public opinion. *Social Science Computer Review*, 35(3), 336–356. https://doi.org/10.1177/0894439316631043
- Gayo-Avello, D. (2013). A meta-analysis of state-of-the-art electoral prediction from Twitter data. *Social Science Computer Review*, 31(6), 649–679. https://doi.org/10.1177/0894439313493979
- Metaxas, P. T., Mustafaraj, E., & Gayo-Avello, D. (2011). How (not) to predict elections. *IEEE PASSAT/SocialCom 2011*. https://doi.org/10.1109/PASSAT/SocialCom.2011.98
- Cohen, R., & Ruths, D. (2013). Classifying political orientation on Twitter: It's not easy! *ICWSM 2013*. https://ojs.aaai.org/index.php/ICWSM/article/view/14434
- Wang, W., Rothschild, D., Goel, S., & Gelman, A. (2015). Forecasting elections with non-representative polls. *International Journal of Forecasting*, 31(3), 980–991. https://doi.org/10.1016/j.ijforecast.2014.06.001
- Diaz, F., Gamon, M., Hofman, J. M., Kıcıman, E., & Rothschild, D. (2016). Online and social media data as an imperfect continuous panel survey. *PLOS ONE*, 11(1), e0145406. https://pmc.ncbi.nlm.nih.gov/articles/PMC4711590/
- Barberá, P., & Rivero, G. (2015). Understanding the political representativeness of Twitter users. *Social Science Computer Review*, 33(6), 712–729. https://doi.org/10.1177/0894439314558836
- van Mierlo, T. (2014). The 1% rule in four digital health social networks. *Journal of Medical Internet Research*, 16(2), e33. https://doi.org/10.2196/jmir.2966
- Bail, C. A., et al. (2018). Exposure to opposing views on social media can increase political polarization. *PNAS*, 115(37), 9216–9221. https://doi.org/10.1073/pnas.1804840115
- Hargittai, E. (2015). Is bigger always better? *ANNALS of AAPSS*, 659(1), 63–76. https://doi.org/10.1177/0002716215570866
- Golder, S. A., & Macy, M. W. (2014). Digital footprints. *Annual Review of Sociology*, 40, 129–152. https://doi.org/10.1146/annurev-soc-071913-043145
- Japec, L., et al. (2015). Big data in survey research: AAPOR task force report. *Public Opinion Quarterly*, 79(4), 839–880. https://doi.org/10.1093/poq/nfv039
- Salganik, M. J. (2018). *Bit by bit: Social research in the digital age*. Princeton University Press. https://www.bitbybitbook.com/
- Lazer, D., Hargittai, E., Freelon, D., et al. (2021). Meaningful measures of human society in the twenty-first century. *Nature*, 595, 189–196. https://www.nature.com/articles/s41586-021-03660-7

### 直近3年（2023–2026）の追加

**量の測定と検出**

- Liang, W., Izzo, Z., Zhang, Y., et al. (2024). Monitoring AI-modified content at scale: A case study on the impact of ChatGPT on AI conference peer reviews. *ICML 2024*. https://arxiv.org/abs/2403.07183
- Rao, V. S., Kumar, A., Lakkaraju, H., & Shah, N. B. (2025). Detecting LLM-generated peer reviews. *PLoS One*. https://pmc.ncbi.nlm.nih.gov/articles/PMC12453209/
- Liu, J., He, Y., Zheng, Z., Bu, Y., & Ni, C. (2025). AI-assisted writing is growing fastest among non-English-speaking and less established scientists. arXiv:2511.15872. https://arxiv.org/abs/2511.15872
- Spennemann, D. H. R. (2025). Delving into: The quantification of AI-generated content on the internet. arXiv:2504.08755. https://arxiv.org/abs/2504.08755
- Allaham, M., & Diakopoulos, N. (2026). Synthetic sources? Auditing generative search engine citations for evidence of AI-generated sources. arXiv:2605.23684. https://arxiv.org/abs/2605.23684
- Grossman, R., Liu, S., Chen, M. K., Smith, M., Borcea, C., & Chen, Y. (2026). How generative AI disrupts search. *ACM SIGIR 2026*. https://arxiv.org/abs/2604.27790
- Huang, M., Goyal, A., Saha, K., & Chandrasekharan, E. (2026). Answer bubbles: Information exposure in AI-mediated search. arXiv:2603.16138. https://arxiv.org/abs/2603.16138
- Musser, M. (2023). A cost analysis of generative language models and influence operations. arXiv:2308.03740. https://arxiv.org/abs/2308.03740
- Horne, B. D., & Gruppi, M. (2024). NELA-PS: A dataset of pink slime news articles for the study of local news ecosystems. *ICWSM 2024*. https://ojs.aaai.org/index.php/ICWSM/article/view/31439
- Schmitz, C., Hammond, L., & Chan, A. (2026). Characterizing agentic flooding of government services. arXiv:2608.16603. https://arxiv.org/abs/2608.16603
- Liang, W., Yuksekgonul, M., Mao, Y., Wu, E., & Zou, J. (2023). GPT detectors are biased against non-native English writers. *Patterns*. https://arxiv.org/abs/2304.02819
- Al Ali, A., Helcl, J., & Libovický, J. (2026). Different time, different language: Revisiting the bias against non-native speakers in GPT detectors. arXiv:2602.05769. https://arxiv.org/abs/2602.05769
- Cheng, Y., Guo, H., Li, Y., & Sigal, L. (2025). Revealing weaknesses in text watermarking through self-information rewrite attacks. arXiv:2505.05190. https://arxiv.org/abs/2505.05190
- Wu, Z., Gong, G., Zhu, Q., Chen, Y., & Zhao, R. (2026). Linear ensembles wash away watermarks. arXiv:2605.30501. https://arxiv.org/abs/2605.30501
- An, H., Park, S., Woo, S., & Han, Y.-S. (2026). DITTO: A spoofing attack framework on watermarked LLMs via knowledge distillation. *EACL 2026*. https://arxiv.org/abs/2510.10987
- Golaszewski, E., et al. (2026). Verifying provenance of digital media: Why the C2PA specifications fall short. arXiv:2604.24890. https://arxiv.org/abs/2604.24890
- Feng, S., Wan, H., Wang, N., Tan, Z., Luo, M., & Tsvetkov, Y. (2024). What does the bot say? Opportunities and risks of large language models in social media bot detection. arXiv:2402.00371. https://arxiv.org/abs/2402.00371
- Dawkins, H., Fraser, K. C., & Kiritchenko, S. (2025). When detection fails: The power of fine-tuned models to generate human-like social media text. arXiv:2506.09975. https://arxiv.org/abs/2506.09975
- Puccetti, G., Rogers, A., Alzetta, C., Dell'Orletta, F., & Esuli, A. (2024). AI "news" content farms are easy to make and hard to detect: A case study in Italian. arXiv:2406.12128. https://arxiv.org/abs/2406.12128
- Mannocci, L., Mazza, M., Monreale, A., Tesconi, M., & Cresci, S. (2024). Detection and characterization of coordinated online behavior: A survey. arXiv:2408.01257. https://arxiv.org/abs/2408.01257
- Luceri, L., Salkar, T. V., Balasubramanian, A., Pinto, G., Sun, C., & Ferrara, E. (2025). Coordinated inauthentic behavior on TikTok. arXiv:2505.10867. https://arxiv.org/abs/2505.10867

**曝露と規範知覚**

- Glickman, M., & Sharot, T. (2025). How human–AI feedback loops alter human perceptual, emotional and social judgements. *Nature Human Behaviour*, 9(2), 345–359. https://www.nature.com/articles/s41562-024-02077-2
- AlDahoul, N., Rahwan, T., & Zaki, Y. (2025). AI-generated faces influence gender stereotypes and racial homogenization. *Scientific Reports*. https://www.nature.com/articles/s41598-025-99623-3
- Brady, W. J., Doyle, M., Elnakouri, A., et al. (2026). Redesigning algorithms to intervene on social norm misperceptions during a national election. *Nature*. https://www.nature.com/articles/s41586-026-10536-1
- Geber, S., & Stahel, L. (2026). Recommended to you: An experimental study of normative influences from algorithmic and social recommendations on social media. *AI & Society*, 41, 5827–5840. https://link.springer.com/article/10.1007/s00146-026-02952-8
- Liu, N., Hu, X. E., Savas, Y., et al. (2025). Short-term exposure to filter-bubble recommendation systems has limited polarization effects. *PNAS*, 122(8). https://www.pnas.org/doi/10.1073/pnas.2318127122
- Lee, A. Y., Neumann, E., Zaki, J., & Hancock, J. (2025). Americans overestimate how many social media users post harmful content. *PNAS Nexus*, 4(12), pgaf310. https://doi.org/10.1093/pnasnexus/pgaf310
- Møller, A. G., Romero, D. M., Jurgens, D., & Aiello, L. M. (2026). The impact of generative AI on social media: An experimental study. *Scientific Reports*. https://doi.org/10.1038/s41598-026-40110-8
- Geiger, S. J., Köhler, J. K., et al. (2025). What we think others think and do about climate change. *Psychological Science*. https://doi.org/10.1177/09567976251335585
- Voelkel, J. G., et al. (2024). Megastudy testing 25 treatments to reduce antidemocratic attitudes and partisan animosity. *Science*. https://doi.org/10.1126/science.adh4764
- Asami, K., & Kishishita, D. (2025). Polarization as pluralistic ignorance. *Journal of Public Economic Theory*. https://doi.org/10.1111/jpet.70076
- Gavrilets, S., Karl, J., & Gelfand, M. J. (2026). The cultural evolution of pluralistic ignorance. *PNAS*. https://doi.org/10.1073/pnas.2522998123
- Schroeder, D. T., Cha, M., Baronchelli, A., et al. (2026). How malicious AI swarms can threaten democracy. *Science* (Policy Forum). https://doi.org/10.1126/science.adz1697
- Hermann, E., Morgan, M., & Shanahan, J. (2023). Cultivation and social media: A meta-analysis. *New Media & Society*. https://doi.org/10.1177/14614448231180257
- Ye, J., Luceri, L., & Ferrara, E. (2025). Auditing political exposure bias: Algorithmic amplification on Twitter/X during the 2024 U.S. presidential election. *ACM FAccT 2025*. https://doi.org/10.1145/3715275.3732159

**測定の道具**

- Westwood, S. J. (2025). The potential existential threat of large language models to online survey research. *PNAS*. https://doi.org/10.1073/pnas.2518075122
- NORC at the University of Chicago. (2026). *Fraudulent respondents and bots in nonprobability surveys: A literature review*. https://www.norc.org/content/dam/norc-org/pdf2026/cpss-research-brief-fraud-lit-review.pdf
- Asher, M. W., Gold, G., Chen, E., & Carvalho, P. F. (2026). Chatbots are undermining crowdsourced research in the behavioral sciences. *Advances in Methods and Practices in Psychological Science*. https://doi.org/10.1177/25152459261424723
- Alsalti, T., Rohrer, J. M., & Arslan, R. C. (2026). Thinking clearly about sampling and representation with the total survey error framework. *Social and Personality Psychology Compass*, 20(7). https://doi.org/10.1111/spc3.70160
- Daikeler, J., Fröhling, L., Sen, I., et al. (2025). Assessing data quality in the age of digital social research: A systematic review. *Social Science Computer Review*, 43(5), 943–979. https://doi.org/10.1177/08944393241245395
- Schneck, A., & Przepiorka, W. (2025). Meta-dominance analysis: A tool for the assessment of the quality of digital behavioural data. *Social Science Computer Review*. https://doi.org/10.1177/08944393241261958
- Jansson, I. (2025). A total error framework with a special focus on digital data. *International Statistical Review*. https://doi.org/10.1111/insr.70020
- Dominguez-Olmedo, R., Hardt, M., & Mendler-Dünner, C. (2024). Questioning the survey responses of large language models. *NeurIPS 2024*. https://arxiv.org/abs/2306.07951
- Ma, X., Zhang, M., Ang, S., & Chen, M. (2026). Not-quite-human tastes: The stylized omnivorousness of LLM survey surrogates. arXiv:2606.30085. https://arxiv.org/abs/2606.30085
- Kim, S., et al. (2025). How large language models systematically misrepresent American climate opinions. arXiv:2512.23889. https://arxiv.org/html/2512.23889v1
- Blakey, E. (2024). The day data transparency died: How Twitter/X cut off access for social research. *Contexts*, 23(2), 30–35. https://doi.org/10.1177/15365042241252125
- Murtfeldt, R., Paik, S., Alterman, N., Kahveci, I., & West, J. D. (2024). RIP Twitter API: A eulogy to its vast research contributions. arXiv:2404.07340. https://arxiv.org/abs/2404.07340
- Goanta, C., Zannettou, S., Kaushal, R., et al. (2026). The great data standoff: Researchers vs. platforms under the Digital Services Act. *ICWSM 2026*. https://arxiv.org/abs/2505.01122

### エコーチェンバー研究との差分検証

**エコーチェンバーとフィルターバブル**

- Sunstein, C. R. (2001). *Republic.com*. Princeton University Press. https://chicagounbound.uchicago.edu/books/811/
- Sunstein, C. R. (2017). *#Republic: Divided democracy in the age of social media*. Princeton University Press. https://press.princeton.edu/books/hardcover/9780691175515/republic
- Pariser, E. (2011). *The filter bubble: What the Internet is hiding from you*. The Penguin Press.
- Cinelli, M., De Francisci Morales, G., Galeazzi, A., Quattrociocchi, W., & Starnini, M. (2021). The echo chamber effect on social media. *PNAS*, 118(9). https://doi.org/10.1073/pnas.2023301118
- Del Vicario, M., Bessi, A., Zollo, F., et al. (2016). The spreading of misinformation online. *PNAS*, 113(3), 554–559. https://doi.org/10.1073/pnas.1517441113
- Barberá, P., Jost, J. T., Nagler, J., Tucker, J. A., & Bonneau, R. (2015). Tweeting from left to right. *Psychological Science*, 26(10), 1531–1542. https://doi.org/10.1177/0956797615594620
- Bakshy, E., Messing, S., & Adamic, L. A. (2015). Exposure to ideologically diverse news and opinion on Facebook. *Science*, 348(6239), 1130–1132. https://doi.org/10.1126/science.aaa1160
- Flaxman, S., Goel, S., & Rao, J. M. (2016). Filter bubbles, echo chambers, and online news consumption. *Public Opinion Quarterly*, 80(S1), 298–320. https://doi.org/10.1093/poq/nfw006
- Guess, A. M. (2021). (Almost) everything in moderation. *American Journal of Political Science*. https://doi.org/10.1111/ajps.12589
- Dubois, E., & Blank, G. (2018). The echo chamber is overstated. *Information, Communication & Society*, 21(5), 729–745. https://doi.org/10.1080/1369118X.2018.1428656
- Möller, J., Trilling, D., Helberger, N., & van Es, B. (2018). Do not blame it on the algorithm. *Information, Communication & Society*, 21(7). https://doi.org/10.1080/1369118X.2018.1444076
- Zuiderveen Borgesius, F. J., Trilling, D., Möller, J., Bodó, B., de Vreese, C. H., & Helberger, N. (2016). Should we worry about filter bubbles? *Internet Policy Review*, 5(1). https://doi.org/10.14763/2016.1.401
- Bruns, A. (2019). *Are filter bubbles real?* Polity Press.
- Arguedas, A. R., Robertson, C. T., Fletcher, R., & Nielsen, R. K. (2022). *Echo chambers, filter bubbles, and polarisation: A literature review*. Reuters Institute for the Study of Journalism. https://reutersinstitute.politics.ox.ac.uk/echo-chambers-filter-bubbles-and-polarisation-literature-review
- Terren, L., & Borge-Bravo, R. (2021). Echo chambers on social media: A systematic review of the literature. *Review of Communication Research*, 9, 99–118. https://doi.org/10.12840/ISSN.2255-4165.028
- Hartmann, D., Wang, S. M., Pohlmann, L., & Berendt, B. (2024). A systematic review of echo chamber research. arXiv:2407.06631. https://arxiv.org/abs/2407.06631
- Nyhan, B., Settle, J., Thorson, E., Wojcieszak, M., et al. (2023). Like-minded sources on Facebook are prevalent but not polarizing. *Nature*, 620, 137–144. https://doi.org/10.1038/s41586-023-06297-w
- Guess, A. M., Malhotra, N., Pan, J., et al. (2023). Reshares on social media amplify political news but do not detectably affect beliefs or opinions. *Science*, 381(6656), 404–408. https://doi.org/10.1126/science.add8424
- Guess, A. M., Malhotra, N., Pan, J., Barberá, P., Allcott, H., Brown, T., et al. (2023). How do social media feed algorithms affect attitudes and behavior in an election campaign? *Science*, 381(6656), 398–404. https://doi.org/10.1126/science.abp9364
- González-Bailón, S., Lazer, D., Barberá, P., et al. (2023). Asymmetric ideological segregation in exposure to political news on Facebook. *Science*, 381(6656), 392–398. https://doi.org/10.1126/science.ade7138
- Luzsa, R., & Mayr, S. (2021). False consensus in the echo chamber. *Cyberpsychology*, 15(1), Article 3. https://doi.org/10.5817/CP2021-1-3
- Cooper, C. H. V., Fahey, K., & Jones, R. (2025). Biased perceptions of public opinion don't define echo chambers. *PLOS ONE*, 20(6), e0324507. https://doi.org/10.1371/journal.pone.0324507
- Sharma, N., Liao, Q. V., & Xiao, Z. (2024). Generative echo chamber? Effect of LLM-powered search systems on diverse information seeking. *ACM CHI 2024*. https://doi.org/10.1145/3613904.3642459
- Jacob, C., Kerrigan, P., & Bastos, M. (2025). The chat-chamber effect: Trusting the AI hallucination. *Big Data & Society*, 12(1). https://doi.org/10.1177/20539517241306345

**構成比の誤推定と選択的接触**

- Nadeau, R., Niemi, R. G., & Levine, J. (1993). Innumeracy about minority populations. *Public Opinion Quarterly*, 57(3), 332–347. https://doi.org/10.1086/269381
- Herda, D. (2010). How many immigrants? Foreign-born population innumeracy in Europe. *Public Opinion Quarterly*, 74(4), 674–695. https://doi.org/10.1093/poq/nfq044
- Herda, D. (2013). Too many immigrants? *Sociological Perspectives*, 56(2), 213–240. https://doi.org/10.1525/sop.2013.56.2.213
- Ahler, D. J., & Sood, G. (2018). The parties in our heads. *Journal of Politics*, 80(3), 964–981. https://doi.org/10.1086/697253
- Ahler, D. J., & Sood, G. (2023). Typecast: A routine mental shortcut causes party stereotyping. *Political Behavior*, 45(4). https://doi.org/10.1007/s11109-022-09780-8
- Kardosh, R., Sklar, A. Y., Goldstein, A., Pertzov, Y., & Hassin, R. R. (2022). Minority salience and the overestimation of individuals from minority groups in perception and memory. *PNAS*, 119(12). https://doi.org/10.1073/pnas.2116884119
- Gayet, S., Sahakian, A., Paffen, C. L. E., & Van der Stigchel, S. (2022). No evidence for social factors in the overestimation of individuals from minority groups. *PNAS*, 119(48). https://doi.org/10.1073/pnas.2214740119
- Guay, B., Marghetis, T., Wong, C., & Landy, D. (2025). Quirks of cognition explain why we dramatically overestimate the size of minority groups. *PNAS*, 122(14), e2413064122. https://doi.org/10.1073/pnas.2413064122
- Landy, D., Guay, B., & Marghetis, T. (2018). Bias and ignorance in demographic perception. *Psychonomic Bulletin & Review*, 25(5). https://doi.org/10.3758/s13423-017-1360-2
- Schille-Hudson, E. B., et al. (2025). Bias in self-knowledge of global communities. *Cognitive Science*. https://doi.org/10.1111/cogs.70152
- Lee, E., Karimi, F., Wagner, C., Jo, H.-H., Strohmaier, M., & Galesic, M. (2019). Homophily and minority-group size explain perception biases in social networks. *Nature Human Behaviour*, 3. https://doi.org/10.1038/s41562-019-0677-4
- McPherson, M., Smith-Lovin, L., & Cook, J. M. (2001). Birds of a feather: Homophily in social networks. *Annual Review of Sociology*, 27, 415–444. https://doi.org/10.1146/annurev.soc.27.1.415
- Eminente, C., Olsson, H., Nedelkoska, L., Prieto-Curiel, R., Galesic, M., & Omodei, E. (2026). Interplay between social contact and media exposure in the overestimation of racial diversity in the U.S. arXiv:2603.26896. https://arxiv.org/abs/2603.26896
- Pokhriyal, N., Valentino, A., & Vosoughi, S. (2023). Quantifying participation biases on social media. *EPJ Data Science*, 12. https://doi.org/10.1140/epjds/s13688-023-00405-6
- Ahler, D. J. (2014). Self-fulfilling misperceptions of public polarization. *Journal of Politics*, 76(3). https://doi.org/10.1017/S0022381614000085
- Westfall, J., Van Boven, L., Chambers, J. R., & Judd, C. M. (2015). Perceiving political polarization in the United States. *Perspectives on Psychological Science*, 10(2). https://doi.org/10.1177/1745691615569849
- Levendusky, M., & Malhotra, N. (2016). (Mis)perceptions of partisan polarization in the American public. *Public Opinion Quarterly*, 80(S1), 378–391. https://doi.org/10.1093/poq/nfv045
- Sears, D. O., & Freedman, J. L. (1967). Selective exposure to information: A critical review. *Public Opinion Quarterly*, 31(2), 194–213. https://doi.org/10.1086/267513
- Hart, W., Albarracín, D., Eagly, A. H., Brechan, I., Lindberg, M. J., & Merrill, L. (2009). Feeling validated versus being correct: A meta-analysis of selective exposure to information. *Psychological Bulletin*, 135(4), 555–588. https://doi.org/10.1037/a0015701
- Stroud, N. J. (2010). Polarization and partisan selective exposure. *Journal of Communication*, 60(3). https://doi.org/10.1111/j.1460-2466.2010.01497.x
- Krueger, J., & Clement, R. W. (1994). The truly false consensus effect. *Journal of Personality and Social Psychology*, 67(4). https://pubmed.ncbi.nlm.nih.gov/7965607/

## 未検証事項

書誌の一部が一次ページで確認できていない。コーパス側（`source/review/representation-population-decoupling/papers.md`）に一覧を残した。本文で言及した項目のうち該当するのは次のとおり。

- Salganik ら (2006) と Muchnik ら (2013)：science.org が自動取得を拒否したため、PubMed、大学ミラー、著者本人の解説という独立した複数のソースで書誌と要旨の一致を確認した。本文への直接到達は取れていない。`[要一次検証]`
- Shumailov ら (2024)：Nature 本文が認証ページのため、abstract と PubMed で裏取りした。本文中の数値詳細は未確認。`[要一次検証]`
- La Cava ら (2025)：掲載誌名を一次ページで確認できていない（arXiv 版で内容を確認）。`[要一次検証]`
- Metaxas ら (2011)、Hecht & Stephens (2014)、Diaz ら (2016)、González-Bailón ら (2014)、Broniatowski ら (2013)：一次 URL または正式 DOI が未確認。`[要一次検証]`
- Lazer ら (2009, 2021)：共著者の全リストを確認できていない。`[要一次検証]`
- 除外したもの：GLAAD の年次報告（査読外の業界団体レポート）、一次資料を特定できなかった「上位25%が全ツイートの97%」という数値。

直近3年の追加収集では、査読前プレプリント（arXiv）の比率が高い。正式な掲載先を確認できていないものは、コーパス側で `[要一次検証]` を付けて査読済み文献と区別した。本文で言及した項目のうち該当するのは次のとおり。

- Grossman ら (2026)、An ら (2026)、Goanta ら (2026)：会議への採録を一次ページで確認できていない。`[要一次検証]`
- Spennemann (2025)、Liu ら (2025)、Allaham & Diakopoulos (2026)、Huang ら (2026)、Cheng ら (2025)、Wu ら (2026)、Golaszewski ら (2026)、Feng ら (2024)、Dawkins ら (2025)、Puccetti ら (2024)、Schmitz ら (2026)、Ma ら (2026)、Kim ら (2025)、Murtfeldt ら (2024)：arXiv プレプリントであり、査読を経ていない。`[要一次検証]`
- Horne & Gruppi (2024)：ICWSM の巻号を一次 PDF で確認できていない。`[要一次検証]`
- NORC (2026)：組織名は確認したが個人執筆者名を特定できていない。`[要一次検証]`
- Jansson (2025)、Weiß ら (2025)：本文全体を取得できず、非人間の発信者への言及の有無を確認できていない。`[要一次検証]`
- 除外したもの：検出ベンダーが自社検出器で推定した web 上の AI 生成比率（Graphite、Pangram、Originality.ai）、方法論が非開示の Adobe Stock の比率、変容度指標の定義が非開示の Indeed の求人票推定。いずれもコーパスには出典元の主張として記録したが、本文では事実として引用していない。
- 2025年の Reddit r/changemyview における無許可の LLM 説得実験そのものは、著者と所属を欠き査読を経ていないため、コーパスに実験報告書を収録していない。事後の学術的二次分析（Jaidka & Ahmed 2026、プレプリント）のみを記録した。

エコーチェンバー研究との差分検証で追加した51件のうち、次は一次確認が取れていない。

- Arguedas ら (2022)：DOI 表記が Reuters Institute の慣例からの推定にとどまる。掲載ページへの到達は確認済み `[要一次検証]`
- González-Bailón ら (2023)：アルゴリズム選別とエンゲージメントそれぞれの相対寄与度の具体的な数値を確認できていない `[要一次検証]`
- Sunstein (2001)：出版社の書誌ページに到達できず、大学リポジトリのミラーで確認した `[要一次検証]`
- Guay ら (2026)、および PNAS の関連リプライ：本文がペイウォールのため内容を確認できていない `[要一次検証]`
- Kardosh ら (2022)：過大推定の具体的な倍率を抄録の範囲では確認できていない `[要一次検証]`
- Karimi ら (2017)、Miller & McFarland (1987)：正式な掲載先と DOI を確認できていない `[要一次検証]`
- Eminente ら (2026)：arXiv プレプリントであり査読を経ていない `[要一次検証]`