# スロップ前提の情報環境：見分ける力に賭けない設計 - 著者：小川 修一郎（デザイン研究者／デザインコンサルタント）https://jamjet-iqbal.com/ - 初出：2026-08-28、更新：2026-08-28 - 正規の URL（HTML）：https://jamjet-iqbal.com/notes/slop-era-information-design/ - 英語版：https://jamjet-iqbal.com/en/notes/slop-era-information-design/（Markdown：https://jamjet-iqbal.com/en/notes/slop-era-information-design.md） - 言語：ja - キーワード：ai-slop, information-environment, epistemic-security, credibility-assessment, lateral-reading, prebunking, community-notes, information-foraging, market-for-lemons, knowledge-commons, peer-review, appropriate-reliance, generative-search, verification-cost, mechanical-objectivity, virtual-witnessing, audit-society, news-desert, information-overload, information-foraging, draft > AI スロップの発生を止められないことを前提に、社会の側で何を設計対象にするのかを学術文献337件（受け手の信頼性評価31、情報探索と到達32、制度設計28、社会認識論31、介入とインタフェース28、集合的検証30、介入が効かなかった証拠27、信頼と客観性の社会史28、ジャーナリズムと到達経路26、情報過多の理論20、情報行動と探索22、キュレーション制度21、先行レビューと新規性の脅威13）で検討した。最も強い制約は、識別能力に賭ける設計が数字で支えられないことである。人間のディープフェイク検出精度は55.54%で信頼区間がチャンス水準をまたぎ（Diel et al. 2024、56 本、N=86,155）、AI 生成画像でも62%（Roca et al. 2025、参加者12,500人超）、ドイツの大学教員による卒論判定は57%で機械検出器と有意差がない（Fiedler & Döpke 2025）。訓練の効果は測定の仕方に依存し、即時テストを挟まないと動画介入は48時間で、ゲーム介入は10日で統制群と区別できなくなる（Capewell et al. 2024、d=0.010, p=.854）。しかも上がるのは主に「疑う力」であって「信じる力」ではない。67論文、303効果量のメタ分析は真実側への懐疑バイアスを d=0.32 と測り（Pfänder & Altay 2025）、がんニュースのリテラシー介入は不正確な見出しへの支持を5.6ポイント下げると同時に正確な見出しへの支持も7.6ポイント下げ（Lyons et al. 2024）、北イタリアの高校生2,288人への3種の介入はいずれも識別力を有意に改善せず、接種介入は科学的に妥当な内容への信頼をむしろ下げた（Martini et al. 2025）。効果が確認できた設計は、確かめる作業を消費の地点から動かしている。ロサンゼルス郡の衛生格付けカードは開示の義務化で実際に衛生水準と食中毒入院数を動かし（Jin & Leslie 2003）、党派を超えた合意を優先するブリッジングアルゴリズムを備えた Community Notes は誤解を招く投稿の拡散を61.2%減らし削除オッズを94.3%上げた（Chuai et al. 2026、カスケード237,180件）。ただし同じ仕組みは、表示が遅れれば制度全体としての効果が消え（Chuai et al. 2024）、事実確認に手間のかかる主張ほど注記が付かない（Wack et al. 2026）。ここから、設計対象は識別能力ではなく検証の負担の配分だと読める。査読者は不足しておらず労働の69〜94%が上位20%に偏っており（Kovanis et al. 2016）、Wikipedia の品質管理強化は新規編集者の定着率を40.0%から13.2%へ落とした（Halfaker et al. 2013）。そして到達の経路自体が細っている。生成検索と従来検索の出典重複は平均 Jaccard 類似度0.2以下（Grossman et al. 2026、11,500クエリ）、生成検索の引用ソースの約16%がすでに AI 生成物（Allaham & Diakopoulos 2026）、「常に検証する」と答えた研究者の41.5%が実際には引用を未検証でコピペしていた（Xu et al. 2026）。RQ1 に直接答える査読研究は本収集の範囲では存在せず、そこが空白として残る。ただし空白の周りには歴史がある。社会が信頼を作ってきた方法は、17世紀の virtual witnessing（Shapin & Schaffer 1985）から紳士の名誉（Shapin 1994）、定量化（Porter 1995）、機械的客観性とその後の訓練された判断（Daston & Galison 2007）まで、受け手の識別能力ではなく装置の側にあった。ただし一方向ではない。機械的客観性は判断を排除しきれず、訓練された判断が第三の様式として戻っている。この枠組みは AI に対して独立に4回再利用されている（Christin 2016、Rieder & Simon 2016、Anichini & Kotras 2024、Schenk 2025 の N=793 実験）。ただし装置は儀礼化する（Power 1997）。到達経路の側では、2004年以降に米地方紙の約4分の1が消滅し（Abernathy）、報道室の人員減は市長選の競争性低下と関連する一方（Rubado & Jennings 2020、Hayes & Lawless 2021）、AI ニュースファームは記事4万件の微調整だけで人間が識別できない水準に達する（Puccetti et al. ACL 2024）。本物の経路が細り、偽の経路が増える。さらに引用リンクは内容が誤っていても信頼を上げ（Li & Aral 2025、米国の成人を代表する標本 N=4,927）、AI 要約が出るとクリック率は15%から8%へ落ち、引用元へのクリックは訪問の約1%にとどまる（Chapekis et al. 2025、N=900の実ブラウジング）。出典の表示は、検証ではなく検証した感覚を配っている。情報過多そのものも、客観的な量と主観的な過多感が一致しない（Graf & Antoni 2022 のメタ分析、117研究 N=133,011／Arnold et al. 2023）。量を減らす設計は標的を外す。末尾にレビュー論文の骨子（RQ、貢献、章立て、投稿先）を付し、その新規性を先行レビューの探索とデザイン理論からの批判で検証した。判定は条件付きで新規である。識別能力の限界という診断そのものは Kozyreva ら (2024) の81論文カタログ、Bak-Coleman ら (2022) の定量、Tay ら (2023) の副作用指摘が既に個別に示しており、「環境側を設計する」という骨格も boosting の系譜（Kozyreva ら 2020、Herzog & Hertwig 2025）が先取りしている。統合の軸も Rittel & Webber の停止規則の不在と誤る権利の不在、Simon の限定合理性、Costanza-Chock の便益と負担の分離の交差点にある。新規性が残るのは、到達経路の縮退、信頼生産様式の AI への独立再利用4件、そして遅延と認知的負荷と配分率という測定可能な設計変数に落とした点である。検証の過程で、「効いた設計は識別を個人に求めていない」という当初の命題が自分の事例で反証されること（Community Notes の注記を書くのは個人である）が判明したため、「識別労働を消費の地点から生産または仲介の地点へ移す」へ改めた。 ## 四十八時間後には、消えている 誤情報に強くなる動画を見せる。 その場でテストをすると、効果が出る。 テストをせずに二日おいてから測ると、効果は見つからない。 Capewell らが2024年に報告したのは、そういう結果である。 動画介入は48時間後に統制群と有意差を失い（d=0.010, p=.854）、ゲーム型の介入は10日で消えた。 即時テストを挟んだ群でだけ効果が残った（d=0.416, p=.007）。 つまり、記憶を呼び戻す動作が効果の一部を作っていた。 Maertens らの5件の縦断的事前登録実験（N=11,759）も同じ方向を指している。 テキストと動画による接種は一か月は持つが、持続を予測するのは動機づけではなく記憶であり、再想起を挟まなければ消える。 ここで問われているのは、介入が無意味かどうかではない。 「人が見分けられるようになること」に社会の設計を賭けてよいか、である。 ## 素の識別能力は、どのあたりにあるのか Diel らの系統的レビュー（56 本、N=86,155）によると、人間のディープフェイク検出の正答率は55.54%（95%CI[48.87, 62.10]）で、信頼区間はチャンス水準の50%をまたぐ。 モダリティ別では音声62.08%、動画57.31%、画像53.16%、テキスト52.00%である。 Microsoft Research のオンラインゲームのログ（参加者12,500人超、評価約287,000件）でも、AI 生成画像の検出正答率は62%にとどまり、人物画像では高いが自然や都市の景観で大きく落ちた。 専門家でも変わらない。 ドイツの大学教員63名が卒業論文の抜粋（200〜300語）を判定した実験では、AI 文の正答率57%、人間文64%で、機械の検出器と有意差がなかった。 専門性の高い AI 文ほど識別は難しくなる。 訓練はどうか。 チェコ語話者254名を対象にした実験は、助言を与えるだけでは精度が上がらず、明確なフィードバックを伴う訓練でのみ精度と自己確信度の較正が改善したと報告している。 被験者が当初持っていた「AI 文はこういう文体だ」という思い込みは、そもそも誤っていた。 ## 上がるのは、疑う力のほうである 介入研究のメタ分析は、平均すると効果ありと報告する。 Huang らのメタ分析（k=49、N=81,155）は総合 d=0.60 を出している。 ただし内訳を見ると、拡散意図の低下 d=1.04、識別力 d=0.76 に対し、誤情報を信じてしまうこと自体の低下は d=0.27 で最も小さい。 Pfänder と Altay の系統的レビュー（67論文、303効果量、N=194,438、40カ国）は、この非対称を直接測っている。 識別力そのものは高い（d=1.12）。 しかし虚偽を疑う能力に比べて真実を信じる能力が低く、その差である懐疑バイアスが d=0.32 ある。 政治的に一致しないニュースが相手だと、差は0.78まで開く。 副作用として現れることもある。 がんニュースを対象にした健康メディアリテラシー介入は、不正確な見出しへの支持を5.6ポイント下げたが、正確な見出しへの支持も7.6ポイント下げ、識別力は改善しなかった。 北イタリアの高校生2,288人を対象にしたクラスルーム RCT では、Civic Online Reasoning、認知バイアス教育、接種理論の3介入がいずれも識別力を有意に改善せず、接種介入は一般的な懐疑を強めて科学的に妥当な内容への信頼を下げた。 上級中等教育の生徒459人への3種の介入も、3か月後の追跡で持続的な改善を示さなかった。 accuracy nudge の系列は、この分野で最もよく検証された介入である。 20実験、N=26,863 のメタ分析は共有識別力の増加（b=0.038, z=7.10）と虚偽見出しの共有意図10%減を報告するが、真実ニュースへの効果は非有意（b=0.006, p=.150）だった。 事前登録の直接追試では処置群の効果量は同等でも統制群の基準が上がり、相対効果は約半分に縮んだ。 保守層には効かないという再分析が出て、事前登録の adversarial collaboration によって、小さいが実在する効果として決着した（共和党3.3〜14.6%減、民主党7.6〜19.1%減）。 議論は続いているが、設計の側が受け取るべき数字は明確である。 訓練で動くのは主に疑う側であり、効果は小さく、放っておけば消える。 ## 効いた設計は、確かめる人を別の場所に置いた では何が効いたのか。 ロサンゼルス郡は1998年、飲食店に衛生格付けカードの掲示を義務づけた。 Jin と Leslie の自然実験は、義務化後に衛生スコアが上昇し、需要が品質に感応するようになり、食中毒による入院数が減ったことを示している。 利用者に衛生の見分け方を教えたのではない。 見えなかった品質を、店頭に出させた。 確かめる作業が消えたわけではない。 検査官が確かめ、その結果が店頭に出ている。 移ったのは、確かめる義務を負う場所である。 Akerlof が1970年に定式化したのは、まさにこの構造である。 品質が観察できない市場では低品質が高品質を駆逐する。 Spence が1973年に示したのは、コストのかかるシグナルが分離均衡を作るという解であり、スロップの文脈で読めば「安く作れる側が真似できない印」を制度が用意できるかという問いになる。 ただし認証は自動的には機能しない。 Lizzeri は、独占的な認証仲介者は合否だけを開示するのが最適で情報レントの大半を捕捉すると示した。 格付けの現場では、発行体払いモデル下の競争が格付けの水増しを誘発する。 評判システムも劣化する。 評価者が相手に害を与えることを避ける圧力によってスコアは構造的にインフレし、システムは自らの有効性を掘り崩す。 集合的な検証はどうか。 Community Notes の前身 Birdwatch が導入したのは、多数決ではなく、党派を超えた合意を優先するブリッジングアルゴリズムだった。 Chuai らは、カスケード237,180件とリポスト4.31億超を分析し、注記の表示後に誤解を招く投稿の拡散が61.2%減り、投稿者が自ら削除するオッズが94.3%上がったと報告している。 Slaughter らの PNAS 論文は別のデータで、リポスト −46.1%、いいね −44.1%、返信 −21.9%、閲覧 −13.5% という推定を出した。 素人集団の評価が専門ファクトチェッカーの評価と同程度に相関することも、207記事と評価者1,128名による比較で示されている。 ## 社会は、信頼をどこで作ってきたか 格付けカードの手つきには、長い前史がある。 Shapin と Schaffer (1985) が記述したのは、17世紀の実験哲学が事実の信頼をどう組み立てたかである。 Boyle の空気ポンプの実験には、立ち会える人数の限りがあった。 そこで採られたのが **virtual witnessing**、つまり文章による立会いの代替である。 装置の外見、手順、失敗した回数まで細かく書くことで、読者の頭のなかに実験室を再現する。 信頼を作ったのは、読者の判断力ではなく、記述の形式だった。 誰の記述なら信じてよいかは、別の装置が決めていた。 Shapin (1994) は、その装置が紳士の名誉だったと論じている。 経済的に独立した身分の者には嘘をつく動機がない、という前提が、証言の信頼性を担保していた。 根拠は内容の吟味ではなく、話し手の社会的位置にあった。 身分による担保は、やがて別のものに置き換わる。 Porter (1995) が追ったのは、専門家の個人的判断が定量化と標準化に譲っていく過程である。 置き換えの理由は精度ではない。 外部からの説明責任の要求である。 専門家が「自分の判断を信じてほしい」と言えなくなったとき、数字がその代役を引き受けた。 Daston と Galison (2007) は、科学図譜の歴史から、客観性が三つの様式を経たと整理した。 自然への忠実さ、機械的客観性、訓練された判断である。 機械的客観性は観察者の判断を装置で排除しようとしたが、排除しきれず、訓練された判断が第三の様式として戻ってきた。 四つに共通するのは、信頼が個人の識別能力の外側で作られていることである。 記述の形式、身分、数字、装置。 どれも、受け手が見分けられるようになることを求めていない。 この枠組みは、AI に対してすでに再利用されている。 Christin (2016) はアルゴリズムをめぐる客観性の論争を Daston と Galison の三様式に重ねた。 Rieder と Simon (2016) はビッグデータ由来の証拠への信頼を Porter の枠組みの延長に置いた。 Anichini と Kotras (2024) は放射線科と先史考古学の現場を調べ、AI 導入の局面で「訓練された判断」が再浮上していることを示している。 Schenk (2025) の実験（スイスの学生793名）では、AI 裁判官の許容性の判断が、機械的客観性と共感的理解の対立として現れた。 同じ枠組みが独立に四回持ち出されているという事実は、この枠組みがいまも使われていることの証拠になる。 ただし、装置には固有の失敗がある。 Power (1997) が監査社会と呼んだのは、検証の儀礼が増えても実質的な検証が伴わない状態である。 監査は説明責任の要求に応える形式として働き、形式の遂行それ自体が目的になる。 Community Notes の評価が割れた理由、つまり個別の注記は効くのに制度全体では有意差が出ないという結果は、この形をしている。 装置があることと、装置が働いていることは、別に測らなければならない。 ## それでも破れる条件は、どこにあるか 同じ仕組みの評価が、割れている。 ロールアウト全体を対象にした準実験は、Community Notes 機能の導入それ自体では誤情報エンゲージメントの削減に統計的有意差が出ないと報告した。 著者らが挙げる主因は、注記が表示されるまでの遅延である。 拡散のほとんどは最初の数時間で終わるのに、合意形成には時間がかかる。 もう一つの制約は、参加者の側にある。 ワクチン関連投稿2,250件と18か月分のデータを分析した研究は、事実確認に認知的負荷がかかる主張ほど「有用」判定に到達する注記が付きにくいことを示した。 382名への調査でも同じ傾向が出ている。 手間のかかる嘘ほど、集合的検証をすり抜ける。 ラベルの設計にも構造的な副作用がある。 偽ニュースの一部にだけ警告を付けると、警告のない偽ニュースの知覚精度が上がる。 ブラウザ内の信頼性ラベルを配布したフィールド実験は、ニュース消費の質にも誤情報への信念にも平均的な効果を見いだせなかった。 AI 生成ラベルは、真の情報にも人間が作った情報にも、付けば同じように信頼を下げる。 集合知そのものにも成立条件がある。 他者の推定値を見せると個人間の独立性が失われ、分布の多様性が縮んで平均化の恩恵が消える。 検証の設計は、独立した一次判断を先に取り、集約と公開を後に置く順序を守る必要がある。 ## ボトルネックは、検証の負担の配分にある 姉妹ノート [AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/) は、スロップを物の性質ではなく検証の負担の配分として読んだ。 制度側の数字は、その読みと整合する。 査読は不足していない。 Kovanis らの推計では、2015年時点で査読者の総供給は需要を15〜249%上回っている。 偏っているのである。 査読労働の69〜94%を、上位20%の査読者が担っている。 門番を強くすると、供給側が死ぬ。 Wikipedia は品質管理を自動化した結果、新規参加者の即時差し戻し率が上がり、編集者の定着率は2006年末の40.0%から2007年初の13.2%へ落ちた。 編集者を増やすだけでも品質は上がらない。 明示的または暗黙的な調整が伴う場合にのみ品質が上がり、調整のない人数増はむしろ有害だった。 検証コストを下げると、過信は減る。 Vasconcelos らは、AI への過信を認知バイアスではなく検証のコスト便益推論として説明し、5研究（N=731）で検証コストが低いときに過信が減ることを示した。 逆に、支援は努力を消すのではなく移し替える。 AI 支援コーディングの実験（N=60）では、主観的負荷が平均18.2 TLX ポイント下がり所要時間が22%短縮された一方、検証負荷の指標がタスク複雑度に伴うストレスと疲労の上昇を部分的に媒介した。 認知強制関数は過信を減らすが、主観的満足度は最も低くなる。 Bainbridge が1983年に書いた自動化の皮肉が、そのまま当てはまる。 自動化は難しい残余だけを人間に残し、監視役に回った人間は技能を維持する機会を失う。 監視課題の検出成績の低下は、無頓着によるものではなく、努力を要する注意資源の限界による。 ## 到達の経路が、細っている 見分ける話とは別に、たどり着く話がある。 学術情報では、電子化が進むほど引用は新しく少数の論文へ集中した（3,400万論文、1945〜2005年）。 年間論文数が多い分野ほど既存の被引用多数論文への参照が必須化し、カノンが硬直する（241分野、9,000万論文、18億引用）。 量が増えるほど、到達先は狭くなる。 生成検索は、この傾向を別の方向から強めている。 11,500クエリのベンチマークでは51.5%に AI Overview が生成され、従来検索と生成検索の出典重複は平均 Jaccard 類似度0.2以下だった。 ChatGPT の実利用ログ20万件超の分析では、検索可能なクエリに限っても AI 応答は大半のトピックで Google 検索結果より多様性が低い。 生成検索の引用ソースを712クエリで監査した研究は、約16%がすでに AI 生成コンテンツだったと報告している。 検証されているかというと、されていない。 論文56,381件と220万引用の分析では無効引用率が1.07%（2025年は前年比80.9%増）で、利用者調査（N=94）では「常に検証する」と答えた86.7%のうち41.5%が実際には BibTeX を未検証でコピペしていた。 出典付き回答が謳う検証可能性そのものを、専門家利用者への質的研究（N=21）が疑っている。 学習も浅くなる。 7実験、合計 N≈10,462 の RCT では、ChatGPT で学習した場合に滞在時間が短くなり、「新しいことを学んだ」という評価も低く、情報内容を統制しても浅い学習が生じた。 学術情報の外でも、同じことが起きている。 米国の地方紙は、2004年以降におよそ四分の一が消えた（Abernathy 2020）。 報道室の人員が減った地域では、市長選の政治的競争性が下がる（Rubado & Jennings 2020）。 200紙15年分の内容分析を選挙結果と突き合わせた研究は、地方報道の縮小が議員の認知度と投票率の低下に結びついていることを示した（Hayes & Lawless 2021）。 情報の総量が増えた時代に、地域の情報を取る経路のほうは細っている。 細った場所には、別のものが入る。 Bengani (2019) が特定したのは、地方紙を装ってアルゴリズム生成の記事を配信するサイト網である。 当初450超だったものが、後に1200超まで数えられた。 作るのも難しくない。 イタリア語の記事4万件でモデルを微調整するだけで、人間が識別できない水準の「ニュース風」テキストを量産できる（Puccetti et al. 2024）。 受け手の側は、降りはじめている。 46カ国9.3万人超の調査で、意図的にニュースを避ける人の割合は2017年の29%から38%へ上がった（Newman et al. 2025）。 出典が付いていれば確かめられる、という前提も持ちこたえていない。 生成検索の出力を人手で監査した研究では、生成された文のうち引用に完全に裏付けられていたのは51.5%で、引用のほうも74.5%しか対応する文を支持していなかった（Liu, Zhang & Liang 2023）。 米国の成人900名の実ブラウジングデータでは、AI 要約が表示されたページでリンクのクリック率は15%から8%へ落ち、引用元へのクリックは訪問の約1%にとどまった（Chapekis et al. 2025）。 そして米国の成人を代表する標本（N=4,927）の事前登録の実験は、引用や参照リンクの提示が、その内容が誤りや幻覚であっても信頼を有意に高めることを示している（Li & Aral 2025）。 think-aloud 研究（N=22）でも、チャット形式の回答は見かけの完全さゆえに誤った信頼を生み、誤答に対しても確信度が上がった（Mayerhofer et al. 2025）。 出典の表示は、検証を促していない。 検証したという感覚を配っている。 Simon が1971年に書いた通り、情報の豊かさは注意の貧しさを作る。 違うのは、いま貧しくなっているのが注意だけでなく、経路の多様性でもあることである。 ## 設計対象は何になるのか RQ1 に直接答える査読研究は、本収集の範囲では見つからなかった。 最も近い C35（epistemic security の概念化）は2020年の機関報告書で、生成物の大量流通を前提にしていない。 だから以下は、隣接領域からの組み立てである。 **検証の負担を、誰にどう配るか**：査読の偏り（69〜94%が上位20%）と門番強化の副作用（定着率40.0%→13.2%）は、負担配分の設計問題として同じ形をしている。 **判定を、消費の地点から動かせるか**：衛生格付けカードは、受け手に見分け方を教えるのではなく、検査官の判定を店頭に出させた。ブリッジングアルゴリズムは、多数決ではなく合意の質を集約の対象にした。どちらも識別労働をなくしてはいない。誰がどこで負うかを変えている。 **遅延と負荷を、設計変数として扱えるか**：注記の効果は表示の遅れで消え、手間のかかる主張ほど検証されない。速度と労力は、精度と並ぶ一次の設計変数である。 **誰に依存するかを、素人が選べるか**：Hardwig が定義した認識的依存は、専門家の直接証拠を持たない者でも合理的に信じうるとする。Goldman はその選別基準を挙げたが、Nguyen が示した認識的孤島では、素人による評価テストが存在せず、誤った専門家選択が自身を強化する。スロップは、この孤島を広げる方向に働く。 **独立性を、集約の前に確保できるか**：他者の推定値の可視化は集合知の前提である多様性を壊す。 **総量ではなく、止めどきを設計できるか**：情報過多のメタ分析（117研究、N=133,011）は、過多が情報回避とストレスに正の相関を持つことを確認している（Graf & Antoni 2022）。だが包括レビューは、客観的な情報量と主観的な過多感が一致しないと指摘する（Arnold et al. 2023）。人は網羅ではなく「十分」の判断で探索を止めており、その停止規則は識別できる（Browne et al. 2007、N=115）。減らせるのは総量ではなく、止めてよいと判断できる根拠のほうである。 **媒介者を、条件で切り替えられるか**：人間の編集とアルゴリズム推薦の優劣は一律ではない。フィールド実験では平均するとアルゴリズムがクリック数で優るが、個人データが乏しいときとニュース性の高い日には人間の編集が優る（Peukert et al. 2023）。どちらを使うかは、条件で切り替える設計変数になる。 **選別の労力を、機械にどこまで移せるか**：能動学習による文献スクリーニングは、シミュレーションで文献の8〜33%を確認した時点で95%の再現率に達する（van de Schoot et al. 2021）。ただし別のツールの遡及評価では偽陰性が12.6%残った（Gates et al. 2018）。負担は移せるが、移した先で何を取りこぼすかを測る必要がある。 ## この読みが外れる条件 第一に、識別能力が構造的に上がる証拠が出た場合である。 情報分析官32名への30分の訓練は全体精度を72%から9ポイント改善させた（95%CI[2.7, 15.4]）。 専門訓練を受けた少人数の標本であり、一般の集団で再現するかは未検証だが、再現すれば「見分ける力に賭けない」という前提は弱くなる。 第二に、誤情報研究の前提そのものが崩れる場合である。 Budak らは、問題コンテンツへの平均的曝露が限定的で少数の層に集中しており、アルゴリズムの寄与も通説より小さいと論じている。 訂正の効果をめぐるメタ分析は、査読後も反論と返答が続いており決着していない。 バックファイア効果は、52争点、被験者10,100人超の検証で一つも見つからなかった。 介入の危険性も有効性も、想定より小さい可能性がある。 第三に、スロップ固有の測定が確立した場合である。 本収集で見つかった実証の多くは誤情報を対象にしており、未検証の生成物一般を対象にしていない。 両者が別物であるなら、ここで引いた数字の射程は狭まる。 ## レビュー論文にするための骨子 本ノートを投稿論文に組み直すための設計。本文はまだ書かない。 ### タイトル案 1. **Designing for Slop: Why Detection Is the Wrong Bet and What to Design Instead**：主張を前に出す案。 2. **From Discernment to Distribution: A Review of Information Environment Design Under Unverified Generative Content**：検証の負担配分という軸を宣言する案。 3. **Who Verifies? A Review of Epistemic Infrastructure in the Age of AI Slop**：問いの形で立てる案。 ### RQ - **RQ1**：AI スロップの発生を止められない前提に立ったとき、社会（制度、インフラ、プラットフォーム、教育）は何を設計対象にするのか。 - **RQ2**：受け手は薄い情報をどう見分けるのか。その能力は訓練で上がるのか、効果量はどれくらいで、どこで失効するのか。 - **RQ3**：重要な情報にたどり着く経路をどう設計し、維持するのか。 ### 貢献の主張 スロップ研究（定義、検出、対策）、情報環境の介入研究（リテラシー、集合的検証、ナッジ）、信頼の社会史（客観性の様式の変遷）は、これまで別々の文献群として蓄積されてきた。 本レビューはこの三つを **検証の負担が誰に配分されているか** という一つの軸で並べ直す。 順序は新規性の分布に合わせる。 1と2が本レビュー固有の寄与にあたり、4と5は先行レビューが個別に示してきたことの位置づけ直しである。 1. **到達経路は、学術情報とニュースの両側で細っている**（RQ3）。そして出典の表示は検証を促さず、検証したという感覚を配る（引用は内容が誤りでも信頼を上げ、引用元へのクリックは訪問の約1%）。生成検索が到達経路に与える影響を統合した系統的レビューは、本収集の範囲では存在しない。 2. **信頼生産の様式は、AI に対して独立に四回持ち出されている**（Christin 2016、Rieder & Simon 2016、Anichini & Kotras 2024、Schenk 2025）。機械的客観性と訓練された判断という枠組みが現に使用されているという経験的指標である。これらを統合したレビューは存在せず、個別事例の蓄積だけが進んでいる。 3. **検証の負担配分を、遅延、認知的負荷、配分率という測定可能な設計変数へ落とす。** ただし軸そのものは新しい発見ではない。Rittel と Webber の停止規則の不在（性質2）と誤る権利の不在（性質10）、Simon の限定合理性、Costanza-Chock の便益と負担の分離が、それぞれ別の語彙で軸の中身を占めている。新規性は、これらのどれにも測定可能な形では現れていない三変数の側にしかない。 4. **効いた設計は、識別労働を消費の地点から生産または仲介の地点へ移し、移転先の運用主体を公示している**（RQ1）。「識別を個人に求めない」という言い方は誤りである。Community Notes の注記を書くのは個人であり、衛生検査をするのも検査官という個人である。消えたのは識別労働ではなく、それを消費の地点で負う義務のほうである。この移転は17世紀の virtual witnessing 以降の信頼生産史にも見られるが、歴史は一方向ではない。Daston と Galison が示したのは、機械的客観性が判断を排除しきれず、訓練された判断が第三の様式として戻ったことである。 5. **受け手の判定能力に賭ける設計は、効果量、減衰、副作用の三点で支えられない**（RQ2）。ただし判定は二種類あり、証拠の射程が違う。由来の識別（生成物かどうか）は素の精度が55.54%でチャンス水準をまたぐ（Diel et al. 2024）。内容の真偽判断は訓練の効果が即時テストなしで48時間から10日で消え、上がるのは主に疑う力である（懐疑バイアス d=0.32、Pfänder & Altay 2025）。姉妹ノートの定義では、正確な内容でも検証されずに押し付けられればスロップであるから、スロップに直接射程が届くのは前者であり、後者は部分的にしか届かない。なお、この診断そのものは先行レビューが既に個別に示している（Kozyreva et al. 2024 のカタログ、Bak-Coleman et al. 2022 の定量、Tay et al. 2023 の副作用の指摘）。本レビューの寄与は、これを由来識別と真偽判断に切り分け、スロップの定義への射程を明示した点に限られる。 6. **RQ1 に直接答える査読研究は存在しない。** この空白の位置を特定し、研究課題として提示する。 ### 章立て - **1 Introduction**：識別に賭ける対策が繰り返し失敗してきた事実から入り、問いを「見分けられるか」から「誰が確かめ、その負担をどう配るか」へ組み替える。ここに**先行概念との対照表**を置く。行は Rittel & Webber (1973) の停止規則の不在と誤る権利の不在、Simon (1969/1996) の限定合理性と satisficing、Simon (1971) の注意の希少性、Costanza-Chock (2020) の便益と負担の分離、Buchanan (1992) の四つの order の第4 order。列は「その概念が述べていること」と「本レビューが足すもの（遅延、認知的負荷、配分率という測定可能な変数）」の二つ。この表がないと、統合の軸は既存概念の言い換えとして読まれる。 - **2 Background**：三つを並置する。(a) スロップの定義と検証の外部化（姉妹ノート [AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/) のコーパス）、(b) 信頼の生産様式の歴史（virtual witnessing、紳士の名誉、定量化、機械的客観性、訓練された判断、監査社会）とその AI 時代の再利用、(c) **先行する設計原則との差分**。(c) では二点を各1段落で書く。Norman (1988/2013) の knowledge in the world と forcing function は単一の人工物の内部で完結するのに対し、本レビューの対象は複数主体をまたぐ移転であり、移転に固有の失敗モード（表示の遅延で効果が消える、認知的負荷の高い主張ほど検証されない）を持つこと。そして Krippendorff (2006) の second-order understanding に照らすと、移転先で何が「確かめられたこと」になるかは意味の共有に依存し、格付け記号の意味は集団によって異なりうること。 - **3 Method**：軽量スコーピングの手続き、検索語、包含と除外、チャーティング項目（介入型、効果量、標本、減衰、副作用、負担の配分先）。PRISMA-ScR 準拠を狙うなら追加収集が要る（下記）。**先行レビューとの関係を Method で明示する**。本レビューは既存の系統的レビュー（Kozyreva et al. 2024、Pfänder & Altay 2025、Bak-Coleman et al. 2022 ほか）を一次証拠ではなく統合の対象として扱う。この扱いを書かないと、既存レビューの後追いになる。 - **4 Results / RQ3**：到達経路。カノンの硬直、生成検索の出典重複の低さ、ニュース砂漠、出典表示の空転。新規性が最も高いため先頭に置く。 - **5 Results / RQ1**：識別労働の移転。開示義務、シグナリングと認証の限界、ブリッジングアルゴリズム、門番強化の副作用、査読労働の偏り。移転先の運用主体と、誤判定の不利を誰が負うかを各事例で明示する。 - **6 Results / RQ2**：受け手の判定能力の現在地。**由来識別**と**内容真偽判断**の二表に分ける。前者に Diel et al. (2024)、Roca et al. (2025)、Fiedler & Döpke (2025)、Milička et al. (2025)、Kamali et al. (2026)。後者に Pfänder & Altay (2025)、Huang et al. (2024)、Lyons et al. (2024)、Martini et al. (2025)、accuracy nudge 系列。各表の直後に、スロップの定義に照らしてどちらが射程を持つかを1文で書く。 - **7 Discussion**：三つの非対称を提示する。(a) 由来は識別できないが訂正は効く（メタ分析 d=0.29、バックファイアは大規模追試で再現せず）、(b) 標的は情報の量ではなく検証の配分（主観的過多感と客観的量は一致しない）、(c) 装置は儀礼化しうる（監査社会の指摘は、制度全体で効果が消える Community Notes の結果と同型）。 - **8 Research agenda**：RQ1 の空白を埋める研究設計。負担配分の測定尺度、遅延と負荷を独立変数に置いた実験、非英語圏。 - **9 Limitations**：英語圏偏重、プレプリント比率、スロップ固有の測定基準の不在、誤情報研究からの外挿、開示制度の成功例における生存者バイアス（効かなかった開示制度の母集団を提示できていない）。加えて、本レビューは AI を三つの位置で同時に扱っている。汚染源としての環境（生成検索の引用ソースの約16%が既に AI 生成物）、探索の道具（AI 要約でクリック率が15%から8%へ落ちる）、評価装置（検証を機械に戻せるか）である。設計上の含意は三つとも異なるため、Results では位置ごとに証拠を分ける。 ### 新規性の検証（2026-08-28 実施） 先行レビューの探索とデザイン理論からの批判を、それぞれ独立にかけた。結果は**条件付きで新規**である。 **新規性への脅威（先行レビュー）** - **Kozyreva et al. (2024) Toolbox**（Nature Human Behaviour、81論文、9種の個人レベル介入）が、貢献5の対象範囲をほぼ完全に先取りしている。差別化はカタログと否定的総括の差に限られる。 - **Kozyreva et al. (2020) ／ Herzog & Hertwig (2025)** の boosting 系譜が、貢献4の「環境側を設計する」骨格を先取りしている。歴史的系譜への接続を弱めると、この系譜の敷衍に見える。 - **Bak-Coleman et al. (2022) ／ Tay et al. (2023)** が、個別介入の効果不足と副作用の見落としを既に定量的、方法論的に指摘している。 **新規性への脅威（デザイン理論）** - 統合の軸は、Rittel & Webber の性質2と性質10、Simon の限定合理性、Costanza-Chock の便益と負担の分離の交差点にある。本ノートはこの三つをいずれも引いていない。 - 貢献4は、Norman の knowledge in the world の再記述として読まれうる。差分を書けなければ取り下げる。 - 本レビューは設計行為も設計者も観察していない。Cross (1982) が Design Studies で定義した対象領域と一致しないため、同誌は第一候補として成立しない。 - 姉妹2ノートが既に「スロップは検証の負担の配分である」（定義）と「効いた対策は見分けようとせず構造を変えていた」（結論）を置いている。定義に組み込まれた帰結を再確認しているだけではないかという循環の疑いに、答える必要がある。貢献4を反証しうる観察条件を明示することが最小の応答になる。 **保たれている空白** - 検証の負担配分の一般理論。査読コスト論はドメイン特化、委任理論は査読前で、社会全体の配分理論として成立した先行レビューは見つからなかった。7項目中もっとも明確な空白。 - 機械的客観性の AI 適用を統合したレビュー。個別事例4件はあるが統合はない。蓄積が進んでおり、他者が先に書くリスクは中程度。 - 生成検索が到達経路に与える影響の系統的レビュー。 - デザイン研究誌における本主題。Design Studies / Design Issues / She Ji を横断して該当ゼロ件。 ### 投稿先の候補（ダイヤモンド OA に限定） 条件は、著者が掲載料を払わず、読者も無料で読め、査読が付くことである。誌の格は問わない。 この条件で絞ると、当初の候補はいずれも外れる。 *Design Issues* は購読型で出せば著者負担がゼロになるが読者は無料で読めず、OA を選ぶと1,800ドルかかる。 *Design Studies* の OA オプションは4,690ドル、*Big Data & Society* は2,250ドル、*Design Science* は2,610ポンド、*International Journal of Design* は1,000ドルである。 日本デザイン学会『デザイン学研究』は「論説（Review Articles）」の投稿区分を持ち主題も近いが、掲載料が全頁数一律で4万円かかるため、著者無料の条件からは外れる。 - **第一候補**：*Engaging Science, Technology, and Society*（ESTS、Society for Social Studies of Science 発行）。主題の適合が最も高い。AI 生成物の氾濫、検証労働の配分、知識インフラは STS の中心的な関心にあたる。2026年の第12巻から投稿区分が単一に統一され、カバーレターで趣旨を説明すれば定型外の総説的論考も投稿しうる。上限9,000語（注を含み参考文献を除く）、二重盲検査読。ただし APC なしの根拠は検索エンジン経由の確認にとどまるため、投稿前に編集部へ確認する。 - **第二候補**：日本認知科学会『認知科学』の**展望論文**。筆頭著者が会員であれば査読料も掲載料もかからず、J-STAGE で公開される。展望論文はレビュー論文にあたる区分であり、投稿区分の適合はこの一覧のなかで最も確実である。日本語で書ける。ただし RQ1（社会制度の設計）は認知科学の射程から外れるため、RQ2（判定能力の限界）と RQ3（探索と到達）を軸に組み直し、RQ1 は考察に降ろす必要がある。非会員の場合は査読料1万円と頁単価1万5千円がかかる。 - **第三候補**：*Journal of Human-Technology Relations*（JHTR、TU Delft Open）。投稿料も APC も一切不要であることを公式ページで直接確認できた唯一の誌である。デザイン研究と HCI と STS の学際誌で、主題の適合も高い。ただし「reviews」区分は書籍評であって文献レビューではないため、Research article 区分（上限10,000語）で理論的総合として出せるかを事前に問い合わせる。 - **第四候補**：*Artifact: Journal of Design Practice*（Intellect、Royal Danish Academy 出資）と *FORMakademisk*（Oslo Metropolitan University）。どちらもダイヤモンド OA のデザイン誌だが、前者は実践研究寄り、後者はデザイン教育寄りで、主題との距離がある。 除外した候補も記録しておく。 *Information Research* はダイヤモンド OA として最も確実だが、2026年8月時点で投稿を受け付けていない。 *First Monday* は2026年5月号で終刊した。 *tripleC* は Papers 区分に査読が付く一方、review を含む Reflections 区分は査読対象外であり、実績にする目的には適さない。 ### 追加収集が要る範囲 1. **デザイン理論の一次文献**（新規性の検証で最優先と判定された）。Rittel & Webber (1973) の性質2と性質10の原文、Simon (1969/1996) 第5章、Norman (1988/2013) 第3章と第4章、Krippendorff (1989, 2006)、Buchanan (1992) の第4 order、Cross (1982)、Costanza-Chock (2020) の便益と負担の分離、Schön (1983) 第2章。**これらを読んで差分を書けなければ、貢献3と貢献4は取り下げる。** 2. **Design Studies と Design Issues の系統的検索**。「検証の負担配分」を設計対象に立てた先行論文が存在しないことを、探索範囲を明記して確かめる。現在の「該当ゼロ件」は横断検索の結果であって、系統的検索ではない。 3. **RQ1 の空白**：epistemic security、information ecosystem design、公共政策側の一次資料（現状で最も近い文献は2020年の機関報告書で、生成物の大量流通を前提にしていない）。 4. **効かなかった開示制度の母集団**：衛生格付けカードと Community Notes は成功例として提示されているが、開示義務と集合的検証の全事例における成功率は示していない。生存者バイアスへの応答に要る。 5. **非英語圏**：日本語と中国語の実証研究。現在のコーパスは英語圏に強く偏っている。 6. **スロップ固有の測定**：現在の証拠の多くは誤情報を対象にしており、未検証の生成物一般を対象にしていない。両者が別物であれば、本レビューの数値の射程は狭まる。 7. **撤回の横断検索**：Retraction Watch データベースでの照合が未実施。 ## 未検証事項 本文で用いた数値のうち、次は一次確認が済んでいない。 - Slaughter et al. (2025) には2026年1月30日付の公式訂正（10.1073/pnas.2600635123）がある。訂正は利害関係の開示を足したもので、数値は変えていない（Europe PMC の訂正の全文で確認、2026-11-06）。本文の数値（リポスト −46.1% ほか）は要旨で確かめた。 - Diel et al. (2024) の55.54%と信頼区間（48.87〜62.10）、56 本と N=86,155 は要旨で確かめた（2026-11-06）。本文は読めていない。 - Roozenbeek et al. (2022) の YouTube フィールド実験の正確な標本数。 - Guess et al. (2020) の米印両調査の正確な標本数。 - Wack et al. (2026) と Cheng et al. (2026) の著者表記。 - 撤回と懸念表明の横断検索は未実施（Crossref の更新フィールドの範囲では0件）。 追加収集分（G–K群117件）については、次が未確認である。 - Li & Aral (2025) と Chapekis et al. (2025) は、いずれも査読誌掲載の有無が未確認のプレプリントである。本文で引いた数値（N=4,927、参照リンクが誤りでも信頼を上げること、クリック率 15% から 8%、引用元へのクリック約 1%）は、arXiv の本文で確かめた（2026-11-06）。後者は Pew Research Center の短報と同一データと見られるが、著者とデータの同一性は未確認。 - Abernathy の news desert 報告はシリーズとして継続更新されており、本文の「約四分の一」がどの版の数字かは未確認。 - Kuhlthau (1991) と Metzger & Flanagin (2013) の DOI 表記。 コーパス全体の未検証事項は `source/review/slop-era-information-design/papers.md` の末尾（22項目）と、G–K群の各群末尾にある。 新規性の検証（2026-08-28）で残った未確認は次のとおり。 - Design Studies と Design Issues に「検証の負担配分」を設計対象に立てた先行論文が存在するかどうか。現在の「該当ゼロ件」は横断検索の結果であって、系統的検索ではない。 - デザイン理論の一次文献の該当箇所。Rittel & Webber (1973) の性質2と性質10の頁、Simon (1969/1996) の版ごとの章番号、Norman (1988/2013) の版差による章番号、Krippendorff (2006) と Costanza-Chock (2020) の該当頁は、いずれも未確認のまま引いている。 - Kozyreva et al. (2024)、Herzog & Hertwig (2025)、Ecker et al. (2022) の本文は認証壁により未読で、書誌と要旨のみで判定した。 - 投稿先の APC。ESTS と JCMC は公式ページがボット対策で取得できず、掲載料なしの根拠は検索エンジン経由の確認にとどまる。JHTR と Artifact と FORMakademisk のレビュー論文の受理可否も未確認。投稿前に編集部へ問い合わせる。 ## 関連ノート - [AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/)：スロップを検証の負担の配分として定義した姉妹ノート。本ノートはその定義を制度設計の側から使っている。 - [スロップと対策の歴史：なぜ同じ賭けが繰り返し破れるのか](https://jamjet-iqbal.com/notes/slop-countermeasures-history/)：対策の五つの型と、その破れ方。本ノートの「効いた設計は識別労働を消費の地点から動かした」は、この歴史的結論の現在形にあたる。 - [デザイン史から見たスロップ：職能は粗製濫造への対策として始まった](https://jamjet-iqbal.com/notes/slop-design-history/)：趣味判断による選別が階級とジェンダーの装置でもあった経緯。門番の誤りが弱い側に集中するという問題の前史。 - [認知的降伏はどうやって AI スロップになるか：完成度の差を誰も埋めない仕組み](https://jamjet-iqbal.com/notes/cognitive-surrender-ai-slop/)：作り手の側で検証が省かれる経路（評価をしない、基準が形にずれる、差が見えない、基準が痩せる）を分けた考察。本ノートが受け手と制度の側から扱う負担の、発生源にあたる。 - [LLM-as-a-Judge の最新潮流：中核研究53件の文献地図と創造性評価の独立章](https://jamjet-iqbal.com/notes/llm-as-a-judge-literature/)：検証を機械に戻せるかという問い。検証の負担の配分先として、人以外の選択肢を扱う。 - [制作者から編集者へ — AI時代のデザイナー役割移行の構造分析](https://jamjet-iqbal.com/notes/maker-to-editor-paradigm/)：制作者から編集者への役割移行。負担配分の変化を職能の側から記述したもの。 - [生成AIの早期利用は思考の醸成を阻害するか：cognitive offloading と学習の文献地図](https://jamjet-iqbal.com/notes/ai-cognitive-offloading-learning/)：認知的オフロードと学習。生成検索で学習が浅くなるという結果（Melumad & Yun 2025）と同じ地層にある。 - [90%採用 × 10%肯定 — AIツール普及と評価乖離のパラドクス](https://jamjet-iqbal.com/notes/adoption-approval-paradox/)：利用率と肯定率の乖離。ラベルが態度を変えても行動を変えないという結果と接続する。 - [知識の消失：発見の双対としてのアンディスカバリー](https://jamjet-iqbal.com/notes/undiscovery-knowledge-loss/)：到達されない知識の消失。カノンの硬直と出典重複の低さが向かう先。 - [データビジュアライゼーションとデータアートは何が同じで、何が違うのか](https://jamjet-iqbal.com/notes/data-viz-vs-data-art-literature/)：図が読み手に何を要求しているかで、情報表示と作品を分ける手続きを整理したノート。本ノートの「検証の負担をどこに置くか」を、表示物の側から見る三層の問いに対応させる。 ## References Abernathy, P. M. (2020). *The Expanding News Desert*. UNC Hussman School of Journalism and Media. https://www.usnewsdeserts.com/ Adams, Z., Osman, M., Bechlivanidis, C., & Meder, B. (2023). (Why) Is Misinformation a Problem? *Perspectives on Psychological Science*. https://doi.org/10.1177/17456916221141344 Akerlof, G. A. (1970). The Market for "Lemons": Quality Uncertainty and the Market Mechanism. *Quarterly Journal of Economics*, 84(3), 488–500. https://doi.org/10.2307/1879431 Allaham, M., & Diakopoulos, N. (2026). Synthetic Sources? Auditing Generative Search Engine Citations for Evidence of AI-Generated Sources. arXiv:2605.23684. https://arxiv.org/abs/2605.23684 Allen, J., Arechar, A. A., Pennycook, G., & Rand, D. G. (2021). Scaling up fact-checking using the wisdom of crowds. *Science Advances*, 7(36). https://doi.org/10.1126/sciadv.abf4393 Altay, S. (2026). Rethinking the problem of misinformation and its solutions. *New Media & Society*. https://doi.org/10.1177/14614448261428635 Anichini, G., & Kotras, B. (2024). Trained Judgements: Artificial Intelligence, Epistemic Tensions and the Production of Scientific Objectivity. *Science, Technology, & Human Values*. https://doi.org/10.1177/01622439241262854 Arnold, M., Goldschmitt, M., & Rigotti, T. (2023). Dealing with information overload: a comprehensive review. *Frontiers in Psychology*, 14, 1122200. https://doi.org/10.3389/fpsyg.2023.1122200 Aslett, K., Guess, A. M., Bonneau, R., Nagler, J., & Tucker, J. A. (2022). News credibility labels have limited average effects on news diet quality and fail to reduce misperceptions. *Science Advances*. https://doi.org/10.1126/sciadv.abl3844 Bainbridge, L. (1983). Ironies of Automation. *Automatica*, 19(6). https://doi.org/10.1016/0005-1098(83)90046-8 Bak-Coleman, J. B., Kennedy, I., Wack, M., Beers, A., Schafer, J. S., Spiro, E. S., Starbird, K., & West, J. D. (2022). Combining interventions to reduce the spread of viral misinformation. *Nature Human Behaviour*, 6, 1372–1380. https://doi.org/10.1038/s41562-022-01388-6 Bengani, P. (2019). "Pink Slime": Partisan Journalism and the Future of Local News. *Columbia Journalism Review* / Tow Center for Digital Journalism. https://www.cjr.org/tow_center/pink-slime-partisan-journalism-and-the-future-of-local-news.php Bolton, P., Freixas, X., & Shapiro, J. (2012). The Credit Ratings Game. *Journal of Finance*, 67(1). https://doi.org/10.1111/j.1540-6261.2011.01708.x Browne, G. J., Pitts, M. G., & Wetherbe, J. C. (2007). Cognitive Stopping Rules for Terminating Information Search in Online Tasks. *MIS Quarterly*, 31(1), 89–104. https://aisel.aisnet.org/misq/vol31/iss1/7/ Buchanan, R. (1992). Wicked Problems in Design Thinking. *Design Issues*, 8(2), 5–21. https://doi.org/10.2307/1511637 Budak, C., Nyhan, B., Rothschild, D. M., Thorson, E., & Watts, D. J. (2024). Misunderstanding the harms of online misinformation. *Nature*, 630(8015). https://doi.org/10.1038/s41586-024-07417-w Butler, L. H., DeGutis, J., Tay, L. Q., Ecker, U. K. H., & Swire-Thompson, B. (2025). Corrections are effective for science misinformation. *Nature Human Behaviour*, 9(12), 2458–2460. https://doi.org/10.1038/s41562-025-02245-y Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making. *PACM HCI*, 5(CSCW1), Art.188. https://doi.org/10.1145/3449287 Capewell, G., Maertens, R., Remshard, M., van der Linden, S., Compton, J., Lewandowsky, S., & Roozenbeek, J. (2024). Misinformation interventions decay rapidly without an immediate posttest. *Journal of Applied Social Psychology*. https://doi.org/10.1111/jasp.13049 Chan, M. S., & Albarracín, D. (2023). A meta-analysis of correction effects in science-relevant misinformation. *Nature Human Behaviour*. https://doi.org/10.1038/s41562-023-01623-8 Chan, M. S., & Albarracín, D. (2025). Reply to: Corrections are effective for science misinformation. *Nature Human Behaviour*, 9(12), 2461–2470. https://doi.org/10.1038/s41562-025-02265-8 Chapekis, A., Lieb, A., Shah, S., & Smith, A. (2025). Investigating Click Behaviors On Google Search Result Pages That Produce an AI Overview. arXiv:2608.04831. https://arxiv.org/abs/2608.04831 Christin, A. (2016). From Daguerreotypes to Algorithms: Machines, Expertise, and Three Forms of Objectivity. *ACM SIGCAS Computers and Society*, 46(1). https://doi.org/10.1145/2908216.2908220 Chu, J. S. G., & Evans, J. A. (2021). Slowed Canonical Progress in Large Fields of Science. *PNAS*, 118(41), e2021636118. https://doi.org/10.1073/pnas.2021636118 Chuai, Y., Pilarski, M., Renault, T., Restrepo-Amariles, D., Troussel-Clément, A., Lenzini, G., & Pröllochs, N. (2026). Community-based fact-checking reduces the spread of misleading posts on X (formerly Twitter). *Nature Communications*, 17, 4070. https://doi.org/10.1038/s41467-026-72597-0 Chuai, Y., Tian, H., Pröllochs, N., & Lenzini, G. (2024). Did the Roll-Out of Community Notes Reduce Engagement With Misinformation on X/Twitter? *PACM HCI*, 8(CSCW2). https://doi.org/10.1145/3686967 Costanza-Chock, S. (2020). *Design Justice: Community-Led Practices to Build the Worlds We Need*. MIT Press. Cross, N. (1982). Designerly Ways of Knowing. *Design Studies*, 3(4), 221–227. https://doi.org/10.1016/0142-694X(82)90040-0 Daston, L., & Galison, P. (2007). *Objectivity*. Zone Books. Diel, A., Lalgi, T., Schröter, I. C., MacDorman, K. F., Teufel, M., & Bäuerle, A. (2024). Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers. *Computers in Human Behavior Reports*, 16, 100538. https://doi.org/10.1016/j.chbr.2024.100538 Dorst, K., & Cross, N. (2001). Creativity in the design process: co-evolution of problem–solution. *Design Studies*, 22(5), 425–437. https://doi.org/10.1016/S0142-694X(01)00009-6 Ecker, U. K. H., Lewandowsky, S., Cook, J., Schmid, P., Fazio, L. K., Brashier, N., Kendeou, P., Vraga, E. K., & Amazeen, M. A. (2022). The psychological drivers of misinformation belief and its resistance to correction. *Nature Reviews Psychology*, 1, 13–29. https://doi.org/10.1038/s44159-021-00006-y Escobar, A. (2018). *Designs for the Pluriverse: Radical Interdependence, Autonomy, and the Making of Worlds*. Duke University Press. Evans, J. A. (2008). Electronic Publication and the Narrowing of Science and Scholarship. *Science*, 321(5887), 395–399. https://doi.org/10.1126/science.1150473 Fan, G., Liu, D., Pan, L., & Zhang, R. (2026). When Help Hurts: Verification Load and Fatigue with AI Coding Assistants. *CHI 2026*. https://doi.org/10.1145/3772318.3791176 Fiedler, A., & Döpke, J. (2025). Do humans identify AI-generated text better than machines? *International Review of Economics Education*, 49, 100321. https://doi.org/10.1016/j.iree.2025.100321 Filippas, A., Horton, J. J., & Golden, J. (2018). Reputation Inflation. *EC '18*. https://doi.org/10.1145/3219166.3219222 Gates, A., Johnson, C., & Hartling, L. (2018). Technology-assisted title and abstract screening for systematic reviews: A retrospective evaluation of the Abstrackr machine learning tool. *Systematic Reviews*, 7(1), 45. https://doi.org/10.1186/s13643-018-0707-8 Goldman, A. I. (2001). Experts: Which Ones Should You Trust? *Philosophy and Phenomenological Research*, 63(1). https://doi.org/10.1111/j.1933-1592.2001.tb00093.x Graf, B., & Antoni, C. H. (2022). Drowning in the flood of information: a meta-analysis on the relation between information overload, behaviour, experience, and health and moderating factors. *European Journal of Work and Organizational Psychology*, 32(2). https://doi.org/10.1080/1359432X.2022.2118051 Grier, R. A., Warm, J. S., Dember, W. N., Matthews, G., Galinsky, T. L., Szalma, J. L., & Parasuraman, R. (2003). The Vigilance Decrement Reflects Limitations in Effortful Attention, Not Mindlessness. *Human Factors*, 45(3). https://doi.org/10.1518/hfes.45.3.349.27253 Grossman, R., Liu, S., Chen, M. K., Smith, M., Borcea, C., & Chen, Y. (2026). How Generative AI Disrupts Search. arXiv:2604.27790. https://arxiv.org/abs/2604.27790 Guess, A. M., Lerner, M., Lyons, B., Montgomery, J. M., Nyhan, B., Reifler, J., & Sircar, N. (2020). A digital media literacy intervention increases discernment between mainstream and false news in the United States and India. *PNAS*, 117(27), 15536–15545. https://doi.org/10.1073/pnas.1920498117 Halfaker, A., Geiger, R. S., Morgan, J. T., & Riedl, J. (2013). The Rise and Decline of an Open Collaboration System. *American Behavioral Scientist*, 57(5). https://doi.org/10.1177/0002764212469365 Hardwig, J. (1985). Epistemic Dependence. *The Journal of Philosophy*, 82(7). https://www.jstor.org/stable/2026523 Hayes, D., & Lawless, J. L. (2021). *News Hole: The Demise of Local Journalism and Political Engagement*. Cambridge University Press. Herzog, S. M., & Hertwig, R. (2025). Boosting: Empowering Citizens with Behavioral Science. *Annual Review of Psychology*, 76, 851–881. https://doi.org/10.1146/annurev-psych-020924-124753 Huang, G., Jia, W., & Yu, W. (2024). Media Literacy Interventions Improve Resilience to Misinformation. *Communication Research*. https://doi.org/10.1177/00936502241288103 Jin, G. Z., & Leslie, P. (2003). The Effect of Information on Product Quality: Evidence from Restaurant Hygiene Grade Cards. *Quarterly Journal of Economics*, 118(2). https://doi.org/10.1162/003355303321675428 Kamali, N., Gerstner, C. R., Hullman, J., & Groh, M. (2026). Generative AI Literacy Training Improves Intelligence Analysts' Discrimination of Real and AI-Generated Images. arXiv:2606.28510. https://arxiv.org/abs/2606.28510 Kittur, A., & Kraut, R. E. (2008). Harnessing the wisdom of crowds in Wikipedia: quality through coordination. *CSCW '08*. https://doi.org/10.1145/1460563.1460572 Kovanis, M., Porcher, R., Ravaud, P., & Trinquart, L. (2016). The Global Burden of Journal Peer Review in the Biomedical Literature. *PLOS ONE*, 11(11). https://doi.org/10.1371/journal.pone.0166387 Kozyreva, A., Lewandowsky, S., & Hertwig, R. (2020). Citizens Versus the Internet: Confronting Digital Challenges With Cognitive Tools. *Psychological Science in the Public Interest*, 21(3), 103–156. https://doi.org/10.1177/1529100620946707 Kozyreva, A., Lorenz-Spreen, P., Herzog, S. M., Ecker, U. K. H., Lewandowsky, S., Hertwig, R., et al. (2024). Toolbox of individual-level interventions against online misinformation. *Nature Human Behaviour*, 8, 1044–1052. https://doi.org/10.1038/s41562-024-01881-0 Krippendorff, K. (1989). On the Essential Contexts of Artifacts or on the Proposition that Design Is Making Sense (of Things). *Design Issues*, 5(2), 9–39. https://doi.org/10.2307/1511512 Krippendorff, K. (2006). *The Semantic Turn: A New Foundation for Design*. CRC Press. Li, H., & Aral, S. (2025). Human Trust in AI Search: A Large-Scale Experiment. arXiv:2504.06435. https://arxiv.org/abs/2504.06435 Liu, N. F., Zhang, T., & Liang, P. (2023). Evaluating Verifiability in Generative Search Engines. *Findings of the Association for Computational Linguistics: EMNLP 2023*. https://aclanthology.org/2023.findings-emnlp.467/ Lizzeri, A. (1999). Information Revelation and Certification Intermediaries. *RAND Journal of Economics*, 30(2). https://doi.org/10.2307/2556078 Lorenz, J., Rauhut, H., Schweitzer, F., & Helbing, D. (2011). How social influence can undermine the wisdom of crowd effect. *PNAS*, 108(22), 9020–9025. https://doi.org/10.1073/pnas.1008636108 Lyons, B., King, A. J., & Kaphingst, K. A. (2024). A Health Media Literacy Intervention Increases Skepticism of Both Inaccurate and Accurate Cancer News Among U.S. Adults. *Annals of Behavioral Medicine*, 58(12). https://doi.org/10.1093/abm/kaae054 Maertens, R., Roozenbeek, J., Simons, J. S., Lewandowsky, S., Maturo, V., Goldberg, B., et al. (2025). Psychological booster shots targeting memory increase long-term resistance against misinformation. *Nature Communications*. https://doi.org/10.1038/s41467-025-57205-x Martel, C., Rathje, S., Clark, C. J., Pennycook, G., Van Bavel, J. J., Rand, D. G., & van der Linden, S. (2024). On the Efficacy of Accuracy Prompts Across Partisan Lines: An Adversarial Collaboration. *Psychological Science*. https://doi.org/10.1177/09567976241232905 Martini, C., Floris, M., Ronzani, P., Ausili, L., Pennacchioni, G., Adorno, G., & Panizza, F. (2025). The impact of interventions against science disinformation in high school students. *Scientific Reports*. https://doi.org/10.1038/s41598-025-16565-6 Mayerhofer, K., Capra, R., & Elsweiler, D. (2025). Blending Queries and Conversations: Understanding Tactics, Trust, Verification, and System Choice in Web Search and Chat Interactions. *CHIIR '25*. https://doi.org/10.1145/3698204.3716454 Melumad, S., & Yun, J. H. (2025). Experimental Evidence of the Effects of Large Language Models Versus Web Search on Depth of Learning. *PNAS Nexus*, 4(10), pgaf316. https://doi.org/10.1093/pnasnexus/pgaf316 Milička, J., Marklová, A., Drobil, O., & Pospíšilová, E. (2025). Learning to detect AI texts and learning the limits. *PLOS ONE*, 20(10), e0333007. https://doi.org/10.1371/journal.pone.0333007 Newman, N., Fletcher, R., Robertson, C. T., Arguedas, A. R., & Nielsen, R. K. (2025). *Digital News Report 2025*. Reuters Institute for the Study of Journalism, University of Oxford. https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2025 Nguyen, C. T. (2020). Cognitive Islands and Runaway Echo Chambers: Problems for Epistemic Dependence on Experts. *Synthese*, 197(7). https://doi.org/10.1007/s11229-018-1692-0 Norman, D. A. (2013). *The Design of Everyday Things: Revised and Expanded Edition*. Basic Books. Nygren, T., Efimova, E., & Gesser-Edelsburg, A. (2025). Investigating the long-term impact of misinformation interventions in upper secondary education. *PLOS ONE*. https://doi.org/10.1371/journal.pone.0326928 Pennycook, G., & Rand, D. G. (2022). Accuracy prompts are a replicable and generalizable approach for reducing the spread of misinformation. *Nature Communications*. https://doi.org/10.1038/s41467-022-30073-5 Pennycook, G., Bear, A., Collins, E. T., & Rand, D. G. (2020). The Implied Truth Effect. *Management Science*. https://doi.org/10.1287/mnsc.2019.3478 Peukert, C., Sen, A., & Claussen, J. (2023). The Editor and the Algorithm: Recommendation Technology in Online News. *Management Science*, 70(9). https://doi.org/10.1287/mnsc.2023.4954 Pfänder, J., & Altay, S. (2025). Spotting false news and doubting true news: a systematic review and meta-analysis of news judgements. *Nature Human Behaviour*. https://doi.org/10.1038/s41562-024-02086-1 Porter, T. M. (1995). *Trust in Numbers: The Pursuit of Objectivity in Science and Public Life*. Princeton University Press. Power, M. (1997). *The Audit Society: Rituals of Verification*. Oxford University Press. Puccetti, G., Rogers, A., Alzetta, C., Dell'Orletta, F., & Esuli, A. (2024). AI "News" Content Farms Are Easy to Make and Hard to Detect: A Case Study in Italian. *Proceedings of ACL 2024*. https://aclanthology.org/2024.acl-long.817/ Rieder, G., & Simon, J. (2016). Datatrust: Or, the Political Quest for Numerical Evidence and the Epistemologies of Big Data. *Big Data & Society*, 3(1). https://doi.org/10.1177/2053951716649398 Rittel, H. W. J., & Webber, M. M. (1973). Dilemmas in a General Theory of Planning. *Policy Sciences*, 4(2), 155–169. https://doi.org/10.1007/BF01405730 Roca, T., Cintron Roman, A., Torres Vega, J., Duarte, M., Wang, P., White, K., Misra, A., & Lavista Ferres, J. (2025). How good are humans at detecting AI-generated images? arXiv:2507.18640. https://arxiv.org/abs/2507.18640 Roozenbeek, J., Freeman, A. L. J., & van der Linden, S. (2021). How Accurate Are Accuracy-Nudge Interventions? A Preregistered Direct Replication. *Psychological Science*. https://doi.org/10.1177/09567976211024535 Roozenbeek, J., van der Linden, S., Goldberg, B., Rathje, S., & Lewandowsky, S. (2022). Psychological inoculation improves resilience against misinformation on social media. *Science Advances*, 8(34), eabo6254. https://doi.org/10.1126/sciadv.abo6254 Rubado, M. E., & Jennings, J. T. (2020). Political Consequences of the Endangered Local Watchdog: Newspaper Decline and Mayoral Elections in the United States. *Urban Affairs Review*, 56(5). https://doi.org/10.1177/1078087419838058 Schenk, P. (2025). Heartless Rulez! Mechanical Objectivity, Empathic Understanding, and the Permissibility of AI. *Frontiers in Sociology*, 10. https://doi.org/10.3389/fsoc.2025.1604709 Schön, D. A. (1983). *The Reflective Practitioner: How Professionals Think in Action*. Basic Books. Seger, E., Avin, S., Pearson, G., Briers, M., Ó hÉigeartaigh, S., & Bacon, H., et al. (2020). *Tackling Threats to Informed Decision-Making in Democratic Societies: Promoting Epistemic Security in a Technologically-Advanced World*. The Alan Turing Institute. https://www.turing.ac.uk/sites/default/files/2020-10/epistemic-security-report_final.pdf Shapin, S. (1994). *A Social History of Truth: Civility and Science in Seventeenth-Century England*. University of Chicago Press. https://doi.org/10.7208/9780226148847 Shapin, S., & Schaffer, S. (1985). *Leviathan and the Air-Pump: Hobbes, Boyle, and the Experimental Life*. Princeton University Press. Simon, H. A. (1971). Designing Organizations for an Information-Rich World. In M. Greenberger (Ed.), *Computers, Communications, and the Public Interest* (pp. 37–52). Johns Hopkins Press. Simon, H. A. (1996). *The Sciences of the Artificial* (3rd ed.). MIT Press. Slaughter, I., Peytavin, A., Ugander, J., & Saveski, M. (2025). Community notes reduce engagement with and diffusion of false information online. *PNAS*, 122(38). https://doi.org/10.1073/pnas.2503413122 Spence, M. (1973). Job Market Signaling. *Quarterly Journal of Economics*, 87(3). https://doi.org/10.2307/1882010 Tay, L. Q., Lewandowsky, S., Hurlstone, M. J., Kurz, T., & Ecker, U. K. H. (2023). A focus shift in the evaluation of misinformation interventions. *Harvard Kennedy School Misinformation Review*. https://doi.org/10.37016/mr-2020-124 van de Schoot, R., de Bruin, J., Schram, R., Zahedi, P., de Boer, J., Weijdema, F., … Oberski, D. L. (2021). An open source machine learning framework for efficient and transparent systematic reviews. *Nature Machine Intelligence*, 3, 125–133. https://doi.org/10.1038/s42256-020-00287-7 Vasconcelos, H., Jörke, M., Grunde-McLaughlin, M., Gerstenberg, T., Bernstein, M. S., & Krishna, R. (2023). Explanations Can Reduce Overreliance on AI Systems During Decision-Making. *PACM HCI*, 7(CSCW). https://doi.org/10.1145/3579605 Venkit, P. N., Laban, P., Zhou, Y., Mao, Y., & Wu, C.-S. (2025). Search Engines in the AI Era: A Qualitative Understanding to the False Promise of Factual and Verifiable Source-Cited Responses in LLM-based Search. *FAccT 2025*. https://doi.org/10.1145/3715275.3732089 Wack, M., Warren, A., & Alam, M. (2026). The Laziness of the Crowd. arXiv:2603.11120. https://arxiv.org/pdf/2603.11120 Wojcik, S., Hilgard, S., Judd, N., Mocanu, D., Ragain, S., Hunzaker, M. B. F., Coleman, K., & Baxter, J. (2022). Birdwatch: Crowd Wisdom and Bridging Algorithms Can Inform Understanding and Reduce the Spread of Misinformation. arXiv:2210.15723. https://arxiv.org/abs/2210.15723 Wood, T., & Porter, E. (2019). The Elusive Backfire Effect. *Political Behavior*. https://doi.org/10.1007/s11109-018-9443-y Xu, Z., et al. (2026). GhostCite: A Large-Scale Analysis of Citation Validity in the Age of Large Language Models. arXiv:2602.06718. https://arxiv.org/abs/2602.06718 Yu, Y., Li, Y., Suri, S., & Counts, S. (2026). From Searchable to Non-Searchable: Generative AI and Information Diversity in Online Information Seeking. arXiv:2604.10258. https://arxiv.org/abs/2604.10258