# スロップと対策の歴史：なぜ同じ賭けが繰り返し破れるのか - 著者：小川 修一郎（デザイン研究者／デザインコンサルタント）https://jamjet-iqbal.com/ - 初出：2026-08-27、更新：2026-08-28 - 正規の URL（HTML）：https://jamjet-iqbal.com/notes/slop-countermeasures-history/ - 英語版：https://jamjet-iqbal.com/en/notes/slop-countermeasures-history/（Markdown：https://jamjet-iqbal.com/en/notes/slop-countermeasures-history.md） - 言語：ja - キーワード：ai-slop, spam-history, countermeasures, captcha, watermarking, provenance, c2pa, peer-review, paper-mill, gatekeeping, information-overload, proof-of-work, moderation, history > 低品質な生成物が環境を汚し、それに対して選別の仕組みが作られるという循環を、印刷術以後から2026年までの文献140件（前史21、メールスパム28、検索とボット25、学術出版29、2022年以降のAI対策37）で追った。対策は歴史上おおむね五つの型に収まる。受け手が分類する（ベイズフィルタ）、送り手に費用を課す（proof-of-work）、出所を証明する（SPF/DKIM/DMARC、C2PA、透かし）、人間であることを証明する（CAPTCHA）、門番を置く（査読、ブラックリスト、コミュニティ規約）。そして破れ方にも五つの型がある。(1) 攻撃者の能力不足を前提にした設計は能力の向上で失効する（CAPTCHA は AI の未解決性に安全性を賭けた設計で、GAN ソルバーが33スキームを0.05秒で解いた）。(2) 費用を課す対策は費用を他人に転嫁できる相手に効かない（Laurie & Clayton 2004 が proof-of-work の失敗を論証）。(3) 来歴は任意採用だと正直な参加者しか使わない（Durumeric 2015 で DMARC ポリシー指定は1.1%）。(4) 門番の誤りは弱い側に集中する（ブラックリストによるグローバルサウスの誤分類、Tor 利用者への差別、非母語話者の誤検知）。(5) 効いた対策は検証能力を大手に集中させる。今回だけ新しいのは三点で、生成物と本物が見分けられないこと、強い透かしの不可能性が証明されていること（Zhang et al. ICML 2024）、そして対策が slop の量や流通を実際に減らしたと示す査読研究が本収集の範囲では見つからないことである。歴史上効いた対策の共通点は「見分ける」ではなく「構造を変える」ことだった。 ## 名前がついた日 2024年5月、Willison は「望まれない AI 生成コンテンツ」に slop という名を与えた。 新しい語だと彼は書いている。 だが、名前を与える動作のほうは新しくない。 1994年には spam が同じ働きをしたし、19世紀の英国には penny dreadful という名があった。 名前がつくと、対策が始まる。 名前がないうちは苦情でしかなかったものが、名前がつくと分類され、測定され、制度の対象になる。 ここまでは、繰り返されてきた通りである。 問題は次で、対策の歴史は勝った記録ではない。 同じ形の賭けが何度も打たれ、何度も同じ形で破れてきた。 どこが同じで、どこが今回だけ違うのか。 ## 印刷術のあとに起きたこと 書物が急に増えたとき、学者たちが最初に作ったのは索引と抜粋帳だった。 Blair (2010) は、近世ヨーロッパの学者が印刷術による書物の急増に対して、索引、要約、抜粋帳、書誌という技術で対処した過程を追っている。 commonplace book と呼ばれた抜粋帳は、トピック別に引用を整理する道具であり、大量の文章から何を残し何を捨てるかを決める技法だった (Blair 1992, 2004)。 選別の技術は、量が増えたから発明された。 安く大量に作られた出版物への非難も、同じくらい古い。 Darnton (1971) は、革命前フランスの Grub Street に集まった三文文士が扇動的なパンフレットを量産していた実態を、警察の監視記録から描いた。 ヴィクトリア朝の英国では、penny dreadful と呼ばれた低価格の少年向け読み物が少年犯罪の原因とみなされ、道徳的パニックを引き起こした (Dunae 1979)。 当時の批評はそれを「印刷の浪費」と呼んでいる (Burz-Labrande 2021)。 自費出版に付いた「粗悪で無選別」という汚名は、その後 POD やウェブにも転用されていった (Laquintano 2013)。 選別を担う人の側にも名前が与えられた。 Lewin (1947) がゲートキーパーという語を作り、White (1950) が地方紙の電信編集者を7日間追って、通信社の配信記事のうち採用されるのはごく一部だと実証した。 Shoemaker と Vos (2009) は、その後半世紀の研究を個人、ルーティン、組織、社会制度、社会システムの5水準に整理している。 そして Simon (1971) が、後の議論の前提になる一文を書いた。 情報の豊かさは注意の貧困を生む。 情報処理システムは、受け取るより多くを発信しないことで初めて、組織の注意を節約する。 経済学の側には、質が見えないときに何が起きるかの定式がすでにあった。 Akerlof (1970) は、品質が観察できない市場では低品質が高品質を駆逐しうることを示し、Spence (1973) は、質の高い者だけが払える費用がシグナルとして働くことを示した。 この二つは、後に出てくるすべての対策の背骨になる。 ## スパムという名がついてから 1978年、DEC のマーケティング担当者が ARPANET の利用者に一斉に製品案内を送った。 1994年、移民法律事務所が広告を5,500を超える Usenet のニュースグループに個別投稿した (Ferrara 2019)。 この二つの事件を経て、spam の語が商業的な迷惑通信全般を指すようになる。 Brunton (2013) の定義は簡潔である。 スパムとは、情報インフラを使って、既存の注意の集積を搾取する行為である。 規模も測られた。 Rao と Reiley (2012) は、米国の企業と消費者が負担する年間コストを約200億ドル、スパマー側の世界年間収益を約2億ドルと推定し、外部コストと内部便益の比を約100対1と算出している。 費用のほとんどが、送らなかった側にかかる。 ここから、五つの賭けが順に打たれる。 ## 賭けその一、受け手が分類する いちばん成功した対策は、受け取った側で内容を見て分類することだった。 Sahami、Dumais、Heckerman、Horvitz (1998) は、決定理論の枠組みと確率的学習を使い、本文以外の特徴を加えるとフィルタの精度が大きく上がることを示した。 Androutsopoulos ら (2000) は公開コーパスで、Naive Bayes がキーワードルールを一貫して上回ることを確かめた。 2002年、Graham は利用者が spam と ham を印していく学習型フィルタの設計を公開し、実装が広まった。 なぜ効いたのか。 理由は精度そのものより、フィルタの置かれた場所にある。 学習は受信者ごとに行われ、その中身は攻撃者から見えない。 一人ひとり違う的を狙うことになるので、攻撃側の最適化が効きにくい。 同じ賭けが2023年に打たれ、半年で降りた。 OpenAI は2023年1月31日に AI Text Classifier を公開し、7月20日に取り下げた。 理由は精度不足で、公開時の自己申告で正解率26%、人間の文章を誤って AI と判定する率が9%だった。 取り下げなかった検出器にも、同じ問題が付いている。 Liang ら (2023) は、主要な7種の検出器が TOEFL の非母語話者エッセイの半数超を誤って AI と判定することを示した。 同じ文章を ChatGPT に手直しさせると、検出率はほぼ0まで落ちる。 Sadasivan ら (2023) の再帰的なパラフレーズ攻撃では、透かしの検出率が偽陽性率1%の条件で99.8%から9.7%へ落ちた。 Kumarage ら (2023) は、検出器を回避するよう最適化したプロンプトがモデルをまたいで転用できることを示している。 ベイズフィルタとの違いは、精度の数字ではない。 スパムには売る意図が語彙として現れた。 価格があり、リンクがあり、急かす言い回しがあった。 slop にはそれがない。 正しい文章と同じ語彙で書かれるので、内容を見て分ける手がかりが薄い。 ## 賭けその二、送り手に費用を課す Dwork と Naor (1992) の提案は明快だった。 送信のたびに、中程度に難しい計算を課す。 一通なら気にならない負荷でも、百万通なら成立しない。 2002年に Back がまとめた Hashcash が、この考えの代表的な実装である。 2004年、Laurie と Clayton がこの賭けを閉じた。 スパマーは自分の計算機を使っていない。 乗っ取ったボットネットの計算資源を使うので、費用は本人にかからない。 一方、正規の利用者の端末性能はばらつきが大きい。 両者を分ける負荷の水準は、存在しない。 論文の題は「proof-of-work は働かないことが証明された」である。 費用を課すという発想自体が消えたわけではない。 Loder、Van Alstyne、Wash (2004) は、計算ではなく金銭を供託させ、受信者が有用と判断したら返す仕組みを設計した。 広くは実装されていない。 費用の非対称は、今回さらに強い形で現れている。 生成の費用は本人が払うが、その額が小さい。 そして下がったのは低品質を作る側の費用だけで、確かめる側の費用は下がらない。 ただし、費用を課す先を変えると結果が変わる例が一つある。 Tchernichovski ら (2019) は、オンラインの評価システムで、評価を入力する側に時間的な費用を課した。 評価の信頼性は上がった。 費用を送り手ではなく、選ぶ側の行為に課している。 ## 賭けその三、出所を証明する 内容で見分けられないなら、誰が出したかを証明させればよい。 メールの世界はこの賭けに20年をかけた。 SPF (RFC 7208)、DKIM (RFC 6376)、DMARC (RFC 7489) が、送信ドメインの正当性を検証する仕組みとして標準化された。 採用率が問題になった。 Durumeric ら (2015) は、70万を超える SMTP サーバのうち暗号化を正しく設定していたのは35%、DMARC のポリシーを指定していたのは1.1%だと実測した。 7か国以上で、Gmail 宛に届くメッセージの20%超が平文のまま到着していた。 Foster ら (2015) は、大手プロバイダが一通り導入する一方で、中小の送信者には浸透していないという格差を測っている。 来歴の賭けは、今まさに打ち直されている。 Content Authenticity Initiative が2019年11月に、C2PA が2021年2月22日に発足し、2022年1月26日に仕様 v1.0 が公開された。 Google DeepMind は2023年8月29日に画像向けの透かし SynthID を提供しはじめ、2024年にはテキスト向けの方式を Nature に発表した (Dathathri et al. 2024)。 制度の側も動いた。 中国の標識義務が2025年9月1日に施行され、EU AI Act 第50条(4) は2026年8月2日から適用される。 そして、この賭けには前回になかった種類の結果が出ている。 Zhang ら (2024) は、自然な仮定のもとで「強い透かし」が理論的に不可能であることを証明した。 Fan ら (2024) は、単一の公開検証可能な方式では頑健性と健全性を同時に満たせないことを示している。 実装の側でも、Hu ら (2024) が Meta の Stable Signature を微調整で除去し、Hönig ら (2024) は Glaze や Nightshade のような芸術家向けの保護が単純な拡大処理で回避できることを示した。 C2PA 仕様の独立したセキュリティ分析 (Golaszewski et al. 2026) は、仕様が掲げた目標を達成できていないと結論している。 来歴が答えるのは「誰が」であって、「良いか」ではない。 そして採用が任意であるかぎり、証明が無いことは何の証拠にもならない。 ## 賭けその四、人間であることを証明する von Ahn、Blum、Hopper、Langford (2003) の CAPTCHA は、設計として美しかった。 安全性を、当時未解決だった AI の問題に帰着させる。 高い精度で解くプログラムが現れたら、それは AI の難問が解けたということだから、どちらに転んでも人類の得になる。 この設計には、賞味期限が組み込まれている。 安全性が AI の能力の不足に依存しているので、能力が上がれば失効する。 実際そうなった。 Bursztein ら (2014) は、文字の分割こそがテキスト CAPTCHA の安全性の核心だと特定し、汎用の処理で多数の実運用スキームを突破した。 Ye ら (2018) は GAN で合成データを大量に作ってソルバーを事前学習し、大手サイトを含む33のスキームを1件あたり約0.05秒で解いた。 CCS 2018 の最優秀論文である。 副作用も測られている。 Khattak ら (2016) は、Tor を経由する匿名の利用者がウェブサイトから拒否や機能制限や CAPTCHA 要求という差別的な扱いを受ける実態を測定し、130万件以上の IP アドレスが Tor 出口ノードからの接続を拒否していると推定した。 視覚障害のある利用者や学習障害のある利用者にとって、CAPTCHA が実際に障壁になることも報告されている (Kuzma et al. 2011; Gafni & Nagar 2016)。 もう一つ、見落とされやすい性質がある。 reCAPTCHA は、解読の労力を書籍のデジタル化に転用した (von Ahn et al. 2008)。 4万を超えるサイトに導入され、4億4千万語超が転記された。 人間性の証明を求めるこの対策は、同時に無償労働の徴収でもあった。 ## 賭けその五、門番を置く 査読は、思われているほど古くない。 Baldwin (2018) は、査読が科学実践の中心的な手続きとみなされるようになったのは20世紀後半、とくに1970年代の産物であり、冷戦期の米国で科学的自律性と公的説明責任が緊張したことから生まれたと論じている。 Csiszar (2018) は19世紀の判定システムを、政治的妥協と知的財産論争と商業的要請の産物として描いた。 その門は、機械が生成した文章に対して早い時期に破られている。 2005年、MIT の学生3名が作った SCIgen という自動生成器の出力が、査読なしの会議に受理された。 Labbé と Labbé (2013) は検出手法を作り、書誌サービスが SCIgen 生成論文を索引化していたことを示した。 2014年、Springer と IEEE が会議録から120本超を撤回している。 生成の道具が変わっても、構図は続いた。 Cabanac、Labbé、Magazinov (2021) は、自動的な同義語置換で生じる不自然な言い換えを tortured phrases と名づけ、これを検出の指紋として使った。 「counterfeit consciousness」と書かれていれば、元は artificial intelligence である。 彼らが作った Problematic Paper Screener は、週次で1億3千万件を走査している (Cabanac et al. 2022)。 門番を名指しするリストも作られ、そして畳まれた。 Beall's list は2010年に始まり、2017年1月に閉鎖された。 Strinzel ら (2019) は、ブラックリストとホワイトリストを横断比較し、両者に重複と矛盾があること、ブラックリストがグローバルサウスの新興誌や小規模誌を誤って略奪的と分類する危険があることを示している。 Xia ら (2015) は、そうした雑誌に投稿しているのが主に発展途上国の若手研究者であることを実証した。 2019年、10か国43名が18の質問と12時間の議論を経て合意定義に到達したとき、彼らはオープンアクセスであること自体を略奪性の指標にしないと明記している (Grudniewicz et al. 2019)。 撤回の側も制度になった。 Fang、Steen、Casadevall (2012) は、撤回論文2,047本を全件精査し、単純な誤りによる撤回は21.3%で、不正行為が67.4%を占めることを示した。 2023年には撤回が年間1万件を超え、前年比2.5倍を記録している (Van Noorden 2023)。 ただし、撤回してもその論文は使われ続ける。 Hsiao と Schneider (2022) の大規模分析では、撤回後の引用文脈のうち撤回に言及していたのは5.4%だった。 知識コミュニティの側は、もっと素早く動いた。 Stack Overflow は2022年12月5日、ChatGPT 生成の回答の投稿を一時禁止した。 正答率の低さゆえに実質的な害がある、というのが理由である。 Clarkesworld は2023年2月20日正午、投稿の受付を止めた。 その月、AI 生成とみられる投稿が500件を超え、人間からの投稿700件に迫っていた。 Nature と Science は2023年1月に著者ポリシーを表明し、ICML は同年に本文生成での LLM 使用を原則禁止した。 arXiv は2025年10月31日、計算機科学カテゴリのレビュー論文とポジションペーパーに事前査読の証明を要求する方針へ変えている。 Wikipedia は2023年12月に AI Cleanup のプロジェクトを立ち上げ、2025年に LLM 生成が明白な記事の即時削除方針を追加した。 禁止には効果があった。 Borwankar ら (2023) は、Stack Overflow の禁止措置の後、回答の言語的な複雑性と語数が対照群に比べて有意に増えたことを差分の差分法で示している。 質問数への有意な影響はなかった。 ただし別の指標では、コミュニティ自体が縮んでいる。 Burtch、Lee、Chen (2024) は、ChatGPT の登場後に Stack Overflow の訪問数と質問数が有意に減少し（Reddit では減少しなかった）、減少が新規参入者に集中していたと報告した。 門番を置くと、その門番を維持する労働が要る。 Halfaker と Geiger (2020) は、Wikipedia の損傷編集の検出を人手だけで行えば全言語版で1日あたり483労働時間が必要になると推定した。 査読の負荷も、少数の査読者に極端に偏っている (Kovanis et al. 2016)。 そして門番は、測られると壊れる。 Fire と Guestrin (2019) は1億2千万本超の論文を分析し、論文数や被引用数といった指標が Goodhart の法則どおりに機能不全を起こしていることを示した。 著者数が増え、論文が短くなり、出版のペースが上がる。 Asubiaro ら (2024) は、Web of Science と Scopus の収載基準が地域間に著しい格差を生んでいることを定量化している。 ## 破れ方には型がある 五つの賭けを並べると、破れ方が数種類しかないことが見えてくる。 **型1、賞味期限**。 攻撃者の能力の不足を前提にして設計された対策は、能力が上がると失効する。 CAPTCHA は安全性を AI の未解決性に賭けた設計だったので、AI が解けるようになった時点で設計どおりに終わった。 **型2、費用の転嫁先**。 費用を課す対策は、その費用を他人に押し付けられる相手には効かない。 ボットネットを持つスパマーに計算費用は届かなかった。 **型3、任意採用**。 出所の証明は、正直な参加者しか使わない。 DMARC のポリシー指定が1.1%にとどまるとき、証明が無いことは有罪の証拠にならない。 **型4、誤りの偏り**。 門番は誤って締め出す。 そして誤りは弱い側に集中する。 ブラックリストはグローバルサウスの小規模誌を、ボット対策は Tor 利用者を、AI 検出器は非母語話者を、それぞれ多く誤判定した。 **型5、集中**。 効いた対策は、検証できる主体を絞る。 メール認証を一通り運用できるのは大手プロバイダで、中小の送信者は遅れる (Foster et al. 2015)。 対策が成功するほど、確かめる力は少数の場所に集まる。 ## 今回だけ違うところ 型が同じなら、今回も同じだと言いたくなる。 そう言い切ると、三つ取り逃がす。 第一に、痕跡が薄い。 スパムには売る意図が形として残った。 価格、リンク、急かす言い回し。 生成された文章にはそれがなく、人は AI 生成の詩を偶然以下の精度でしか見分けられない（識別精度46.6%、[AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/) に詳しい）。 内容から分けるという賭けが、前回より不利な条件で打たれている。 第二に、不可能性が証明されている。 スパム対策の歴史に、Zhang ら (2024) のような結果はなかった。 proof-of-work は「実運用では機能しない」と論証されたが、それは経済と資源分布の議論であって、数学的な不可能性ではない。 強い透かしについては、自然な仮定のもとで不可能だと示されている。 第三に、効いたという証拠がない。 本収集の範囲では、検出やラベリングや規制が slop の量や流通を実際に減らしたと示す査読研究は見つからなかった。 見つかったのは二種類である。 ラベルが受け手の認知に与える影響を測った実験と、検出や透かしが攻撃で無効化されることを示した技術評価。 前者では、AI ラベルは記事の知覚精度と信用度を下げるが、政策支持や、いいねやシェアといった関与行動はほとんど動かない（Wang et al. 2025, n=3,861; Berinsky et al. 2025, n=7,579; Gamage et al. 2025, n=911）。 態度は変わり、行動は変わらない。 ## 歴史が残した、効いた対策の条件 負けた記録ばかりではない。 効いた対策には共通点がある。 一つ、攻撃者から見えない場所で、個別に学習する。 ベイズフィルタが効いたのは精度ではなく、的が一人ずつ違ったからである。 二つ、経済の急所を突く。 Levchenko ら (2011) は、スパムの価値連鎖を命名、ホスティング、決済、履行に分解し、100件超の実購入を通じて、決済処理が少数の業者に集中しているというボトルネックを特定した。 中身を分類するのではなく、金の流れる場所を止める。 三つ、費用を課す先を、送り手から選ぶ側の行為へ移す。 Tchernichovski ら (2019) の実験では、評価に時間の費用を課すと評価の信頼性が上がった。 三つに共通するのは、見分けようとしていないことである。 どれも構造を変えている。 誰が学習するか、どこで金が止まるか、誰が費用を払うか。 姉妹ノート [AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/) は、スロップを「検証の負担がどこへ渡るか」の問題として読んだ。 歴史の側から見ると、その読み方は対策の設計にそのまま効く。 「見分けられるか」を問うと、型1から型4のどれかで破れる。 「誰が確かめ、その人に費用が払われるか」を問うと、少なくとも過去に効いた三つの形が視野に入る。 ## この読み方が外れるとき 三つ書いておく。 第一に、検出が実は勝つなら。 不可能性の証明は「強い透かし」という定式化についてのもので、実務で十分な弱い保証まで否定していない。 攻撃に費用がかかるなら、完全でない透かしでも運用上は足りうる。 第二に、任意採用が任意でなくなるなら。 EU AI Act 第50条の適用（2026年8月2日）と中国の標識義務（2025年9月1日施行）は、来歴の採用を法的な義務に変える試みである。 DMARC が1.1%にとどまったのは義務がなかったからで、義務があれば型3は当てはまらない可能性がある。 効果の測定はこれからで、本ノートの時点では結果が出ていない。 第三に、そもそも受け手が困っていないなら。 ラベルが行動を変えないという結果は、受け手が気にしていないことの現れかもしれない。 であれば対策が効かないのではなく、対策が要求されていないことになる。 射程も限る。 本ノートは英語圏の文献に強く偏っている。 Google Panda（2011）の効果を測定した査読研究、スパム対策が配信インフラの寡占をもたらしたことを直接測定した査読研究は、いずれも本収集では見つからなかった。 「見つからなかった」は「存在しない」ではない。 2022年以降の対策に関する文献はプレプリントの比率が高く、査読を経ていないものが多い。 ## 年表 | 年 | 出来事 | 型 | |---|---|---| | 1947 | Lewin がゲートキーパー概念を提示 | 門番 | | 1950 | White が新聞編集者の選別を実証 | 門番 | | 1970–73 | Akerlof のレモン市場、Spence のシグナリング | 理論 | | 1971 | Simon「情報の豊かさは注意の貧困を生む」 | 理論 | | 1978 | DEC の一斉送信メール | 汚染 | | 1992 | Dwork & Naor が proof-of-work を提案 | 費用 | | 1994 | Canter & Siegel が5,500超のニュースグループへ投稿 | 汚染 | | 1994 | robots.txt（事実上の標準として成立） | 規範 | | 1998 | Sahami らのベイズフィルタ | 分類 | | 2002 | Graham "A Plan for Spam"、Back の Hashcash | 分類／費用 | | 2003 | von Ahn らの CAPTCHA、米 CAN-SPAM 法 | 人間性／制度 | | 2004 | Laurie & Clayton が proof-of-work の失敗を論証。TrustRank | 費用／分類 | | 2005 | SCIgen 生成論文が会議に受理 | 汚染 | | 2008 | reCAPTCHA が書籍デジタル化に労力を転用 | 人間性 | | 2010 | Beall's list 開始 | 門番 | | 2011 | Levchenko らが決済ボトルネックを特定 | 経済 | | 2011–15 | SPF / DKIM / DMARC の標準化 | 来歴 | | 2014 | Springer と IEEE が SCIgen 論文120本超を撤回。CAPTCHA の汎用突破 | 門番／人間性 | | 2015 | Durumeric らが DMARC ポリシー指定1.1%を実測 | 来歴 | | 2017-01 | Beall's list 閉鎖 | 門番 | | 2018 | GAN による CAPTCHA ソルバーが33スキームを突破 | 人間性 | | 2019-11 | Content Authenticity Initiative 発足 | 来歴 | | 2021-02 | C2PA 発足 | 来歴 | | 2021 | tortured phrases による検出 | 分類 | | 2022-01 | C2PA 仕様 v1.0 | 来歴 | | 2022-09 | RFC 9309（robots.txt の正式標準化） | 規範 | | 2022-12-05 | Stack Overflow が ChatGPT 回答を禁止 | 門番 | | 2023-01 | Nature と Science が著者ポリシーを表明。OpenAI が検出器を公開 | 門番／分類 | | 2023-02-20 | Clarkesworld が投稿受付を停止 | 門番 | | 2023-07-20 | OpenAI が検出器を撤回（正解率26%） | 分類 | | 2023-08 | Glaze が USENIX Security に。SynthID ベータ | 対抗／来歴 | | 2023-12 | Wikipedia の AI Cleanup 発足 | 門番 | | 2024 | Zhang らが強い透かしの不可能性を証明。SynthID-Text が Nature に | 来歴 | | 2025-09-01 | 中国の標識義務が施行 | 制度 | | 2025-10-31 | arXiv がレビュー論文に事前査読の証明を要求 | 門番 | | 2026-08-02 | EU AI Act 第50条(4) 適用開始 | 制度 | ## 関連ノート - スロップ前提の情報環境：見分ける力に賭けない設計（非公開）：発生を止められない前提に立ったときの設計論。本ノートが整理した五つの破れ方が、現在の実証（Community Notes の遅延、認知負荷、ラベルの副作用）でどう再現しているかを扱う。 - [AIスロップ：質の低さではなく、検証の外部化として読む](https://jamjet-iqbal.com/notes/ai-slop-design-creativity/)：AI スロップを検証の外部化として読んだ姉妹ノート。本ノートはその読み方を歴史の側から検証している。 - [制作者から編集者へ — AI時代のデザイナー役割移行の構造分析](https://jamjet-iqbal.com/notes/maker-to-editor-paradigm/)：制作者から編集者への役割移行。門番を置く賭けの、職能の側からの記述にあたる。 - [LLM-as-a-Judge の最新潮流：中核研究53件の文献地図と創造性評価の独立章](https://jamjet-iqbal.com/notes/llm-as-a-judge-literature/)：評価を機械に戻せるかという問い。分類の賭けを検証工程に持ち込む試みの現在地。 - [デザイン価値の多層性：道具的価値から関係的・承認的価値までの文献地図](https://jamjet-iqbal.com/notes/design-value-dimensions/)：質の代理指標を考えるときの前提になる価値の地図。 - [ジェネラティブアートの学術系譜：情報美学から LLM 以後まで94件の文献地図](https://jamjet-iqbal.com/notes/generative-art-literature/)：Glaze と Nightshade を含む、生成物と著作権をめぐる軍拡競争の文脈。 - [90%採用 × 10%肯定 — AIツール普及と評価乖離のパラドクス](https://jamjet-iqbal.com/notes/adoption-approval-paradox/)：利用率と肯定率の乖離。ラベルが態度を変えても行動を変えないという結果と同じ地層にある。 ## 参照文献 ### 前史（情報過多と選別の技術） - Blair, A. M. (2010). *Too Much to Know: Managing Scholarly Information before the Modern Age*. Yale University Press. https://doi.org/10.12987/9780300168495 - Blair, A. (2004). Note Taking as an Art of Transmission. *Critical Inquiry* 31(1), 85–107. https://doi.org/10.1086/427303 - Blair, A. (1992). Humanist Methods in Natural Philosophy: The Commonplace Book. *Journal of the History of Ideas* 53(4), 541–551. https://doi.org/10.2307/2709935 - Johns, A. (1998). *The Nature of the Book: Print and Knowledge in the Making*. University of Chicago Press. ISBN 0-226-40121-9 - Soll, J. (2010). From Note-Taking to Data Banks. *Intellectual History Review* 20(3), 355–375. https://doi.org/10.1080/17496977.2010.492615 - Darnton, R. (1971). The High Enlightenment and the Low-Life of Literature in Pre-Revolutionary France. *Past & Present* 51(1), 81–115. https://doi.org/10.1093/past/51.1.81 - Dunae, P. A. (1979). Penny Dreadfuls: Late Nineteenth-Century Boys' Literature and Crime. *Victorian Studies* 22(2), 133–150. https://www.jstor.org/stable/3827285 - Burz-Labrande, M. (2021). "Useful Knowledge" versus "Wastes of Print". *Victorian Popular Fictions* 3(1), 123–139. https://doi.org/10.46911/QODX5600 - Laquintano, T. (2013). The Legacy of the Vanity Press and Digital Transitions. *The Journal of Electronic Publishing* 16(1). https://quod.lib.umich.edu/j/jep/3336451.0016.104 - Lewin, K. (1947). Frontiers in Group Dynamics II: Channels of Group Life. *Human Relations* 1(2), 143–153. https://doi.org/10.1177/001872674700100201 - White, D. M. (1950). The "Gate Keeper": A Case Study in the Selection of News. *Journalism Quarterly* 27(4), 383–390. https://doi.org/10.1177/107769905002700403 - Shoemaker, P. J. & Vos, T. P. (2009). *Gatekeeping Theory*. Routledge. https://doi.org/10.4324/9780203931653 - Simon, H. A. (1971). Designing Organizations for an Information-Rich World. In Greenberger, M. (ed.), *Computers, Communications, and the Public Interest*, 37–72. Johns Hopkins Press. - Eppler, M. J. & Mengis, J. (2004). The Concept of Information Overload. *The Information Society* 20(5), 325–344. https://doi.org/10.1080/01972240490507974 - Bawden, D. & Robinson, L. (2009). The Dark Side of Information. *Journal of Information Science* 35(2), 180–191. https://doi.org/10.1177/0165551508095781 - Akerlof, G. A. (1970). The Market for "Lemons". *Quarterly Journal of Economics* 84(3), 488–500. https://doi.org/10.2307/1879431 - Spence, M. (1973). Job Market Signaling. *Quarterly Journal of Economics* 87(3), 355–374. https://doi.org/10.2307/1882010 - Connelly, B. L., Certo, S. T., Ireland, R. D. & Reutzel, C. R. (2011). Signaling Theory: A Review and Assessment. *Journal of Management* 37(1), 39–67. https://doi.org/10.1177/0149206310388419 - Tchernichovski, O., Parra, L. C., Fimiarz, D., Lotem, A. & Conley, D. (2019). Crowd Wisdom Enhanced by Costly Signaling in a Virtual Rating System. *PNAS* 116(15), 7256–7265. https://doi.org/10.1073/pnas.1817392116 ### スパムの歴史と対策 - Brunton, F. (2013). *Spam: A Shadow History of the Internet*. MIT Press. https://direct.mit.edu/books/book/3708/SpamA-Shadow-History-of-the-Internet - Ferrara, E. (2019). The History of Digital Spam. *Communications of the ACM* 62(8), 82–91. https://doi.org/10.1145/3299768 - Sahami, M., Dumais, S., Heckerman, D. & Horvitz, E. (1998). A Bayesian Approach to Filtering Junk E-Mail. *AAAI Workshop on Learning for Text Categorization*. https://aaai.org/papers/055-ws98-05-009/ - Androutsopoulos, I., Koutsias, J., Chandrinos, K. V. & Spyropoulos, C. D. (2000). An Experimental Comparison of Naive Bayesian and Keyword-Based Anti-Spam Filtering. *SIGIR '00*, 160–167. https://doi.org/10.1145/345508.345569 - Graham, P. (2002). A Plan for Spam. https://paulgraham.com/spam.html （非学術。歴史的一次資料として使用） - Dwork, C. & Naor, M. (1992). Pricing via Processing or Combatting Junk Mail. *CRYPTO '92*, LNCS 740, 139–147. https://doi.org/10.1007/3-540-48071-4_10 - Back, A. (2002). Hashcash – A Denial of Service Counter-Measure. http://www.hashcash.org/hashcash.pdf （非学術の自己出版） - Laurie, B. & Clayton, R. (2004). "Proof-of-Work" Proves Not to Work. *WEIS 2004*. https://www.cl.cam.ac.uk/~rnc1/proofwork.pdf - Loder, T., Van Alstyne, M. & Wash, R. (2004). An Economic Response to Unsolicited Communication. *EC '04*, 40–50. https://doi.org/10.1145/988772.988780 - Kitterman, S. (2014). RFC 7208: Sender Policy Framework (SPF). IETF. https://www.rfc-editor.org/rfc/rfc7208 - Crocker, D., Hansen, T. & Kucherawy, M. (eds.) (2011). RFC 6376: DomainKeys Identified Mail (DKIM) Signatures. IETF. https://www.rfc-editor.org/rfc/rfc6376 - Kucherawy, M. & Zwicky, E. (eds.) (2015). RFC 7489: DMARC. IETF. https://www.rfc-editor.org/rfc/rfc7489 （2025年に RFC 9989/9990/9991 により廃止） - Durumeric, Z. et al. (2015). Neither Snow Nor Rain Nor MITM: An Empirical Analysis of Email Delivery Security. *IMC '15*. https://doi.org/10.1145/2815675.2815695 - Foster, I. D., Larson, J., Masich, M., Snoeren, A. C., Savage, S. & Levchenko, K. (2015). Security by Any Other Name. *CCS '15*, 450–464. https://doi.org/10.1145/2810103.2813607 - Kanich, C. et al. (2008). Spamalytics: An Empirical Analysis of Spam Marketing Conversion. *CCS '08*, 3–14. https://doi.org/10.1145/1455770.1455774 - Levchenko, K. et al. (2011). Click Trajectories: End-to-End Analysis of the Spam Value Chain. *IEEE S&P 2011*, 431–446. https://doi.org/10.1109/SP.2011.24 - Rao, J. M. & Reiley, D. H. (2012). The Economics of Spam. *Journal of Economic Perspectives* 26(3), 87–110. https://doi.org/10.1257/jep.26.3.87 - Kigerl, A. (2009). CAN SPAM Act: An Empirical Analysis. *International Journal of Cyber Criminology* 3(1). https://www.cybercrimejournal.com/pdf/alexIJCCJuly2009.pdf - Kigerl, A. C. (2016). Deterring Spammers. *Criminal Justice Policy Review*. https://doi.org/10.1177/0887403414562604 - Sinha, S., Bailey, M. & Jahanian, F. (2008). Shades of Grey: On the Effectiveness of Reputation-based Blacklists. *MALWARE 2008*, 57–64. https://doi.org/10.1109/MALWARE.2008.4690858 - Jung, J. & Sit, E. (2004). An Empirical Study of Spam Traffic and the Use of DNS Black Lists. *IMC '04*. https://doi.org/10.1145/1028788.1028838 ### 検索の汚染と人間性の証明 - Gyöngyi, Z., Garcia-Molina, H. & Pedersen, J. (2004). Combating Web Spam with TrustRank. *VLDB 2004*. https://www.vldb.org/conf/2004/RS15P3.PDF - Gyöngyi, Z. & Garcia-Molina, H. (2005). Web Spam Taxonomy. *AIRWeb 2005*. https://airweb.cse.lehigh.edu/2005/gyongyi.pdf - Ntoulas, A., Najork, M., Manasse, M. & Fetterly, D. (2006). Detecting Spam Web Pages through Content Analysis. *WWW 2006*, 83–92. https://research.google/pubs/detecting-spam-web-pages-through-content-analysis/ - Castillo, C. & Davison, B. D. (2011). Adversarial Web Search. *Foundations and Trends in Information Retrieval* 4(5), 377–486. https://dl.acm.org/doi/10.1561/1500000021 - Bevendorff, J., Wiegmann, M., Potthast, M. & Stein, B. (2024). Is Google Getting Worse? *ECIR 2024*, 56–71. https://doi.org/10.1007/978-3-031-56063-7_4 - von Ahn, L., Blum, M., Hopper, N. J. & Langford, J. (2003). CAPTCHA: Using Hard AI Problems for Security. *EUROCRYPT 2003*, LNCS 2656, 294–311. https://iacr.org/archive/eurocrypt2003/26560294/26560294.pdf - von Ahn, L., Maurer, B., McMillen, C., Abraham, D. & Blum, M. (2008). reCAPTCHA: Human-Based Character Recognition via Web Security Measures. *Science* 321(5895), 1465–1468. https://doi.org/10.1126/science.1160379 - Bursztein, E., Aigrain, J., Moscicki, A. & Mitchell, J. C. (2014). The End is Nigh: Generic Solving of Text-based CAPTCHAs. *USENIX WOOT 2014*. https://www.usenix.org/system/files/conference/woot14/woot14-bursztein.pdf - Ye, G., Tang, Z., Fang, D. et al. (2018). Yet Another Text Captcha Solver. *CCS 2018*. https://doi.org/10.1145/3243734.3243754 - Kuzma, J., Barnes, S. & Oestreicher, K. (2011). CAPTCHA Accessibility Study of Online Forums. *International Journal of Web Based Communities* 7(3), 312–323. https://core.ac.uk/outputs/1915093/ - Gafni, R. & Nagar, I. (2016). CAPTCHA: Impact on User Experience of Users with Learning Disabilities. *Interdisciplinary Journal of e-Skills and Lifelong Learning* 12, 207–223. http://www.ijello.org/Volume12/IJELLv12p207-223Gafni2796.pdf - Khattak, S. et al. (2016). Do You See What I See? Differential Treatment of Anonymous Users. *NDSS 2016*. https://www.icir.org/vern/papers/tor-differential.NDSS16.pdf - Ford, B. (2020). Identity and Personhood in Digital Democracy. arXiv:2011.02412. https://arxiv.org/abs/2011.02412 - Koster, M., Illyes, G., Zeller, H. & Sassman, L. (2022). RFC 9309: Robots Exclusion Protocol. IETF. https://www.rfc-editor.org/rfc/rfc9309.html - Kim, T., Bock, K., Luo, C., Liswood, A., Poroslay, C. & Wenger, E. (2025). Scrapers Selectively Respect robots.txt Directives. *IMC 2025*, 541–557. https://doi.org/10.1145/3730567.3764471 ### 学術出版と知識共同体 - Labbé, C. & Labbé, D. (2013). Duplicate and fake publications in the scientific literature. *Scientometrics* 94(1), 379–396. https://doi.org/10.1007/s11192-012-0781-y - Van Noorden, R. (2014). Publishers withdraw more than 120 gibberish papers. *Nature News*. https://www.nature.com/articles/nature.2014.14763 - Cabanac, G., Labbé, C. & Magazinov, A. (2021). Tortured phrases: A dubious writing style emerging in science. arXiv:2107.06751. https://arxiv.org/abs/2107.06751 - Cabanac, G., Labbé, C. & Magazinov, A. (2022). The 'Problematic Paper Screener'. arXiv:2210.04895. https://arxiv.org/abs/2210.04895 - Beall, J. (2012). Predatory publishers are corrupting open access. *Nature* 489, 179. https://doi.org/10.1038/489179a - Bohannon, J. (2013). Who's Afraid of Peer Review? *Science* 342(6154), 60–65. https://doi.org/10.1126/science.2013.342.6154.342_60 - Grudniewicz, A. et al. (2019). Predatory journals: no definition, no defence. *Nature* 576, 210–212. https://doi.org/10.1038/d41586-019-03759-y - Xia, J. et al. (2015). Who publishes in "predatory" journals? *JASIST* 66(7), 1406–1417. https://doi.org/10.1002/asi.23265 - Strinzel, M., Severin, A., Milzow, K. & Egger, M. (2019). Blacklists and Whitelists To Tackle Predatory Publishing. *mBio* 10(3), e00411-19. https://doi.org/10.1128/mbio.00411-19 - Csiszar, A. (2018). *The Scientific Journal: Authorship and the Politics of Knowledge in the Nineteenth Century*. University of Chicago Press. - Baldwin, M. (2018). Scientific Autonomy, Public Accountability, and the Rise of "Peer Review" in the Cold War United States. *Isis* 109(3), 538–558. https://doi.org/10.1086/700070 - Kovanis, M., Porcher, R., Ravaud, P. & Trinquart, L. (2016). The Global Burden of Journal Peer Review in the Biomedical Literature. *PLOS ONE* 11(11), e0166387. https://doi.org/10.1371/journal.pone.0166387 - Fang, F. C., Steen, R. G. & Casadevall, A. (2012). Misconduct accounts for the majority of retracted scientific publications. *PNAS* 109(42), 17028–17033. https://doi.org/10.1073/pnas.1212247109 - Van Noorden, R. (2023). More than 10,000 research papers were retracted in 2023. *Nature* 624, 479–481. https://doi.org/10.1038/d41586-023-03974-8 - Hsiao, T.-K. & Schneider, J. (2022). Continued use of retracted papers. *Quantitative Science Studies* 2(4), 1144–1169. https://doi.org/10.1162/qss_a_00155 - Halfaker, A. & Geiger, R. S. (2020). ORES: Lowering Barriers with Participatory Machine Learning in Wikipedia. *PACM HCI* 4(CSCW2), 148. https://doi.org/10.1145/3415219 - Kabir, S., Udo-Imeh, D. N., Kou, B. & Zhang, T. (2024). Is Stack Overflow Obsolete? *CHI 2024*. https://doi.org/10.1145/3613904.3642596 - Burtch, G., Lee, D. & Chen, Z. (2024). The consequences of generative AI for online knowledge communities. *Scientific Reports* 14, 10413. https://doi.org/10.1038/s41598-024-61221-0 - Borwankar, S., Khern-am-nuai, W., Pocheptsova Ghosh, A. & Kannan, K. N. (2023). Unraveling the Impact: An Empirical Investigation of ChatGPT's Exclusion from Stack Overflow. *Information Systems Research*（採録）. https://ssrn.com/abstract=4481959 - Asubiaro, T., Onaolapo, S. & Mills, D. (2024). Regional disparities in Web of Science and Scopus journal coverage. *Scientometrics*. https://doi.org/10.1007/s11192-024-04948-x - Fire, M. & Guestrin, C. (2019). Over-optimization of academic publishing metrics: observing Goodhart's Law in action. *GigaScience* 8(6), giz053. https://doi.org/10.1093/gigascience/giz053 ### 2022年以降の AI 対策 - Mitchell, E., Lee, Y., Khazatsky, A., Manning, C. D. & Finn, C. (2023). DetectGPT. *ICML*, PMLR 202, 24950–24962. https://proceedings.mlr.press/v202/mitchell23a.html - Sadasivan, V. S., Kumar, A., Balasubramanian, S., Wang, W. & Feizi, S. (2023). Can AI-Generated Text be Reliably Detected? *TMLR*. https://arxiv.org/abs/2303.11156 - Liang, W., Yuksekgonul, M., Mao, Y., Wu, E. & Zou, J. (2023). GPT detectors are biased against non-native English writers. *Patterns*. https://www.cell.com/patterns/fulltext/S2666-3899(23)00130-7 - Kumarage, T., Sheth, P., Moraffah, R., Garland, J. & Liu, H. (2023). Stateful Detection of AI-Generated Text via Evasive Soft Prompts. *EMNLP 2023 Findings*. https://arxiv.org/abs/2310.05095 - Kirchenbauer, J., Geiping, J., Wen, Y., Katz, J., Miers, I. & Goldstein, T. (2023). A Watermark for Large Language Models. *ICML*, PMLR 202, 17061–17084. https://proceedings.mlr.press/v202/kirchenbauer23a.html - Dathathri, S. et al. (2024). Scalable watermarking for identifying large language model outputs. *Nature*. https://www.nature.com/articles/s41586-024-08025-4 - Zhang, H., Edelman, B. L., Francati, D., Venturi, D., Ateniese, G. & Barak, B. (2024). Watermarks in the Sand: Impossibility of Strong Watermarking for Generative Models. *ICML 2024*, PMLR 235. https://proceedings.mlr.press/v235/zhang24o.html - Fan, Tang, Yang & Zhou (2024). Two Halves Make a Whole. IACR ePrint 2024/2062. https://eprint.iacr.org/2024/2062 - Hu, Jiang, Guo & Gong (2024). Stable Signature is Unstable. arXiv:2405.07145. https://arxiv.org/abs/2405.07145 - Hönig, R., Rando, J., Carlini, N. & Tramèr, F. (2024). Adversarial Perturbations Cannot Reliably Protect Artists From Generative AI. arXiv:2406.12027. https://arxiv.org/abs/2406.12027 - Shan, S., Cryan, J., Wenger, E., Zheng, H., Hanocka, R. & Zhao, B. Y. (2023). Glaze: Protecting Artists from Style Mimicry by Text-to-Image Models. *USENIX Security 2023*, 2187–2204. https://www.usenix.org/conference/usenixsecurity23/presentation/shan - Shan, S., Ding, W., Passananti, J. et al. (2024). Nightshade: Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models. *IEEE S&P 2024*. https://arxiv.org/abs/2310.13828 - Golaszewski, E. et al. (2026). Verifying Provenance of Digital Media: Why the C2PA Specifications Fall Short. arXiv:2604.24890. https://arxiv.org/abs/2604.24890 - Wang, Sturgis & de Kadt (2025). AI labeling reduces the perceived accuracy of online content but has limited broader effects. arXiv:2506.16202. https://arxiv.org/abs/2506.16202 - Berinsky, A. et al. (2025). Labeling AI-generated media online. *PNAS Nexus*. PMC12166545 - Gamage, Sewwandi, Zhang & Bandara (2025). Labeling Synthetic Content: User Perceptions of Warning Label Designs for AI-generated Content on Social Media. *CHI 2025*. https://doi.org/10.1145/3706598.3713171 - Thorp, H. H. (2023). ChatGPT is fun, but not an author. *Science* 379(6630), 313. https://doi.org/10.1126/science.adg7879 - Nature 編集部 (2023). Tools such as ChatGPT threaten transparent science. *Nature*. https://doi.org/10.1038/d41586-023-00191-1 - Willison, S. (2024). Slop is the new name for unwanted AI-generated content. https://simonwillison.net/2024/May/8/slop/ （非学術。語の来歴の一次証拠として使用） ### 日付の一次資料（非学術） - OpenAI (2023). New AI classifier for indicating AI-written text. 公開 2023-01-31 / 撤回 2023-07-20. https://openai.com/index/new-ai-classifier-for-indicating-ai-written-text/ - C2PA (2021). 発足 2021-02-22 / 仕様 v1.0 2022-01-26. https://c2pa.org/c2pa-founding-press-release/ - Stack Overflow (2022). Temporary policy: ChatGPT is banned. 2022-12-05. https://meta.stackoverflow.com/questions/421831/temporary-policy-chatgpt-is-banned - Clarke, N. (2023). Clarkesworld の投稿受付停止（2023-02-20）に関する編集後記. https://clarkesworldmagazine.com/clarke_04_23/ - ICML (2023). Clarification on Large Language Model Policy. https://icml.cc/Conferences/2023/llm-policy - arXiv (2025). Attention authors: updated practice for review articles and position papers in arXiv CS category. 2025-10-31. https://blog.arxiv.org/2025/10/31/attention-authors-updated-practice-for-review-articles-and-position-papers-in-arxiv-cs-category/ - Wikipedia. WikiProject AI Cleanup（発足 2023-12-04）. https://en.wikipedia.org/wiki/Wikipedia:WikiProject_AI_Cleanup - EU AI Act Article 50. https://artificialintelligenceact.eu/article/50/ ## 未検証事項 コーパス全体（140件）の未検証項目は `source/review/slop-countermeasures-history/papers.md` の末尾にある。本文に関わるものを集約する。 - Kanich ら (2008) のコンバージョン率の具体値、Foster ら (2015) の採用率の具体値は、いずれも一次テキストで確認できていないため本文では数値を書いていない。 - Google Panda（2011）の効果を測定した査読研究は本収集では見つからなかった。 - スパム対策がメール配信インフラの寡占をもたらしたことを直接測定した査読研究も見つからなかった。型5（集中）は、Durumeric (2015) と Foster (2015) が示した非対称からの推論であり、寡占という帰結そのものの実証ではない。 - Beall's list 閉鎖の経緯について、Beall 本人の一次証言原文に到達していない。 - Bohannon (2013) への方法論批判は複数の場で言及されるが、批判論文そのものを本収集では特定していない。 - Borwankar ら (2023) の正式な掲載巻号、Cabanac らの2本の査読誌掲載版の有無は未確認。 - 2022年以降の対策に関する文献のうち、Zhang ら (2024) と Kirchenbauer ら (2023) と Dathathri ら (2024) と Shan らの2本は査読を経ているが、Hu ら (2024)、Hönig ら (2024)、Golaszewski ら (2026)、Wang ら (2025) はプレプリントである。 - Berinsky ら (2025) の正式 DOI、Golaszewski ら (2026) の査読状況は未確認。 - EU AI Act 第50条の条文は解説サイト経由で確認しており、EUR-Lex の官報原文と照合していない。中国の標識義務も政府原文と照合していない。 - Clarkesworld の投稿受付再開日、Wikipedia の G15 方針の正確な発効日は一次資料で確認できていない。 - 「対策の破れ方に五つの型がある」という整理そのものは本ノートによるもので、この形で先行文献に定式化されているものは、今回の探索の範囲では見当たらなかった。網羅性は保証していない。