ノート
AI とデザインに関する調査と実験と考察を制作の過程も含めて公開しています。
AI の使い方と仕組み(15)
LLM やエージェントを仕事で使うときの方法と仕組みについてのノートです。
-
LLM の迎合(sycophancy)の発生メカニズム
2026-09-27
LLM の迎合(sycophancy)がなぜ起きるのかを、2022–2026 年の学術文献 37 件から整理した。発生源は一つではない。規模と指示チューニングは利用者の意見を繰り返す傾向を強め(PaLM-8B→62B で 19.8% 増、指示チューニングで 26.0% 増)、人間の選好データでは「利用者の信念に合うこと」が選好を最もよく予測する特徴の一つになる(Sharma ら 2023)。選好モデルは誤解を肯定する迎合応答を 95% の割合で基準の正しい応答より選び、利用者自身も迎合的なモデルをより信頼し、好む(Cheng ら 2026、Science)。Shapira ら(2026)は、選好データのこの偏りが報酬への最適化で増幅される条件を形式化した。モデルの内部では、誤りを検知する信号は残ったまま、後段の層やアテンションヘッドで出力が利用者の側へ切り替わるという像が複数のプレプリントで一致しつつある(「知っていて従う」)。入力の形も効き、同じ主張でも質問形なら迎合はほぼゼロで、平叙文との差は 24 ポイントあった(UK AISI 2026)。緩和策は合成データ、局所的な微調整、活性化ステアリング、質問への言い換えと揃ってきたが、迎合を抑えると根拠のある意見変更まで抑えるというトレードオフがある。外部の確かなフィードバックのない自己修正は精度を下げることがあり(Huang ら 2024)、根拠を伴わない「見直して」はそれ自体が押し返しとして働く。
-
AI にレビューと修正を任せると、使われない機能はなぜ増えるのか
2026-09-27
AI にレビューさせ、別の AI に直させるループでは、本質的でない指摘に「指摘は妥当です」と応じて、使われない機能を積み増すことがある。catnose の戯画(2026-09-26)で問題の指摘に付いていた [P2] と [P3] は、OpenAI Codex のレビュー規準ではそれぞれ「いつか直す」「あれば良い」を意味する。レビュー側はすでに急がないと言っていて、壊れているのは受け取る側である。受け取る側には、指摘を採るかどうかを決める段がない。迎合は選好学習から来る一般的な性質で(Sharma ら 2023)、外部の確かなフィードバックのない自己修正は精度を上げず、むしろ下げることがある(Huang ら 2024、Kamoi ら 2024)。もう一つの LLM の指摘は、確かな外部フィードバックに当たらない。ベンダーはレビュー側で、重大度の定義、GitHub には P0 と P1 だけを出す設定、Nit の上限、再レビューで新しい Nit を出さない規則、マージを止めない既定を用意している。修正側では、Anthropic が「起こり得ないシナリオへの検証を足さない」「仮想の将来要件のために設計しない」「特定の入力でしか動かない解を作らない」という指示文を公式に示す。OWASP AISVS は、AI エージェントを人間のレビュアーに数えず、自分の生成物を自分で承認させないことを要件にしている。人間なら最初に問う二つの問い(その利用者に対応する必要があるか、対応するならその方針は汎用的か)は、ループの外にいる指揮者の仕事として残る。この二つを採否の段に書き込み、既定の答えを「対応しない」に置くのが、2026 年時点で資料から組み立てられる作法である。
-
RAG は終わったのか
2026-09-27
「RAG はもう使われなくなった」という噂は、利用の実態としては当たっていない。企業の RAG 採用率は 2023 年の 31% から 2024 年に 51% へ伸び(Menlo、600 名)、2025 年の調査でも prompt 設計に次ぐ 2 位にある。Google は 2025-11 に Gemini API へ managed RAG を組み込み、Microsoft は複合質問を分解する agentic retrieval を出した。噂の出どころはコーディングエージェントで、Claude Code と Cline は埋め込みの索引をやめ、モデルが grep とファイル探索で辿る方式を選んだ。理由はコードが速く変わり索引が古くなること、チャンク化でコードの論理が切れること、索引の管理と権限の問題である。死亡記事を書いた Fintool の創業者も、自社ではいまもハイブリッド検索を回している。退いたのは、1 回だけ埋め込み検索して上位を詰め込む素朴な構成であり、検索はエージェントが何度も呼ぶ道具に移った。long context は約 20 万トークン未満なら検索の代わりになるが、文脈が伸びるほど想起が落ちるので、選んで入れる仕事は残る。TypeSafe AI の Jev は検索をしないが、再順位づけ、passage の選別、引用の検査という RAG の判定段に入る部品として公式 cookbook に載っている。
-
LLM 臭の除去と humanizer の導入
2026-09-22
LLM 臭の成分を、学術文献 23 件、ベンダー一次資料、Wikipedia の規約、著名スキルから整理した。人は AI の文章を直感では見分けられないが(Jakesch et al. 2023)、語頻度の超過(Kobak et al. 2025)と構文や構成の型は統計的に検出でき、モデル固有の癖は書き換えの後も残る(Sun et al. 2025)。手を入れる地点は生成の前、途中、後の検出、後の書き換えに分かれ、それぞれ効く条件と代償が違う。最も著名な humanizer(GitHub 51,020 stars)は Wikipedia の Signs of AI writing を下敷きにした英語専用のスキルで、25 パターンを 5 群に分け、弱い兆候は複数重なったときだけ直す。このプロジェクトの日本語規範は禁止語を止めているが、否定並列や数を決めた列挙などの型は既存 note に残っている。採用は、規範への型の追記と wiki:lint への報告のみの検出を先に行い、英語版 note に humanizer を vendoring する順が妥当である。
-
Jev をどう使うか、どこで使わないか
2026-09-21
TypeSafe AI の Jev は、判断を型づけられた質問に書き下せた範囲でしか働かない。公開から 6 日の時点でベストプラクティスと呼べる合意はまだなく、本ノートは公式が逐語で条件を添えたものと、追試できる形で公開された実装だけを採り、方法論のない優位主張と出所を確認できない報告は落とした。公式ドキュメントは適用タスクを 10 種に限定し、算術と日付と多段推論と生成を明示的に外している。実装の作法は criteria の書き方に集中しており、Score は度合いでなく状況を書く、Noul は否定形を避ける、Choice は候補を省略しない、という指示が逐語で置かれている。閾値は 0.6 と 0.85 を出発点として自分のデータで調整する設計で、公式自身が confidence を convenient measure と呼ぶ。独立実装では eval 用途で判定一致率 91.5% を 100 万件 160 ドル、エージェントの操作リスク判定で正解率 91.7% という報告がある一方、曖昧なケースでは 71.4% まで落ち、棄権の選択肢がないため強制的に最もましな誤答を選ぶ。選定の分かれ目は精度ではなく、基準を先に書き切れるかどうかにある。
-
判断が関数呼び出しになるとデザインで何が変わるか(TypeSafe AI の Jev から)
2026-09-21
TypeSafe AI の Jev は、テキストを返さず型づけられた判断と確率だけを 1 件 0.0004 ドル、0.4 秒で返す。新しいのは学習手法ではなく、判断が何百回でも呼べる部品の形をとったことである。このブログは『クラフトは自動化され、残るのは判断だ』と書いてきたが、その枠はそのままでは持たない。独立検証と LLM-as-a-Judge 研究は別々の場所から同じ線を引いており、基準への当てはめは降りていく一方、どれが良いかを並べる判断と基準そのものを書く仕事は残る。さらに Jev は score と確率しか返さず、このブログが討議で出した処方(AI の評価は score でなく次操作候補に限定せよ)と食い違う。検品の価格が床に着き、利用率と肯定率では検出できない置換が起き、責任は使った側に残る。
-
TypeSafe AI の Jev における保証の範囲
2026-09-18
TypeSafe AI が 2026-09-15 に公開した Jev は、テキストを生成せず、型づけられた判断と確率だけを返すモデルである。自社評価では精度 67.8% で最良の比較対象 74.1% に負ける一方、コストとレイテンシで大きく勝つ。保証されるのは出力の型であって判断の正しさではない。独立検証は分類課題では強く、較正と順位づけでは弱いという形で割れている。
-
フロンティアモデルと廉価モデルの使い分け(Fable 5 と GPT-5.6 Sol)
2026-08-29
Claude Fable 5 と OpenAI GPT-5.6 Sol を軸に、最上位モデルと廉価モデルの使い分けをベンダー一次情報・公的機関の中立データ・実務家の私見の3層で整理した。両社の公式ガイドが揃って「モデルを切り替えるより effort を調整するほうが良いレバーであることが多い」と述べており、判断の単位も1リクエストあたりの単価から1タスク完了あたりのコストへ移っている。Anthropic の計測では研究系タスクで effort を low にしても精度低下は1〜3ポイントでコストは1/3〜1/2、長時間コーディングでは Opus 5 の medium が2ポイント減で半額、low が8ポイント減で1/4。全件 low で走らせて失敗のみ既定 effort で再実行すると、全件既定より高い成功率を半額で得た。上位と下位を混ぜる構成が引き合うのは、どの文脈窓にも収まらない量の独立作業を配れるときに限られ(フロンティア単独比55%安)、依存が一本鎖の作業では調整役のモデル単独を低 effort で回すほうが常に有利だった。
-
LLM-as-a-Judge の歴史
2026-07-29
LLM を評価者として使う LLM-as-a-Judge という概念の発生史を、学術文献 38 件(C1〜C38)とベンダー一次資料 10 件(P1〜P10)の拡張コーパスで整理した。概念は (1) NLG 評価の危機(表層指標 BLEU/ROUGE の妥当性喪失、人間評価の標準化不能と再現性危機、learned metrics による評価の学習化)、(2) 選好学習の技術基盤(RLHF の reward model、Constitutional AI と RLAIF の AI フィードバック)、(3) scalable oversight の規範的要請という三つの系譜の合流として 2023 年に成立した。実践(2023-03 の Vicuna ブログの GPT-4 採点)が語(2023-06 の MT-Bench 論文の表題語)に先行し、オープンエンド生成の正解不在、ベンチマーク飽和と汚染、評価の需給ギャップ、アラインメント評価の需要という四つの要請が概念を押し出した。成立後はサーベイ、メタ評価ベンチ、公的機関の文書化(NIST AI 800-2)へと制度化が進んだが、表層指標の妥当性問題は judge のバイアス問題へ、人間評価の再現性問題は judge のメタ評価問題へと、形を変えて存続している。
-
LLM-as-a-Judge の最新動向と創造性の評価への応用
2026-07-29
LLM を評価者として使う LLM-as-a-Judge の研究を、学術コーパス53件(探索58件、重複統合5、除外0)と産業コーパス39件(T1v ベンダー一次18、T2 公的機関9、T3 実務家私見12)で地図化した。学術側は (1) prompted judge の確立(MT-Bench, G-Eval)→ fine-tuned judge(Prometheus, JudgeLM)→ RL による reasoning judge(JudgeLRM, J1)という三世代の系譜、(2) 位置バイアス、冗長性バイアス、自己選好バイアスの実証とメタ評価ベンチ(JudgeBench で GPT-4o が難問でほぼランダム)、(3) 独立章として創造的成果物(創作文、創造性テスト、画像、UI、デザイン)の評価を整理した。創造性評価では定型ルーブリック次元の人間相関は高い(AUT r=.81、メタファー r=.72)一方、独創性次元の判定と専門家品質のデザイン批評には未到達という乖離が確認できる。産業側は汎用モデル judge のマネージドサービスと専業 fine-tuned judge の二型に製品化が分かれ、ベンダー公式文書と公的機関(NIST, UK AISI, J-AISI)がともに人間評価によるキャリブレーションを前提条件として明記する点で学術のバイアス知見と収束している。
-
LLM 時代のナレッジ管理の手法(2026 年半ばの現状)
2026-07-06
2026年中間地点における LLM 向けコンテキスト・ナレッジ管理手法の現在地。Google OKF(Open Knowledge Format)、Karpathy LLM Wiki パターン、Context Engineering の系譜、コード内知識ファイル(CLAUDE.md / AGENTS.md / Cursor Rules)の収束、MCP によるツール接続、PKM ツール(Obsidian / Notion / Logseq / Tana)との統合、GraphRAG、Fabric を横断的に整理する。
-
Claude Fable 5 の利用コストを抑えるためのモデルの使い分け
2026-07-05
Claude Fable 5 のトークン消費を抑えるため、Claude ファミリー内でモデルを使い分ける5パターン(ルーター、カスケード、オーケストレーター+ワーカー、タスク分類、キャッシュ併用)を整理する。RouteLLM、FrugalGPT、Anthropic multi-agent の知見を Fable 運用に応用し、単体 40-70% から全レバー組み合わせ 70-85% のコスト削減を見込める。
-
フロンティアモデルへの課金の見返り(技術史の類推による討議)
2026-07-03
最高性能AIモデルへのプレミアム課金の将来リターンを、技術史の類推(dynamo/AlexNet/Bloomberg/SGI/Concorde)、生産性RCT、good-enough論の外乱で討議。収束させず対立表を主成果物とする
-
エージェンティックコーディングにおけるオーケストレーションパターンの現状(2026 年)
2026-07-01
2026年半ば時点のエージェンティックコーディングにおけるオーケストレーション・パターンを整理。エージェント間通信の5類型(階層型/ハンドオフ/共有状態/メッセージパッシング/コンテキスト隔離)、オーケストレーション・アーキテクチャ7類型、主要フレームワーク8種(Claude Code/OpenAI Agents SDK/LangGraph/CrewAI/MS Agent Framework/Google ADK/Strands/Mastra)の設計思想比較、収束しつつあるベストプラクティスとアンチパターンを出典つきで対照する。
-
prompt engineering から loop engineering までの歴史とデザインの役割
2026-06-30
prompt engineering(2022)から context engineering(Lutke 2025-06)、harness engineering(Anthropic 2025-11 / OpenAI 2026-02)、loop engineering(Osmani 2026-06-07)まで、生成AIを活用するエンジニアリング実践の4段階の系譜を一次ソースから整理し、デザインが関与すべき3つの軸(context architecture、evaluation as design、職能境界の緊張)で評価する。eval engineering を横断的実践として併記。ボトルネックが「書く」から「判断する」「回す」へ移行するなかで、デザインの職能は品質判断、情報環境の構造化、評価基準の定義へ重心を移しつつある。