Shuichiro Ogawa
English

ノート · updated 2026-10-11

生成 AI が作り手に回ったとき、クリエイターは何を引き継げればよいか（航空の自動化研究から）

AI にコードを書かせるエンジニアの技能を航空の制度で考えた記事（しみたろ 2026）を、クリエイティブの仕事に当てて読み直した。航空の制度と研究が守ってきたのは、自動操縦を使いながら、外れたときに人が機体を引き取れる状態である。

目次（8）
  1. 問いと、この note の範囲
  2. 航空の制度と研究が守ってきたもの
  3. 生成 AI でも同じことが起きているか
  4. クリエイティブでは、AI の間違いはどう見えるか
  5. 創作で「引き継ぐ」とは何をすることか
  6. クリエイターが取れる振る舞い
  7. 航空の喩えが届かないところ
  8. 研究がまだ答えていないこと

問いと、この note の範囲

しみたろは Zenn の記事で、AI コーディングエージェントに実装とレビューを任せるエンジニアが、どの技能を残せばよいかを航空の制度から考えた（しみたろ 2026）。 記事の答えは、自分で書く力より、自動化が外れたときに状況を理解して作業を引き取る力（記事の言葉では介入能力）である。 パイロットは普段から手で操縦しているわけではないが、自動操縦が外れたときに機体を立て直せる状態を、規制当局が訓練の仕組みとして保たせている。 記事はこれをソフトウェアに移し、AI が間違えた状態を演習で作ること、リスクの高い差分だけ手で読むこと、本番障害を演習の教材に戻すことを提案した。

この note は、同じ問いをクリエイティブの仕事（デザイン、イラスト、文章、映像）に当てる。 生成 AI が案を出し、描き、書くとき、クリエイターは何を引き継げればよいのか。 記事が一次資料に挙げた FAA の文書に加えて、自動化のヒューマンファクター研究、生成 AI と知識労働の研究、生成 AI と創作の実験を読み、創作に移すと何が変わるかを確かめる。 ソフトウェアと創作のあいだで最も大きく変わるのは、AI の誤りの見え方である。 下積みの業務が減るときのジュニアの練習は 生成 AI で下積みの仕事が減るとき、ジュニアは何をすればよいか（学術研究から） で、AI による認知のオフロードと学習は 生成AIの早期利用は思考の醸成を阻害するか：cognitive offloading と学習の文献地図 で扱った。 この note はジュニアに限らず、すでに腕のある作り手が AI と働きながら判断の力を保つことを扱う。

航空の制度と研究が守ってきたもの

出発点は Bainbridge の「自動化の皮肉」である（Bainbridge 1983）。 自動化を設計する人は、自動化できない仕事を人に残す。 その結果、人は普段は監視し、自動化が手に負えない異常のときだけ引き継ぐ役になる。 ところが、使わない技能は衰え（Bainbridge は身体の技能について、使わないと加減と間合いの精度から落ちると書いた）、異常の少ない対象への注意は 30 分ほどしか保てない。 Bainbridge は、手で介入する必要がめったにない最も成功した自動化ほど、人の訓練に最も大きな投資が要るかもしれないという皮肉で論文を結んだ。

その後の研究は、引き継ぎがなぜ難しいかを分けて調べた。 Endsley と Kiris は、航法の課題を専門家システムに任せる実験で、自動化が失敗した後の判断が遅れることを、状況認識の低下と結びつけた（Endsley and Kiris 1995）。 原因として最も有力だったのは、能動的な処理から受け身の処理への移りだった。 Sarter と Woods は、旅客機の操縦室の研究から、自動化が多くのモードを持つほど、人はいまどのモードで何をしているかを追う負荷を負い、それを支えない設計がモードの誤りを生むと論じた（Sarter and Woods 1995）。 Parasuraman と Riley は、人が自動化に頼りすぎる誤用（misuse）を、監視の失敗と判断の偏りに結びつけた（Parasuraman and Riley 1997）。 Parasuraman と Manzey の総説は、自動化への偏り（automation bias）が初心者にも専門家にも起き、訓練や指示では防げないと結論した（Parasuraman and Manzey 2010）。

制度は、この知見を手動飛行の扱いに落とした。 FAA の SAFO 13002（2013 年 1 月）は、自動飛行を使い続けても手動飛行の知識と技能は強化されず、望ましくない機体状態から素早く立て直す力が下がりうるとし、手動飛行を通常の運航と訓練の両方に組み込むよう勧めた（FAA 2013）。 SAFO 17007（2017 年）は、手動飛行を他の操縦技能が積み上がる土台とし、手動飛行は運動の技能だけでなく認知の技能を含むと書いた（FAA 2017）。 同じ文書は、自動化の機器を一つずつ切り替えた全ての組み合わせで手動飛行を練習させ、手動で飛ぶかどうかは機長がその場で判断するとした。 避けるべき方針として、「夜は手で飛ばない」のような一律の決まりと、科学的な根拠のない手動飛行のノルマ（例として「月に 10 時間は手で飛ぶ」）を挙げている。 PARC と CAST の作業部会の報告は、自動化への過度な依存と手動の操縦技能の侵食を懸念として挙げ、監視、相互確認、操縦する人（PF）と監視する人（PM）の仕事の配分を重視するよう求めた（PARC/CAST 2013）。

どの技能が衰えるかについては、実証の研究が一つの区別を示している。 Casner らは 16 人の B747-400 の機長と副操縦士に、自動化の程度を変えて模擬飛行させた（Casner et al. 2014）。 計器の走査と機体の操縦はおおむね保たれていた。 問題が多かったのは、地図表示なしで位置を追うこと、次の航法の手順を決めること、計器の故障に気づくことといった、頭で行う仕事のほうだった。 その成績は、自動化に任せているあいだに課題と関係のないことを考えていた頻度と結びついていた。 著者らは、手動飛行の認知の技能が保たれるかは、自動化を監視するあいだにどれだけ能動的に関わっているかによるかもしれないと述べている。 Ebbatson らも、旅客機のパイロットの直近の飛行経験が、手動操縦の操作のしかたと関係することを示した（Ebbatson et al. 2010）。

生成 AI でも同じことが起きているか

生成 AI の研究者たちも、この系譜を引いて問題を立て始めている。 Sellen と Horvitz は、AI の「副操縦士」という呼び名を手がかりに、航空から四つの教訓（監視の注意が続かないこと、制御の受け渡しの難しさ、技能の衰え、信頼の置き違い）を引いた（Sellen and Horvitz 2024）。 彼らが挙げた対策の一つは、人が AI を監視する配置だけでなく、AI が人を監視するほうが理にかなう場面を考えることである（綴りと文法の点検がその例として挙がっている）。 Simkute らは、生成 AI が生産性を下げる理由を、ヒューマンファクター研究に沿って四つに分けた（Simkute et al. 2025）。 作る役から評価する役への移り、作業の流れの組み替え、提案による中断、易しい課題をより易しく難しい課題をより難しくする偏りである。 Tankelevitch らは、生成 AI が使い手に、目的の自覚、課題の分解、出力の評価への確信の調整といったメタ認知の高い負荷をかけると論じた（Tankelevitch et al. 2024）。

実証の報告は、まだ自己報告と短期の実験が中心である。 Lee らは 319 人の知識労働者から 936 件の使用例を集め、AI がその課題をこなせるという確信が高いほど批判的思考を働かせることが少なく、自分の力への自信が高いほど多いという関係を報告した（Lee et al. 2025）。 批判的思考の中身は、情報を集めることから確かめることへ、課題を自分で行うことから AI の出力をまとめ、課題の進み方を監督すること（task stewardship）へ移っていた。 Dell’Acqua らの 758 人の実験では、AI の得意な範囲の課題では AI を使う人の成績が上がり、範囲の外に置いた課題では、AI を使う人が正しい答えを出す見込みが 19% 低かった（Dell’Acqua et al. 2026）。 範囲の境目は外から見えにくく、同じ作業の流れの中でも課題ごとに違う。 技能の衰えを測った報告としては医療がある。 Budzyń らは、ポーランドの 4 施設で AI の支援を導入した後、AI なしで行った大腸内視鏡検査の腺腫の発見率が 28.4% から 22.4% に下がったと報告した（Budzyń et al. 2025）。 観察研究なので因果は確定しておらず、著者らも AI への継続的な曝露が発見率を下げるかもしれないと述べるにとどめている。

デザインでは、Shukla らが UX の実務家のブログと subreddit の議論 120 件余りを読み、AI が繰り返しの作業を減らすことへの期待と並んで、頼りすぎ、認知のオフロード、デザインの技能の衰えへの懸念を見つけた（Shukla et al. 2025）。 これは言説の分析で、技能の変化を測ったものではない。 創作の実務家で、AI を使い続けた後の判断の力の変化を測った研究は、この調査の範囲では見つからなかった。

クリエイティブでは、AI の間違いはどう見えるか

記事は、ソフトウェアで AI が間違えるときは、ほぼ全部が警報の鳴らない静かな側に寄ると書いた。 もっともらしいコードが、エラーも警告も出さずにマージされていく。 それでもソフトウェアの誤りには、正しい状態がある。 CDK の差分が本番のデータベースを消しうるかは、CloudFormation の挙動まで降りれば確かめられる。

創作の誤りは、さらに静かである。 正しい答えが一つに決まらないので、AI の出力は誤りとしてではなく、もっともらしい凡庸さとして現れる。 実験は、その凡庸さが二つの形をとることを示している。

一つめは、個人の発想の固着である。 設計の固着（design fixation）は、先に見た例の特徴を、設計者が気づかずに繰り返す現象として知られている。 Wadinambiarachchi らは 60 人の参加者に視覚の発想課題を与え、AI の画像生成を使った群が、何も使わない群より最初の例への固着が強く、案の数が少なく、案の幅と独自性も低かったと報告した（Wadinambiarachchi et al. 2024）。 AI の画像は完成度が高いので、発想の出発点がそこに引き寄せられる。

二つめは、集団の均質化である。 Doshi と Hauser の実験では、AI の案を使えた書き手の短編は、創造性が高く、よく書けていると評価され、その効果は元の創造性が低い書き手で大きかった（Doshi and Hauser 2024）。 同時に、AI を使った短編は互いに似ていた。 Anderson らの 36 人の比較でも、ChatGPT を使うと、個人の案の幅は変わらないが、参加者どうしの案が意味の上で似通い、使った人は自分の案への責任を感じにくかった（Anderson et al. 2024）。 一人ひとりの作品は良くなっているので、作り手は誤りに気づく手がかりを持たない。 均質化は、多くの作り手の作品を並べて初めて見える。

熟達の段階によって、AI の効き方も変わる。 Hou らの実験では、AI は発想の段階では誰の創造性も高めたが、制作の段階では、熟達したデザイナーが時間を多く使ったうえに創造性は上がらず、初心者だけが助けを得た（Hou et al. 2025）。 著者らは、AI のやり方が熟達者の確立した手順とぶつかることを理由に挙げている。

では、AI の案を見分ける判断は、作り手のどこから育つのか。 Schön と Wiggins は、建築の設計を、描いて見て、見たものから次の手を決める「見る、動かす、見る」の往復として記述した（Schön and Wiggins 1992）。 二度めの「見る」では、意図した結果だけでなく、意図しなかった結果にも気づく。 設計者の見ることは、情報を受け取るだけでなく、意味を組み立てることでもある。 この記述に従えば、案の良し悪しを見分ける判断は、自分で動かした手の結果を見る中で育つ。

創作で「引き継ぐ」とは何をすることか

ここまでの研究を合わせると、創作で引き継ぐ力は、記事の言う介入能力と形が少し違う。 記事のループは、自動化の監視、異常の認識、自動化の解除、手での引き継ぎ、異常からの回復だった。 記事は、このうち異常の認識がソフトウェアで最も難しいと書いた。 創作では、異常そのものを定義する仕事が人に残る。 警報も正解もないので、何が凡庸で何が狙いから外れているかを決めるのは、作り手の判断である。

この note は、創作で引き継ぐ力を次の三つとして定義する。 枠の立て直し：AI の出力が答えている問いが、この仕事の問いと合っているかを確かめ、合っていなければ問いを言い直すこと。 見分け：案の良し悪しと、どこが凡庸かを、自分の基準で言えること。 方向の転換：AI の流れを止め、自分の手で別の方向の案を作ること。 エンジニアの「異常からの回復」に当たるのは、出力の誤りを直すことより、この三つである。

PM と PF の喩えも、創作ではそのまま使える。 航空の PM は、自分も PF をこなせる訓練を受けた人であり、記事もこの点から、手を動かす練習を完全には捨てられないと結んでいる。 創作では、この前提がさらに強く効く。 Schön と Wiggins の記述に従えば、見分けの力は手で動かした結果を見る中で育つので、手を動かさない見張り役は、見分ける基準そのものを更新できなくなるおそれがある。 Casner らが示した、手の技能より頭の技能が衰えやすいという区別も、創作に移すと、描く手より、見て判断する頭のほうを意図して保つ必要を示唆する。

クリエイターが取れる振る舞い

以下は、上の研究を創作に当てた考察である。 どれも創作の実務家で効果を確かめた研究はなく、根拠は他分野の知見からの類推にとどまる。

  1. 発散の最初を AI なしで行う。案を広げる段階の最初に自分で案を出し、その後で AI の案と並べる。根拠：AI の画像が固着を強め、案の幅を狭めた実験（Wadinambiarachchi et al. 2024）と、AI の案が作品どうしを似せた実験（Doshi and Hauser 2024、Anderson et al. 2024）。自分の案が先にあれば、AI の案を比べる相手として扱いやすくなる。
  2. AI の出力を見る前に、評価の基準を書く。何をもって良しとするか、どこを外したら失敗かを、出力を見る前に言葉にしておく。根拠：生成 AI が目的の自覚と評価への確信の調整を求めるという議論（Tankelevitch et al. 2024）と、自動化への偏りは注意だけでは防げないという総説（Parasuraman and Manzey 2010）。「よく見る」と決めても偏りは防げないので、見る前に基準を外に出しておく。
  3. 一律のノルマでなく、作品の核になる箇所で手に戻す。「毎日 1 枚は手で描く」のような決まりより、作品の核（コンセプト、署名性のある表現、他者や事実の描写など）にかかる判断で AI の流れを止める。根拠：SAFO 17007 が科学的根拠のないノルマを避け、機長の判断に任せたこと（FAA 2017）。記事も、リスクの高い差分だけ手で読む方針を提案している。どこを核とするかは仕事ごとに違うので、作り手が先に決めておく。
  4. AI を見張り役に回す配置を試す。作り手が描き、書き、AI に講評させる。根拠：Sellen と Horvitz が、AI が人を監視するほうが理にかなう場面を考えるよう勧めたこと（Sellen and Horvitz 2024）。この配置では、作り手が PF に残るので、手と判断の往復が途切れにくい。ただし AI の講評の質と、講評への偏りは確かめられていない。
  5. AI に驚かされた事例を、講評とふりかえりの教材に戻す。AI の案を採って後で外したと分かった仕事、AI の案に引きずられて似た案ばかりになった仕事を記録し、チームの講評で取り上げる。根拠：航空の訓練が実際に起きたことから項目を組み立てること（記事が紹介した EBT）と、デブリーフ（行動の後のふりかえり）が成績を平均で約 25% 高めたメタ分析（46 標本、Tannenbaum and Cerasoli 2013）。記事が書くとおり、合否のかかる場にすると、報告が控えめになる。
  6. 手を動かす練習を捨てない。AI に任せる仕事が増えても、手で作る時間を意図して残す。根拠：見分ける判断は手で動かした結果を見る中で育つという記述（Schön and Wiggins 1992）と、航空で PM が PF をこなせる訓練を前提にしていること（FAA 2017、PARC/CAST 2013）。目的は AI なしで全部作れることではなく、AI の流れを止めたときに別の方向を自分で作れることである。
  7. AI がどの方向に寄りやすいかを知っておく。航空でモードの把握が安全の要件とされたように（Sarter and Woods 1995）、自分の使う AI がどんな案に寄りやすいか（ありがちな構図、ありがちな言い回し）を、使いながら記録する。根拠は均質化の実験（Doshi and Hauser 2024、Anderson et al. 2024）からの類推で、個人の作り手がこの傾向を見分けられるかは確かめられていない。

航空の喩えが届かないところ

記事は、障害の重さと可逆性、監視の単位、技能の種類、異常の気づき方で、航空とソフトウェアが違うと書いた。 創作では、このうち三つがさらにずれる。

一つめは、正解の有無である。 航空の異常は計器と規則で定義され、ソフトウェアの誤りもテストと仕様で確かめられる。 創作の凡庸さには定義がなく、同じ案が文脈によって良くも悪くもなる。 引き継ぐ力の訓練の中心は、自分の基準を言葉にし、他人の基準と突き合わせることになる。

二つめは、失敗の見え方である。 均質化は、一つの作品の中には現れず、多くの作り手の作品を並べたときに現れる。 個人の振る舞いだけでは防ぎきれず、講評やコンペの場で、作品を並べて見る仕組みが要る可能性がある。

三つめは、技能の種類である。 記事は、手動飛行は身体の技能の比重が大きく、コードを読むのは認知の技能が中心だと区別した。 イラストや映像では手の技能の比重が大きく、Bainbridge の言う加減と間合いの衰えがそのまま当てはまる部分がある。 一方、コンセプトや編集の判断は認知の技能で、Casner らの結果に従えば、こちらのほうが衰えやすいかもしれない。 創作のどの技能がどの速さで衰え、どう戻るかを測った研究はない。

研究がまだ答えていないこと

創作の実務家が生成 AI を使い続けた後に、判断の力（見分け、枠の立て直し）が変わるかを、AI なしの課題で測った縦断研究は見つからなかった。 医療の内視鏡（Budzyń et al. 2025）にあたる、導入の前後で AI なしの成績を比べる設計は、デザインの講評の記録でも組める可能性がある。 上の七つの振る舞いは、どれも効果が確かめられていない。 特に、発散の最初を AI なしで行う順序と、AI を見張り役に回す配置は、固着と均質化の実験の手続きに一つの条件を足せば比べられる。

関連ノート

未検証事項

主要主張に未検証の記述は残していない。 Sarter と Woods 1995、Endsley と Kiris 1995、Parasuraman と Riley 1997、Ebbatson ら 2010、Tannenbaum と Cerasoli 2013、Budzyń ら 2025、Dell’Acqua ら 2026、Hou ら 2025 は本文を取れず、要旨の範囲だけで使った。

参照文献

書いた人：小川 修一郎（Design Researcher / Consultant） 経歴を見る →