AI エージェントは 70 年で何度流行り、デザインはそのたびに何をしたか（学術研究から）｜ノート

「AI エージェント」という考えが 1950 年代から 2026 年までにどう生まれ、流行り、退き、戻ってきたかを、AI と HCI（ヒューマンコンピュータインタラクション）の学術文献 47 件で整理し、その出入りの中でデザインが役目を果たしたかを確かめた。

問いと、この note の範囲

2024 年ごろから、「AI エージェント」は製品の発表でも研究の題名でも、もっとも目にする語の一つになった。ただ、この語は新しくない。 1990 年代の半ばにも、エージェントは計算機の未来だと言われ、数年で語られなくなった。いまの流行が三度目か四度目だとすると、前の波で何が起き、なぜ退いたかを知っておく値打ちがある。

この note の問いは二つである。一つめは、AI エージェントという考えが 1950 年代から 2026 年までにどう生まれ、流行り、退き、戻ってきたかである。二つめは、その出入りの中で、デザイン（HCI、インタラクションデザイン、UI の設計）が役目を果たしたか、果たさなかったかである。ここでの役目は、概念を作ること、形を与えること、失敗させること、立て直すこと、後から来て評価すること、のどれでもありうる。デザインがいつも主役だったという答えも、いつも脇役だったという答えも、資料で確かめてから選ぶことにした。

使ったのは、AI と HCI の査読論文と学術書の章、学術機関の技術報告、採択の記された arXiv の論文、合わせて 47 件である。査読版のない arXiv の論文は、そのことを本文で断っている。本文を取れなかった論文（ACM や AAAI のサイトが取得を拒んだもの）は、要旨に書かれた範囲だけで扱い、本文で「要旨は」と断っている。産業の資料（製品の発表、ベンダーの白書）は使っていない。最近の人とエージェントのインタラクションの研究は、Agentic Experience（AX）の学術的基盤：人間-エージェント・インタラクション研究の現在地がより詳しく扱っている。

二つの源流：考える機械と、人と組む機械（1950〜1970 年代）

エージェントという語が広まる前から、二つの違う構想が並んでいた。一つは、機械そのものに考えさせる構想である。 Turing は 1950 年に「機械は考えられるか」という問いを模倣ゲームに置き換え、論文の最後の節を学習する機械にあてた（Turing 1950）。 McCarthy は 1959 年に、形式言語の文を操作して問題を解く「助言を受ける者」（Advice Taker）を提案した（McCarthy 1959）。 McCarthy がこのプログラムに期待した利点は、プログラムの中身を知らなくても、文で教えるだけで振る舞いを改善できることだった。教えられて賢くなる機械という像は、のちのエージェントの議論にもそのまま現れる。 1973 年には Hewitt らが、メッセージをやりとりする「アクター」という一種類の対象だけで計算を組み立てる形式を出した（Hewitt ほか 1973）。

もう一つは、人と計算機が組んで考える構想である。 Licklider は 1960 年に「人と計算機の共生」を書き、これを人の腕や目を機械で延ばすことからも、人工知能からも区別した（Licklider 1960）。 Licklider は人工知能の熱心な支持者との議論を避けて、遠い将来の思考は機械だけのものになると譲った。そのうえで、それまでの「かなり長い暫定の期間」には、主な知的な進歩は人と計算機が密に組んで生まれると書いた。その期間を 15 年と見積もり、10 年かもしれず 500 年かもしれないと付け加えている。

この二つの構想のあいだに、早くから一つの問題が見えていた。 Weizenbaum は 1966 年に会話のプログラム ELIZA を報告し、仕組みを説明すればその魔法は崩れると書いた（Weizenbaum 1966）。一方で、被験者の中には ELIZA が人でないと納得させるのに苦労した者がいたとも書き、機械の出力が人にとって信じられるかどうかという問題そのものを調べる必要があると述べた。中身の単純さと、人が受け取る印象とがずれるという問題は、このあとのどの波でも繰り返される。

エージェントがインタフェースの言葉になった（1990 年代）

1983 年、Shneiderman は直接操作（direct manipulation）を定式化した（Shneiderman 1983）。対象を画面に表し続け、命令の代わりにマウスやボタンの物理的な動作で操作し、すぐ見えて取り消せる小さな操作を重ねる、という整理である。 1990 年代のエージェントの議論は、この直接操作への対案として始まった。

Maes は 1994 年に、学習するインタフェースエージェントを報告した（Maes 1994）。インタフェースエージェントとは、人工知能の手法で利用者の計算機の作業を能動的に手伝うプログラムであり、Maes はこれを個人秘書の比喩で説明した。直接操作では、利用者がすべての作業を自分で始め、すべての出来事を自分で見張らなければならない。エージェントは、Kay が「間接の管理」（indirect management）と呼んだもう一つの操作の型を実現する、と Maes は位置づけた。そして課題を二つに絞った。エージェントがいつ何をどう手伝うかを知る「能力」（competence）と、利用者が安心して仕事を任せられるかという「信頼」（trust）である。 Maes の答えは、利用者を観察して少しずつ学ぶことで、利用者の側にもエージェントの判断の仕方を少しずつ理解する時間ができる、というものだった。

同じ頃、AI の研究者はエージェントを定義しようとしていた。 Wooldridge と Jennings は 1995 年に、自律性、社会性、反応性、先を見た主体性の四つを持つ計算機システムという「弱い」定義と、信念や意図のような心の状態で記述する「強い」定義を分けた（Wooldridge と Jennings 1995）。 Franklin と Graesser は 1996 年に、環境の中にあり、環境を感じて働きかけ、自分の目的を時間をかけて追い、その結果が先に感じるものに影響するシステム、という定義を出した（Franklin と Graesser 1996）。 Brooks は 1991 年に、表象を介さずに知覚と行動で環境とつながることで知能を組み立てる方針を示した（Brooks 1991）。

デザインの側は、この語に形を与えた。 Apple の User Experience Architects’ Office にいた Erickson は、エージェントという語に二つの意味が混ざっていると指摘した（Erickson 1997）。直接の操作なしに働く適応する機能（adaptive functionality）と、プログラムを生き物のように見せるエージェントの比喩（agent metaphor）である。後者の例として Erickson は、Apple の 1987 年の映像 Knowledge Navigator の蝶ネクタイの人物を挙げた。 Apple の Guides という百科事典の画面では、開拓者の女性や発明家といった役柄の案内役が関連する記事を勧めたが、案内役を写実的な人物にはしなかった。 Erickson の結論は、機能そのものではなく、適応する機能をどう見せるかの研究が欠けている、というものだった。 Maes の論文が載った 1994 年の CACM の特集で、Bates はディズニーのアニメーターの仕事を手がかりに、感情の表し方を「信じられるエージェント」（believable agents）の要件として論じた（Bates 1994）。

同じ時期に、最も強い批判もデザインの側から出た

エージェントを最も強く疑ったのも、デザインと HCI の人たちだった。 Norman は、エージェントには恐れと誇張された主張がつきまとうと書き、見込まれる主な困難は技術ではなく社会の側にあるとした（Norman 1997）。 Norman が挙げた論点は、利用者が自分で制御している感覚、暴走を防ぐ仕組み、期待を正しく持たせること、プライバシー、複雑さを隠しつつ中で何が起きているかを見せることである。利用者が、自分の代わりに何がなされたかを後からたどり、望まない行為を取り消せるべきだとも書いた。人の顔や声を与えると、人並みの知性と理解への期待が生まれ、約束しすぎになるという警告もある。

Lanier は 1995 年に、知的エージェントという考えは誤りであり、邪悪でもあると書いた（Lanier 1995）。 Lanier の論点は、自律していると見なしたプログラムに人が過剰に従い、エージェントを賢く見せるために自分の振る舞いをエージェントの型に合わせ、結果として自分を愚かにする、というものである。 Lanier は Microsoft の Bob と Apple の Newton を、エージェントを名乗って出荷された数少ない製品として挙げた。

AI の側からも、言葉の膨らみを危ぶむ声が出ていた。 Nwana は 1996 年の総説の結びで、エージェントは技術の概念でもあり比喩でもあるために流行語になったと書いた（Nwana 1996）。そのうえで、大きすぎる主張が実際の成果をかき消し、関心が薄れ、研究費が消えるという、人工知能そのものがたどった道を繰り返す恐れを述べ、「知的」という形容を外すことを勧めた。

1997 年、Shneiderman と Maes は IUI と CHI の二つの学会で公開の討論をした（Shneiderman と Maes 1997）。 Shneiderman は、利用者が画面を理解し、制御していると感じ、システムが予測でき、自分の行為に責任を持てる環境を目標に掲げ、責任がこの討論の中心の論点になると述べた。人の姿をした画面の例として、おしゃべりな銀行の窓口係や Knowledge Navigator の構想を挙げ、Microsoft の Bob も失敗した製品だとして、人の姿や社会性を持つ画面は計算機の未来ではないとも述べた。 Maes は、環境が複雑になれば「余分な目や耳」に任せる必要が出ると応じた。そのうえで、エージェントは直接操作の代わりではなく補い合う比喩であり、ほとんどのエージェントは人の姿をしていない、と反論した。 Gentner と Nielsen も前年に、Mac の原則を裏返した「反 Mac」の原則として、直接操作の代わりに委任を、利用者の制御の代わりに制御の共有を挙げていた（Gentner と Nielsen 1996）。

この討論で分かれていたのは、委任するかしないかだけではない。人の姿で見せるか、責任を誰が持つか、利用者が見て取り消せるか、が同時に争われていた。 Maes の「エージェントは人の姿をしていなくてよい」という反論は、Erickson の機能と比喩の区別と同じ線を引いている。

Office アシスタントで何が起きたか

この論争と並行して、エージェントは大きな製品に入った。 Office 97 のアシスタント（いわゆる Clippy）の元になったのは、Microsoft Research の Lumière という研究である（Horvitz ほか 1998）。 Lumière は、利用者の操作の流れから、利用者が何をしたいのか、助けが要るかをベイズのモデルで推し量る研究だった。

Lumière の研究班は、Microsoft の使いやすさの実験室の心理学者と組んで、隣の部屋の専門家が利用者の画面だけを見て助言を打ち込む「オズの魔法使い」型の実験をした。専門家は観察から利用者の目的をある程度見抜けたが、目的の推定は難しく、どの助けに価値があるかにも迷った。もう一つの発見は、的外れな助言が利用者に高くつくことだった。被験者は実験用の仕組みだと知らされていても助言を真剣に読み、外れた助言に気を取られて、そこに書かれた機能を試し始めた。それを見た専門家は推定が当たったと誤って受け取り、さらに利用者を脇道に押しやった。

製品になったとき、何が変わったかも論文に書かれている。 Office の担当部門は、推定の結果を伝える前面に人物の姿を置くことを決めた。製品のモデルは研究の試作より広く浅く、利用者の熟練度の記録を持たず、ごく最近の少数の操作しか見なかった。そして、利用者が助けを必要とする確からしさや、自動で助けを出すことの期待効用に基づいて自分から助けを出す仕組みは、使われなかった。

この記述から、次の順序が読める。使いやすさの実験は、的外れな助言の代価を製品の前に見つけていた。研究の試作は、確からしさが閾値を超えたときだけ助けを出し、費用と便益で閾値を調整する試みもしていた。それでも製品は、人物の姿を前に出し、助けを出す判断の仕組みを外して出荷された。デザインと人間工学の知見はあったが、製品の決定の場で守られなかった、と読める。ただし、この製品の失敗そのものを調べた査読研究は、この調査では見つからなかった。

翌 1999 年、Lumière の筆頭著者の Horvitz は、混合主導（mixed-initiative）のインタフェースの原則をまとめ、Lumière の論文も参照文献に挙げた（Horvitz 1999）。 Horvitz は、直接操作かエージェントかという論争を受けて、両者を組み合わせる原則を求めた。エージェントの主な問題として挙げたのは、利用者の目的の推測の誤り、自動の行為の費用と便益の考慮不足、行為の時機の悪さ、利用者が自動の働きを導き結果を直す機会の欠如である。貧弱な設計や比喩を複雑な推論の仕組みで繕うべきでない、とも書いている。

言葉が退いたあいだに残ったもの（2000〜2010 年代）

2000 年代に入ると、エージェントという語はインタフェースの議論から目立たなくなった。ただ、語は計算機の別の分野と、計算機の外の分野に移っていた。 Niazi と Hussain は、1990 年から 2010 年までに Web of Science に索引された、エージェントに基づく計算の雑誌論文 1,064 本を書誌計量で分析した（Niazi と Hussain 2011）。その結果は、マルチエージェントシステムやエージェントに基づくモデルが、生命科学、生態学、社会科学のような計算機以外の分野にも強く根を張っていたことを示した。強化学習でも、エージェントは環境を制御しようとする学習者を指す語であり続けた。 2015 年の DQN の論文は、画素と得点だけを入力に 49 のゲームで人の熟練者に並ぶ成績を出したものを、多様な課題を学べる最初の人工のエージェントと呼んだ（Mnih ほか 2015）。

インタフェースの側に残ったのは、語よりも道具だった。 Parasuraman、Sheridan、Wickens は 2000 年に、自動化を情報の取得、情報の分析、決定と行為の選択、行為の実行の四つの機能に分け、それぞれに手動から全自動までの水準を置くモデルを出した（Parasuraman ほか 2000）。自動化は人の作業をただ置き換えるのではなく作業を変え、新しい調整の負担を生む、というのがこのモデルの前提である。 Lee と See は 2004 年に、自動化への誤った依存（misuse）と使わなすぎ（disuse）を、信頼が自動化の本当の能力にどれだけ合っているかという較正（calibration）の問題として整理した（Lee と See 2004）。どちらも人間工学の研究で、エージェントという語を中心にはしていないが、何をどこまで任せるかを決める語彙になった。

この時期の説明として、Grudin の 2009 年の論考がある（Grudin 2009）。要旨によれば、AI と HCI は計算機と知的な振る舞いという同じ対象を扱いながら、AI は費用のかかる長期の構想に、HCI は広く使われる機器の短期の改善に向かい、優先順位も方法も評価の仕方も違っていた。その結果、両者は資源を取り合い、HCI は AI の冬の時代に栄え、AI がもてはやされる時期には進みが遅くなった、と要旨は述べる。この見方に立つと、エージェントの言葉が退いた時期にデザインの側の道具が育ったことは偶然ではないかもしれない。

2010 年代に入ると、エージェントは音声アシスタントとチャットボットの姿で戻ってきた。 Luger と Sellen は 2016 年に、会話エージェントの利用者 14 人に聞き取りをし、利用者の期待がシステムの実際の働きと大きくずれていることを報告した（Luger と Sellen 2016）。 Grudin と Jacques は 2019 年に、チャットボットの波を振り返った（Grudin と Jacques 2019）。 2016 年に、特定の作業を受け持つチャットボットは機械知能の中心になり、何十万も作られたが、簡単でないチャットボットを成功させるのは予想より難しかった。 2018 年 1 月には、この流行のきっかけの一つだった Facebook の M が終了した。その後、確信のある問いだけをボットが答え、残りを人に回す「人とボットの組」を設計する開発者が出てきた、と二人は書いている。

デザイナーの側も、機械学習を扱いにくい素材だと感じていた。 Dove らは 2017 年に、UX の実務家に調査をし、機械学習は他の技術ほどデザインの革新を生んでおらず、新しく難しいデザインの素材だからかもしれないと要旨で述べた（Dove ほか 2017）。 Yang らは 2020 年に、自分たちの設計、研究、教育の事例を総合して、その理由を二つに絞った（Yang ほか 2020）。 AI が何をどれだけうまくできるかの不確かさと、AI の出力の複雑さである。紙の試作やオズの魔法使い型の試作は、HCI が複雑な技術を安く扱うための道具だった。しかし Siri のように入力と出力の関係が簡潔に書けない系は、規則の模擬でも人の魔法使いでも再現できず、推論の誤りが体験に与える影響を試作で確かめにくい。 Yang らは、事例が自分たちの経験に偏っていて代表的でないことを限界として認めている。

それでも、指針はまとめられた。 Amershi らは 2019 年に、学術と産業の 150 を超える AI のデザインの推奨を 18 の指針にまとめ、49 人のデザインの実務家が 20 の AI 製品に当てて確かめた（Amershi ほか 2019）。この論文は、自律の行為と直接操作の釣り合いを論じた Horvitz の 1999 年の論文を、混合主導の系の基礎を作った論文として引いている。 Shneiderman は 2020 年に、自動化の水準と人の制御の水準を一本の軸の両端ではなく別の二つの軸とし、両方を高くすることを目標にする枠組みを出した（Shneiderman 2020）。 1997 年の討論の対立を、軸を二本にすることで解こうとした提案と読める。

LLM エージェントの再来（2022〜2026 年）

2022 年以降のエージェントの再来は、機械学習と自然言語処理の側から始まった。 ReAct は、言語モデルに推論の過程と行動を交互に出させる手法で、二つの対話的な意思決定の課題（ALFWorld と WebShop）で、模倣学習と強化学習の方法を成功率で 34 ポイントと 10 ポイント上回った（Yao ほか 2023）。 Toolformer は、どの API をいつ呼び、何を引数に渡すかを、言語モデルが自己教師ありで学ぶ方法である（Schick ほか 2023）。 Wang らと Xi らの総説が、LLM に基づくエージェントの構成要素と応用を整理した（Wang ほか 2024、Xi ほか 2025）。

この再来は、過去と切れてはいない。 Wang らの総説は冒頭で、Franklin と Graesser の 1996 年の自律エージェントの定義をそのまま引用している。 Xi らの総説は、エージェントという概念を哲学の起源から AI での展開までたどってから、LLM がその土台に向く理由を述べる。 Sumers らは、認知科学と記号的な人工知能の長い歴史を土台にして、言語エージェントを記憶、行動の空間、意思決定の手続きで記述する枠組みを出した（Sumers ほか 2024）。語が急に広がったことで、使い分けの整理も始まった。 Sapkota らは、道具を使って決まった作業を自動化する単体の「AI エージェント」と、複数の専門のエージェントが作業を分け合って協調する「エージェント的 AI」（agentic AI）を区別した（Sapkota ほか 2026）。

能力の到達点は、評価の環境で測られた。 WebArena では、最良の GPT-4 に基づくエージェントが課題の 14.41% を最後までこなし、人は 78.24% だった（Zhou ほか 2024）。実際の OS の上の課題を集めた OSWorld では、人は 72.36% をこなし、最良のモデルは 12.24% にとどまり、主に画面の要素の特定と操作の知識でつまずいた（Xie ほか 2024）。評価そのものへの批判も出た。 Kapoor らは、エージェントの評価が正確さに偏り、費用を見ていないために、無駄に複雑で高価なエージェントが作られていると論じた（Kapoor ほか 2024、arXiv）。 Chan らは、仕様が曖昧なまま目的を追い、直接に影響を及ぼし、長い計画を立てるほど、算法の系の「エージェント性」が増し、その害も広く長くなると整理した（Chan ほか 2023）。 Mitchell らは、利用者がエージェントに制御を渡すほど人へのリスクが増すと分析し、完全に自律したエージェントは開発すべきでないと主張した（Mitchell ほか 2025、arXiv）。

この波でも、デザインは能力の後から来た。例外が一つある。 LLM エージェントの代表的な研究の一つである Park らの生成エージェントは、HCI の学会である UIST に発表された（Park ほか 2023）。 25 人のエージェントが暮らす小さな町を作り、利用者が自然言語で介入できるようにしたこの研究は、Bates の 1994 年の「信じられるエージェント」を引き、人の振る舞いの信じられる代理を目標に掲げた。

その後のデザインの研究は、1990 年代の論点を言い直している。 Feng らは、エージェントの自律の水準を、能力や環境とは別に決める設計の判断として扱い、利用者の役割（操作者、協働者、相談者、承認者、観察者）で五つの水準を定めた（Feng ほか 2025、arXiv）。 Parasuraman らの自動化の水準と同じく、どこまで任せるかを段階で決めるという考え方である。 Bansal らは、エージェントから利用者へ、利用者からエージェントへ情報を伝えるときの 12 の課題を挙げた（Bansal ほか 2024、arXiv）。

Feng らの Cocoa は、計画と実行を人とエージェントが交互に分け合う画面を、9 人の研究者との予備調査から設計し、16 人の実験室の研究では、強いチャットの画面と比べて使いやすさを保ったままエージェントを導きやすかった（Feng ほか 2026）。 7 人が 7 日間使った現場の試用では、人とエージェントの仕事の分け方を明示できることが役に立ったと評価された。

Shome らは、102 の商用エージェントの宣伝された用途を調べてから、31 人に Operator と Manus で代表的な課題を試させた（Shome ほか 2026）。利用者はエージェントに感心したが、エージェントの能力が利用者の心のモデルと合わず、協働に要る自分の状態を把握する力をエージェントが欠いていたために、使いやすさの大きな問題に直面した。 Shome らは序論で、Horvitz の混合主導と 1997 年の Shneiderman と Maes の討論を挙げ、その夢が LLM のエージェントの名で戻ってきたと書いている。 Zhu らは、エージェントの普及が限られているのは技術の能力だけでなく、人とエージェントの相互作用の設計の知識が足りないからだとし、14 の設計原則を 9 つのシステムに当てた（Zhu ほか 2026、arXiv）。

デザインは役目を果たしたか

資料からは、役目を果たしたと答えられる。ただし、その役目は時期によって違い、どの時期にも能力を生む役ではなかった。

1960 年代には、人と組む機械という構想（Licklider）が、自律する機械という構想の対になった。この対は、1997 年の討論でも、2020 年の Shneiderman の二本の軸でも、2025 年の Feng らの自律の水準でも、形を変えて残っている。 1990 年代には、デザインの側がエージェントをインタフェースの言葉にし（Maes、Erickson、Bates）、同じ側が最も強い批判を出した（Norman、Lanier、Shneiderman）。流行を作った側と止めようとした側が、同じ分野の中にいたことになる。 1990 年代の終わりには、使いやすさの実験が製品の前に危うさを見つけていたが、製品はその知見と違う形で出た（Horvitz ほか 1998）。語が退いた 2000 年代から 2010 年代には、自動化の水準、信頼の較正、混合主導、18 の指針という、何をどこまで任せ、どう見せるかの語彙がデザインと人間工学の側で育った。 2022 年以降は、能力が機械学習の側から先に来て、デザインはその評価と画面の設計で後を追っている。その論点（任せる範囲、見せ方、取り消し、利用者の期待とのずれ）は、Maes（1994）の能力と信頼、Norman（1997）の制御の感覚と期待の管理から大きくは動いていない。

この整理から、二つのことが言える。一つは、デザインの貢献が、能力をどう見せ、どこまで任せるかを決める語彙として各時代に残ってきたことである。もう一つは、その語彙が製品の決定でどこまで守られたかは、Office アシスタントの一例を除いて、この調査の文献からは確かめられないことである。流行りと廃れの原因をデザインに帰すこともできない。 Grudin の要旨が示すのは AI と HCI の資源の取り合いという説明であり、デザインの批判がエージェントの退潮を起こしたことを示した研究は見つからなかった。

研究がまだ答えていないこと

エージェントという語の流行を、1990 年代から 2020 年代まで同じ方法で数えた書誌計量の研究は見つからなかった。 1990 年から 2010 年については Niazi と Hussain の分析があるが、インタフェースエージェントと 2020 年代の「エージェント的 AI」の比較はない。 Office アシスタントの失敗を一次の資料で調べた査読研究も見つからなかった。 1990 年代の批判の論点（制御の感覚、取り消し、人の姿で見せることの約束しすぎ）が、いまのエージェントの製品の画面にどう反映されているかを測った研究も、この調査の範囲では見つからなかった。日本語圏の研究（人工知能学会、ヒューマンインタフェース学会、情報処理学会のヒューマンコンピュータインタラクション研究会）は、今回は調べていない。

未検証事項

主要主張に未検証の記述は残していない。 Office アシスタントの失敗そのものを扱った査読研究は見つからなかったので、本文では Lumière の論文に書かれた範囲だけを述べた。

参照文献

Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, S., Bennett, P. N., Inkpen, K., Teevan, J., Kikin-Gil, R., & Horvitz, E. (2019). Guidelines for human-AI interaction. Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, 1–13. https://doi.org/10.1145/3290605.3300233
Bansal, G., Wortman Vaughan, J., Amershi, S., Horvitz, E., Fourney, A., Mozannar, H., Dibia, V., & Weld, D. S. (2024). Challenges in human-agent communication. arXiv:2412.10380. https://arxiv.org/abs/2412.10380
Bates, J. (1994). The role of emotion in believable agents. Communications of the ACM, 37(7), 122–125. https://doi.org/10.1145/176789.176803
Brooks, R. A. (1991). Intelligence without representation. Artificial Intelligence, 47(1–3), 139–159. https://doi.org/10.1016/0004-3702%2891%2990053-M
Chan, A., Salganik, R., Markelius, A., Pang, C., Rajkumar, N., Krasheninnikov, D., Langosco, L., He, Z., Duan, Y., Carroll, M., et al. (2023). Harms from increasingly agentic algorithmic systems. Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, 651–666. https://doi.org/10.1145/3593013.3594033
Dove, G., Halskov, K., Forlizzi, J., & Zimmerman, J. (2017). UX design innovation: Challenges for working with machine learning as a design material. Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems, 278–288. https://doi.org/10.1145/3025453.3025739
Erickson, T. (1997). Designing agents as if people mattered. In J. M. Bradshaw (Ed.), Software agents. AAAI Press / MIT Press. http://www.tomeri.org/agents.html
Feng, K. J. K., McDonald, D. W., & Zhang, A. X. (2025). Levels of autonomy for AI agents. arXiv:2506.12469. https://arxiv.org/abs/2506.12469
Feng, K. J. K., Pu, K., Latzke, M., August, T., Siangliulue, P., Bragg, J., Weld, D. S., Zhang, A. X., & Chang, J. C. (2026). Cocoa: Co-planning and co-execution with AI agents. Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems, 1–23. https://doi.org/10.1145/3772318.3791673
Franklin, S., & Graesser, A. (1996). Is it an agent, or just a program?: A taxonomy for autonomous agents. In Intelligent Agents III (ATAL 1996), LNCS 1193, 21–35. Springer. https://doi.org/10.1007/BFb0013570
Gentner, D., & Nielsen, J. (1996). The Anti-Mac interface. Communications of the ACM, 39(8), 70–82. https://doi.org/10.1145/232014.232032
Grudin, J. (2009). AI and HCI: Two fields divided by a common focus. AI Magazine, 30(4), 48–57. https://doi.org/10.1609/aimag.v30i4.2271
Grudin, J., & Jacques, R. (2019). Chatbots, humbots, and the quest for artificial general intelligence. Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, 1–11. https://doi.org/10.1145/3290605.3300439
Hewitt, C., Bishop, P., & Steiger, R. (1973). A universal modular ACTOR formalism for artificial intelligence. Proceedings of the 3rd International Joint Conference on Artificial Intelligence, 235–245. https://www.ijcai.org/Proceedings/73/Papers/027B.pdf
Horvitz, E. (1999). Principles of mixed-initiative user interfaces. Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (CHI ‘99), 159–166. https://doi.org/10.1145/302979.303030
Horvitz, E., Breese, J., Heckerman, D., Hovel, D., & Rommelse, K. (1998). The Lumière project: Bayesian user modeling for inferring the goals and needs of software users. Proceedings of the 14th Conference on Uncertainty in Artificial Intelligence (UAI 1998), 256–265. https://arxiv.org/abs/1301.7385
Kapoor, S., Stroebl, B., Siegel, Z. S., Nadgir, N., & Narayanan, A. (2024). AI agents that matter. arXiv:2407.01502. https://arxiv.org/abs/2407.01502
Lanier, J. (1995). Agents of alienation. interactions, 2(3), 66–72. https://doi.org/10.1145/208666.208684
Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50.30392
Licklider, J. C. R. (1960). Man-computer symbiosis. IRE Transactions on Human Factors in Electronics, HFE-1(1), 4–11. https://doi.org/10.1109/THFE2.1960.4503259
Luger, E., & Sellen, A. (2016). “Like having a really bad PA”: The gulf between user expectation and experience of conversational agents. Proceedings of the 2016 CHI Conference on Human Factors in Computing Systems, 5286–5297. https://doi.org/10.1145/2858036.2858288
Maes, P. (1994). Agents that reduce work and information overload. Communications of the ACM, 37(7), 30–40. https://doi.org/10.1145/176789.176792
McCarthy, J. (1959). Programs with common sense. In Mechanisation of Thought Processes: Proceedings of the Symposium of the National Physical Laboratory. HMSO. http://www-formal.stanford.edu/jmc/mcc59.pdf
Mitchell, M., Ghosh, A., Luccioni, A. S., & Pistilli, G. (2025). Fully autonomous AI agents should not be developed. arXiv:2502.02649. https://arxiv.org/abs/2502.02649
Mnih, V., Kavukcuoglu, K., Silver, D., Rusu, A. A., Veness, J., Bellemare, M. G., Graves, A., Riedmiller, M., Fidjeland, A. K., Ostrovski, G., et al. (2015). Human-level control through deep reinforcement learning. Nature, 518(7540), 529–533. https://doi.org/10.1038/nature14236
Niazi, M., & Hussain, A. (2011). Agent-based computing from multi-agent systems to agent-based models: A visual survey. Scientometrics, 89(2), 479–499. https://doi.org/10.1007/s11192-011-0468-9
Norman, D. A. (1997). How might people interact with agents. In J. M. Bradshaw (Ed.), Software agents. AAAI Press / MIT Press. (Revised from Communications of the ACM, 37(7), 68–71, 1994.) https://web.archive.org/web/2005/http://www.jnd.org/dn.mss/agents.html
Nwana, H. S. (1996). Software agents: An overview. The Knowledge Engineering Review, 11(3), 205–244. https://doi.org/10.1017/S026988890000789X
Parasuraman, R., Sheridan, T. B., & Wickens, C. D. (2000). A model for types and levels of human interaction with automation. IEEE Transactions on Systems, Man, and Cybernetics, Part A, 30(3), 286–297. https://doi.org/10.1109/3468.844354
Park, J. S., O’Brien, J. C., Cai, C. J., Morris, M. R., Liang, P., & Bernstein, M. S. (2023). Generative agents: Interactive simulacra of human behavior. Proceedings of the 36th Annual ACM Symposium on User Interface Software and Technology (UIST ‘23), 1–22. https://doi.org/10.1145/3586183.3606763
Sapkota, R., Roumeliotis, K. I., & Karkee, M. (2026). AI agents vs. agentic AI: A conceptual taxonomy, applications and challenges. Information Fusion, 126, 103599. https://doi.org/10.1016/j.inffus.2025.103599
Schick, T., Dwivedi-Yu, J., Dessì, R., Raileanu, R., Lomeli, M., Zettlemoyer, L., Cancedda, N., & Scialom, T. (2023). Toolformer: Language models can teach themselves to use tools. Advances in Neural Information Processing Systems 36 (NeurIPS 2023). https://arxiv.org/abs/2302.04761
Shneiderman, B. (1983). Direct manipulation: A step beyond programming languages. Computer, 16(8), 57–69. https://doi.org/10.1109/MC.1983.1654471
Shneiderman, B. (2020). Human-centered artificial intelligence: Reliable, safe & trustworthy. International Journal of Human–Computer Interaction, 36(6), 495–504. https://doi.org/10.1080/10447318.2020.1741118
Shneiderman, B., & Maes, P. (1997). Direct manipulation vs. interface agents. interactions, 4(6), 42–61. https://doi.org/10.1145/267505.267514
Shome, P., Krishnan, S., & Das, S. (2026). Why Johnny can’t use agents: Industry aspirations vs. user realities with AI agents. Proceedings of the ACM Conference on AI and Agentic Systems (CAIS ‘26), 597–619. https://doi.org/10.1145/3786335.3813140
Sumers, T. R., Yao, S., Narasimhan, K., & Griffiths, T. L. (2024). Cognitive architectures for language agents. Transactions on Machine Learning Research. https://arxiv.org/abs/2309.02427
Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460. https://doi.org/10.1093/mind/LIX.236.433
Wang, L., Ma, C., Feng, X., Zhang, Z., Yang, H., Zhang, J., Chen, Z., Tang, J., Chen, X., Lin, Y., et al. (2024). A survey on large language model based autonomous agents. Frontiers of Computer Science, 18(6). https://doi.org/10.1007/s11704-024-40231-1
Weizenbaum, J. (1966). ELIZA: A computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1), 36–45. https://doi.org/10.1145/365153.365168
Wooldridge, M., & Jennings, N. R. (1995). Intelligent agents: Theory and practice. The Knowledge Engineering Review, 10(2), 115–152. https://doi.org/10.1017/S0269888900008122
Xi, Z., Chen, W., Guo, X., He, W., Ding, Y., Hong, B., Zhang, M., Wang, J., Jin, S., Zhou, E., et al. (2025). The rise and potential of large language model based agents: A survey. Science China Information Sciences, 68(2). https://doi.org/10.1007/s11432-024-4222-0
Xie, T., Zhang, D., Chen, J., Li, X., Zhao, S., Cao, R., Hua, T. J., Cheng, Z., Shin, D., Lei, F., et al. (2024). OSWorld: Benchmarking multimodal agents for open-ended tasks in real computer environments. Advances in Neural Information Processing Systems 37 (NeurIPS 2024), Datasets and Benchmarks Track. https://arxiv.org/abs/2404.07972
Yang, Q., Steinfeld, A., Rosé, C., & Zimmerman, J. (2020). Re-examining whether, why, and how human-AI interaction is uniquely difficult to design. Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems, 1–13. https://doi.org/10.1145/3313831.3376301
Yao, S., Zhao, J., Yu, D., Du, N., Shafran, I., Narasimhan, K., & Cao, Y. (2023). ReAct: Synergizing reasoning and acting in language models. International Conference on Learning Representations (ICLR 2023). https://arxiv.org/abs/2210.03629
Zhou, S., Xu, F. F., Zhu, H., Zhou, X., Lo, R., Sridhar, A., Cheng, X., Ou, T., Bisk, Y., Fried, D., Alon, U., & Neubig, G. (2024). WebArena: A realistic web environment for building autonomous agents. International Conference on Learning Representations (ICLR 2024). https://arxiv.org/abs/2307.13854
Zhu, H., Wang, C., Xiao, Q., & Shen, H. (2026). Design principles for human-agent interaction. arXiv:2606.20630. https://arxiv.org/abs/2606.20630

書いた人：小川修一郎（デザイン研究者／デザインコンサルタント）経歴を見る →

AI エージェントは 70 年で何度流行り、デザインはそのたびに何をしたか（学術研究から）