チャットボットの歴史、ELIZAからChatGPTまでの返事の作り方と起きた問題

要点

対象：ChatGPTと昔のボットの違いが気になる人

1. ELIZAは人が用意したルールで返事を組んだ
2. Tayは示し合わせた人たちに悪用された
3. 返事の中身は、いまも自分で確かめる

チャットボットは、1966年に論文で発表された「ELIZA」から数えて、60年ほどの歴史があります。その間に、返事の組み立て方は大きく変わりました。

この記事の目次（7節）

1. 1966年のELIZA、キーワードを拾ってルールで返す
2. 2011年、話しかけて用事を頼めるSiri
3. 2016年のTay、悪用されて差別的な投稿をした
4. 2016〜2018年、企業や自治体に広がったチャットボット
5. 2022年のChatGPT、言葉のつながりから返事を組み立てる
6. 3つの例で比べる返事の作り方
7. いまチャットボットを使うときに気をつけること

ELIZAは人が用意したルールで返事を組み立て、2016年のTayは利用者とのやりとりから学びました。2022年に公開されたChatGPTは、大量の文章で学んだ言葉のつながりから返事を作ります。¹⁴⁸

1966年のELIZA、キーワードを拾ってルールで返す

ELIZAは対話プログラムです。MIT（マサチューセッツ工科大学）の准教授だったジョセフ・ワイゼンバウムが、1964〜1966年に作りました。使う人は、キーボードから文を打ち込んでELIZAと話しました。¹²

キーワードと返し方をまとめた「スクリプト」

ワイゼンバウムは、キーワードと、それに結び付けた返し方のルールをまとめたものを「スクリプト」と呼びました。スクリプトを差し替えれば、プログラム本体を変えずに、別の話題や別の言語で話せました。¹

ELIZAは、打ち込まれた文の中からキーワードを探しました。見つかれば、そのキーワードのルールで文を組み替えて返しました。¹

論文に載っている会話の例（英語）では、使う人が「母が面倒を見てくれます」と打ちました。ELIZAは「家族でほかに面倒を見てくれるのは誰ですか」と返しました。¹

キーワードが見つからないときは、「どうぞ続けて」のような当たり障りのない相づちか、前に出た話題を持ち出して話をつなぎました。¹

ELIZAは何も分かっていないのに、人は打ち明け話をした

ワイゼンバウムは、人と機械の会話は表面的で、分かったふりは簡単にできると示すつもりでした。ところが、多くの人がELIZAと本気で話し込み、個人的なことまで打ち明けました。²

ワイゼンバウムはその後、1976年の本（邦訳『コンピュータ・パワー　人工知能と人間の理性』）で、技術を疑わずにもてはやす風潮を批判しました。人に取って代われる「人工知能」という考えは幻想だ、とも戒めました。²

話し方が人に似ているだけで、機械に人のような性質があると思い込むことを、今では「ELIZA効果」と呼びます。² AI研究の流れでのELIZAの位置は、AIの3度のブームの記事に書きました。

2011年、話しかけて用事を頼めるSiri

Appleは2011年10月4日、iPhone 4Sとともに「Siri」を発表しました。話しかけるだけで、電話をかけたり、メッセージやメールを送ったり、予定やリマインダーを入れたりできる、という発表でした。³

Appleは、Siriは文脈をくみ取るので、普段の話し言葉で尋ねればよいと説明しました。最初はベータ版で、対応する言語は英語・フランス語・ドイツ語でした。³

2016年のTay、悪用されて差別的な投稿をした

Microsoftは2016年3月、雑談用のチャットボット「Tay」をTwitter（現X）で公開しました。対象は米国の18〜24歳でした。⁴

Microsoftは公開の前に、いろいろな条件でTayを試し、利用者に使ってもらう試験もしていました。しかし公開から24時間のうちに、一部の人たちが示し合わせてTayの弱点を突きました。⁴

Tayは、ひどく不適切な言葉や画像を投稿しました。Microsoftは、この攻撃への備えを見落としていたと認め、Tayを停止して謝罪しました。⁴

Microsoftは振り返りで、AIは人との良い会話からも悪い会話からも学んでしまう、と書いています。⁴

2016〜2018年、企業や自治体に広がったチャットボット

LINEは2016年4月に、チャットボットを作るための仕組みの試験提供を始め、9月に「Messaging API」として正式に公開しました。⁵

たとえばLINE Payは、よくある質問に答えるチャットボットを試験的に導入しました。調整を約1か月続け、回答に満足した利用者の割合を高めました。67%から89%への改善です。⁵

AIR DOは、飛行機の搭乗手続きをLINEだけで済ませられるようにしました。⁵

よくある質問に答えるチャットボットなら、作る側が答える範囲を決めておけます。当サイトのAI秘書も、よくある質問には、あらかじめ登録した質問と回答の範囲でだけ返信します（AI秘書の顧客対応）。

総務省は、全国の都道府県と市区町村を対象に、2018年11月1日時点のAIの使い方を調べました。AIを導入した市区町村のうち、半数以上が、住民からの問い合わせに答えるチャットボットを使っていました。⁶

2022年のChatGPT、言葉のつながりから返事を組み立てる

OpenAIは2022年11月30日に「ChatGPT」を公開しました。公開の4日後には、世界の利用者が100万人を超えたとされます。⁷

2023年3月には、OpenAIが新しいAIのモデル（返事を作る中身の仕組み）「GPT-4」の技術報告書を公開しました。⁸

GPT-4は、文章の続きに来る言葉を当てる学習を大量の文章で積んだあと、さらに調整したモデルです。仕組みは生成AIの仕組みの記事で図にしました。⁸

報告書でOpenAIは、GPT-4は前のGPTのモデルと同じ限界を持ち、まだ全面的には頼れないと認めています。事実と違うことをもっともらしく答える「ハルシネーション」や、推論（筋道を立てて考えること）の誤りがあるためです。⁸

OpenAIが社内で試したところ、GPT-4のハルシネーションは、前のモデルのGPT-3.5より大きく減りました。⁸

それでも、言語モデルの答えを使うときは慎重に、とOpenAIは書いています。特に間違えると損が大きい場面では、人が確かめるなどの手を打つよう求めています。⁸

3つの例で比べる返事の作り方

ELIZA・Tay・ChatGPTを並べると、返事の作り方ごとに、起きた問題が違います。

いまチャットボットを使うときに気をつけること

ELIZA効果を知っておくと、いまのチャットボットとの付き合い方も見えてきます。自然な日本語で返事が来ると、中身まで正しいと思いがちだからです。

Tayの件からは、使う人の書き込みから学んで返事が変わるチャットボットは、悪用されうることが分かります。

チャットボットに名前や人らしさを付けると、使う人の受け止め方がどう変わるかは、名前を付けたAIの記事で取り上げました。

ChatGPTの返事を人に見せたり仕事に使ったりする前に、中身を自分で確かめてください。

出典

1. Joseph Weizenbaum「ELIZA — A Computer Program For the Study of Natural Language Communication Between Man And Machine」（Communications of the ACM 9巻1号、1966年1月）（参照 2026-10-17）
2. Weizenbaum Institute「ELIZA」（参照 2026-10-17）
3. Apple Newsroom「Apple Launches iPhone 4S, iOS 5 & iCloud」（2011年10月4日）（参照 2026-10-17）
4. Peter Lee（Microsoft）「Learning from Tay's introduction」（Official Microsoft Blog、2016年3月25日）（参照 2026-10-17）
5. @IT「2016年、オープンになったLINEのチャットボットAPIは、どう活用されたのか」（2017年1月26日）（参照 2026-10-17）
6. 総務省「資料２ 地方自治体における新たな技術の活用状況について」（調査は平成30年11月1日現在）（参照 2026-10-17）
7. 野村総合研究所「日本のChatGPT利用動向（2023年4月時点）」（2023年5月26日）（参照 2026-10-17）
8. OpenAI「GPT-4 Technical Report」（arXiv:2303.08774、2023年3月）（参照 2026-10-17）