生成AIの回答に誤りが混じることを不満に挙げる人が、この1年で約6ポイント増えました。 人が機械をどこまで信じるかについては、心理学や人間工学で研究が重ねられてきました。 その研究を手がかりにすると、AIの回答を確かめる役目は、この先どう変わっていくのでしょうか。
誤情報への不満、1年で4割に
NTTドコモのモバイル社会研究所は、全国の15〜69歳の男女を対象に、2025年2月と2026年2月にWeb調査を実施しました。 有効回答数は2025年が7,527人、2026年が7,223人です。 生成AIの利用者に不満を尋ねたところ、「誤情報が含まれている」と答えた人は、2025年の34.8%から2026年は40.4%に上がりました。 「事実と誤情報の見極めが難しい」と答えた人も、31.1%から35.4%に上がっています。1
一方で、「どの生成AIサービスを使ったらよいかわからない」は16.6%から13.2%に下がりました。 「お金がかかる」も12.8%から9.5%に下がっています。1 サービス選びや費用への不満が減り、回答の中身への不満が増えました。
常に確かめる人では6割
2026年の調査では、生成AIの役立ち度やファクトチェックの実施状況別にも、この不満の割合を集計しています。1
| 回答者の区分 | 「誤情報が含まれている」と答えた割合 |
|---|---|
| 生成AIの利用者全体 | 40.4% |
| 生成AIが「とても役立っていると思う」人 | 56.0% |
| 回答のファクトチェックを「常に行っている」人 | 61.7% |
生成AIを役立てていると感じる人や、常に確かめている人で、誤情報への不満が特に多くなっています。 確かめる機会が多いぶん、誤りに気づく機会も多いのかもしれません。 ただし追跡調査ではないため、確かめるから誤りに気づくのか、誤りに懲りて確かめるようになったのかまでは分かりません。
確認や選択を負担に感じる人は2割
調査では、AIの回答を確認したり選んだりすることを負担に感じるかも尋ねています。 「AIが提示する情報量が多すぎて、処理や確認が負担に感じる」は9.9%でした。 「AIの提案や回答から適切なものを選ぶのに疲れることがある」は13.0%で、どちらかに当てはまる人は19.5%です。 ファクトチェックを「常に行っている」人に限ると28.2%で、「全く行っていない」人の13.0%の2倍を超えます。1
機械への過信と不信
心理学や人間工学では、人が機械を信じすぎること（過信）と、必要以上に疑うこと（不信）の両方が、失敗の原因とされてきました。
過信すれば機械に頼りきりになり、不信が強ければ使うべき場面でも使わなくなります。 ここで紹介する研究の多くは生成AIより前のものですが、AIとの付き合い方を考える手がかりになります。
自動化の使われ方、4つの型
米国のパラシュラマンとライリーは1997年の論文で、自動化をめぐる研究をまとめました。 人が自動化された機械をどう使うかを、4つの型に分類しています。 適切な使用（use）を除く3つは、いずれも望ましくない使い方です。 誤用（misuse）は機械に頼りすぎることで、監視を怠ったり、判断が機械の答えに引きずられたりする原因になります。 不使用（disuse）は機械を使うべき場面で使わないことで、誤警報が続くと起きやすいと指摘しています。 乱用（abuse）は設計者や管理者の側の問題です。 人の作業への影響を考えずに自動化すると、機械に任せきれない残りの作業が人に押しつけられることになります。2
リーとシーは2004年の論文で、こうした研究を「信頼」を軸に整理し直しました。 自動化がうまくいかないのは、人が機械に頼る度合いが適切でないためだとしています。 仕組みが複雑で全部を理解できないとき、人は信頼を手がかりに、どこまで頼るかを決めます。 そのため、表示の工夫などで、不完全な機械を人がうまく扱えるよう設計することが大切だと論じました。3
機械の誤りに厳しい「アルゴリズム嫌悪」
ディートフォーストらは、数値を予測する課題を使った5つの実験を2015年に発表しました。 参加者は、アルゴリズムと人のどちらの予測を採用するかを選び、その当たり外れで報酬が決まります。 アルゴリズムが予測し、ときに外すところを見た参加者は、アルゴリズムを信用しなくなり、選ばなくなりました。 アルゴリズムのほうが人より正確だったのを目にしていても、結果は同じでした。 研究チームは、人は同じ誤りでも、人間より機械が犯したときに厳しく見るためだと分析しています。 この傾向は、英語で algorithm aversion と名付けられ、日本語では「アルゴリズム嫌悪」と呼ばれています。4
助言ならアルゴリズムに従う
これとは逆に、人はアルゴリズムの助言に従いやすいという実験結果もあります。 ログらが2019年に発表した6つの実験では、同じ助言でも、人ではなくアルゴリズムが出したと伝えると、一般の参加者はよく従いました。 ただし、アルゴリズムの見立てと自分の見立てのどちらかを選ぶ場面では、この傾向が弱まりました。 一方、予測を仕事にする専門家はアルゴリズムの助言をあまり取り入れず、そのぶん予測の精度が落ちたとしています。5 人が機械を避けるか頼るかは、誤りを見たかどうかや、選ぶ場面、その人の経験によって変わるようです。
生成AIの得意と苦手の境目が見えにくい
生成AIでは、どこまで頼ってよいかの見極めがさらに難しくなりそうです。 ハーバード・ビジネス・スクールなどの研究チームは、ボストン・コンサルティング・グループ（BCG）のコンサルタント758人を対象に実験しました。 AIが得意な課題では、AIを使った人は使わなかった人に比べ、こなした課題が多く、仕上がりも速く、質も高くなりました。 一方、AIが苦手な課題では、AIを使った人の正答率が、使わなかった人の正答率を下回りました。 似た難しさに見える課題でも、AIの得意と苦手の境目は入り組んでいると、研究チームは述べています。 この研究は、査読を経る前のワーキングペーパーとして公開されたものです。6
ここから先は想像です
AIの回答を確かめる作業は、いまは誰の担当でもない「すき間の仕事」です。 AIの下書きを使う人が、手の空いたときに自分で裏を取っています。 この先、この作業に名前が付き、正式な業務として位置づけられるかもしれません。
例えば、見積書の下書きをAIに作らせている工務店があるとします。 いまは担当者が単価や数量をざっと見て、そのまま施主に出しています。 数年後には、見積書の社内控えに確認印の欄ができるかもしれません。 「AIの下書き・単価は単価表と照合済み・担当○○」と記す欄です。 多くの職場には、検印やダブルチェックのように、確かめたことを形に残す習慣があります。 AIの回答を確かめる作業も、その習慣に組み込まれていくのではないでしょうか。
会社ごとに、AIにどこまで任せるかを決めた一覧表を持つようになるかもしれません。 どの業務ならAIの回答をそのまま使い、どれなら必ず裏を取るかを決めた表です。 前半で見た言葉を使えば、過信と不信のあいだに、会社として線を引くことになります。 線引きのない会社は、一度の大きな誤りで、業務全体からAIを外してしまうかもしれません。 アルゴリズム嫌悪が、個人ではなく職場単位で起きるわけです。
さらに10年、20年先には、確かめる力そのものが採用や育成の軸になるかもしれません。 新人研修の最初の課題が、AIの回答から誤りを見つける練習になる会社も出てきそうです。 新聞記者の裏取りのような力が、事務職の基本として求められるようになるかもしれません。
一方で、確かめる作業の多くを、別のAIが担うようになる可能性もあります。 2つのAIに同じ質問に答えさせ、答えが食い違ったときだけ人が見る、という分担です。 そうなれば、確かめる仕事は、どこで線を引くかを決める仕事に変わっていくのかもしれません。
この未来が近づくなら、先に現れる兆し
- 来年以降の同じ調査で、確認や選択を負担に感じる人の割合が高まる
- 主なサービスで、回答に根拠の資料や確からしさを添える機能が標準になる
- 求人票の仕事内容に、「AIが作成した文書の確認」のような業務が書かれ始める
- AIの誤りが報道されたあと、特定の業務でAIの利用を止めたという会社の事例が出る
自社で試せること
いまAIを使っている業務を3つ書き出し、それぞれを「そのまま使う」「ざっと見る」「必ず裏を取る」のどれかに振り分けてみてください。 振り分けに迷う業務があれば、そこが社内で線引きを話し合うべきところです。 担当者によって振り分けが違えば、会社としての線引きがまだないということです。
AIが誤った回答を出したときは、業務全体からAIを外す前に、どの種類の業務で誤ったかを書き留めておくと役に立ちます。 誤りが特定の業務に偏っているなら、外すのはその業務だけで済みます。
AIの回答を別のAIに確かめさせるときの注意は、AIにレビューさせるときの設定を扱った記事で紹介しています。 社内ルールを作るなら、AI事業者ガイドラインの「AI利用者」向けの7項目が出発点になります。 AIに任せきりにしたとき技能がどう衰えるかは、技能の受け継ぎを進化人類学から考えた記事で考えました。 AIの効果が業績に表れるまでの時間については、工場電化の歴史から考えた記事にまとめました。
出典
- NTTドコモ モバイル社会研究所「生成AIの不満『誤情報』40%に増加、確かめながら使う姿勢の広がりも」（2026年9月24日）（参照 2026-09-27）生成AI利用者への設問。負担を尋ねた設問の回答者は3,669人。
- Parasuraman, Riley「Humans and Automation: Use, Misuse, Disuse, Abuse」（Human Factors, 1997）（参照 2026-09-27）39巻2号、230〜253ページ。
- Lee, See「Trust in Automation: Designing for Appropriate Reliance」（Human Factors, 2004）（参照 2026-09-27）46巻1号、50〜80ページ。
- Dietvorst, Simmons, Massey「Algorithm Aversion」（Journal of Experimental Psychology: General, 2015）（参照 2026-09-27）144巻1号、114〜126ページ。
- Logg, Minson, Moore「Algorithm Appreciation」（Organizational Behavior and Human Decision Processes, 2019）（参照 2026-09-27）151巻、90〜103ページ。
- Dell'Acqua ら「Navigating the Jagged Technological Frontier」（Harvard Business School Working Paper, 2023）（参照 2026-09-27）論文番号24-013。
