要点
対象：導入したAIが現場で使われない医療機関
- 転記が3項目を超える業務は候補外でよい
- 成功基準は導入前に数値と日付で決める
- 止める人・代替手順・報告先を掲示する
医療AI導入の失敗とは、契約が続いていて画面も開けるのに、現場が使っていない状態のことです。 システムが止まる失敗は目に見えるので、すぐに対処されます。厄介なのは、誰も文句を言わないまま、利用回数だけが減っていく失敗です。
この記事の目次（7節）
医療現場で「導入されたが使われていない仕組み」が生まれる理由は、筆者が運用するシステムで起きた失敗と根が同じです。失敗にはパターンがあり、医療機関でよく見られるのは次の5つです。
| # | パターン | 兆候 |
|---|---|---|
| 1 | 現場の困りごとから始まっていない | 導入後、誰も使い方を聞いてこない |
| 2 | 二重入力が残っている | 「後でカルテに写す」という会話が出る |
| 3 | 誤りに備えた手順を決めていない | 一度の誤りで、一斉に使われなくなる |
| 4 | 成功基準がないので改善できない | 効果の議論が印象論になる |
| 5 | 止め方と責任者が決まっていない | 不調のときに全員が様子を見る |
表の「兆候」の欄が自院に当てはまれば、そのパターンの「事前の対策」から見直してください。
パターン1 現場の困りごとから始まっていない
展示会や他院の事例で見た機能から入り、自院のどの業務に使うかを後から探すパターンです。使う業務が決まる前にツールが決まっているので、導入後に「使えそうな場面」を現場が探すことになります。探す時間は通常業務を削って作ることになり、忙しい部署ほど早くやめてしまいます。
兆候は、導入後に質問が来ないことです。使われていれば、必ず細かい質問が出ます。質問が来ないのは、誰も使っていない証拠です。
事前の対策: 対象業務を、始まりと終わりがはっきりした作業の単位まで分けてから、ツールを選定します。頻度・所要時間・担当職種の3つが埋まらない業務は、まだ候補になりません。業務の分け方は、クリニックがAIを導入するまでの7ステップのステップ1にまとめました。
パターン2 二重入力が残っている
起きやすい失敗の1つです。AIが下書きを作っても、それを既存のシステムへ人が手で写す工程が残っていれば、現場の作業量は減りません。 確認と転記の分だけ、かえって増えることもあります。
例えば、AIが作った申し送りの下書きを、看護師が電子カルテに1項目ずつ写し直しているなら、それは二重入力です。書く手間は減っても、写す手間と見比べる手間が増えるおそれがあります。
新しいシステムを導入した現場では、旧様式が残り、紙に書いてから端末に入力する期間が続きがちです。現場に「仕事が増えた」という印象が残ると、あとで連携が改善されても、評価はなかなか戻りません。
事前の対策: ツールを選定する段階で、AIの出力をどのシステムにどう取り込むかを確認します。システム同士を直接つなぐ連携（API連携）が難しくても、コピー＆ペースト1回で済むのか、項目を1つずつ転記するのかで、現場の負担はまったく違います。転記が3項目を超えるなら、その業務は候補から外して構いません。
パターン3 誤りに備えた手順を決めていない
生成AIは、事実と違う内容を、もっともらしい文章で出力することがあります（ハルシネーション）。対話型AI「Claude」を開発する米アンソロピックも、最も高度なモデルでも起こり得ると認めたうえで、減らす方法を公開しています。
- 「分からない」と答えてよいと指示に書く（情報が足りないときに、無理に答えさせない）
- 長い文書を扱うときは、該当箇所を一字一句そのまま抜き出させ、その引用だけを根拠に答えさせる
- 答えに含まれる一つ一つの主張に裏付けの引用を探させ、見つからない主張は取り消させる
- 渡した資料の情報だけを使い、一般的な知識を混ぜないよう指示する
同社は、これらの方法でハルシネーションは大幅に減っても完全にはなくならないとして、重要な情報は必ず確認するよう求めています。1
この前提が現場に伝わらないまま導入すると、「AIが間違えた」という一度の出来事が、仕組み全体への不信につながります。逆に、誤ることを織り込んで、確認の手順まで含めて設計していれば、一度の誤りは想定内の出来事として扱えます。
事前の対策: 出力をそのまま使う工程を作りません。根拠となる元の文書を必ず添えて出力させ、確認する人を1人決めます。費用対効果は、確認にかかる時間も含めて計算します。
パターン4 成功基準がないので改善できない
導入後に「効果があったか」を話し合い始めると、声の大きい人の印象で結論が決まります。効果があったとしてもなかったとしても、次に何を直せばよいかが分からず、改善が止まります。
成功基準は、「性能が良い」のような言葉ではなく、数字か、判定の物差しを決めて書きます。重視すべき点は用途によって違い、医療の用途では引用や根拠の正確さが重要になる場合があります。雑談用のチャットボットなら、そこはそれほど問われません。2
事前の対策: 導入前に、数値と判定時期を決めて文書に残します。判定時期は「導入3か月後の○月○日」のように、日付で決めます。
パターン5 止め方と責任者が決まっていない
止める権限が誰にあるかが決まっていないと、不調のときに判断が先送りされます。そのあいだに現場は独自の回避策を作り、回避策が定着すると、仕組みは形だけ残ります。
このサイト自体、運用初日に同じ種類の失敗を起こしました。自動で動く2つの仕組み（ルーティン）がかみ合わず、どちらも「相手の作業を待つ」状態で完全に止まったのです。厄介なことに、両方とも正常に終わったと記録していました。監視の画面は正常を示したまま、費用だけが毎時かかり、作業は何も進みませんでした。エラーが出る故障より、この「正常に終わったまま止まっている状態」のほうが、発見が遅れます。
医療機関でも同じことが起こり得ます。AIの返した内容に違和感があるのに、業務は回っているからと誰も報告しない状態は、正常に終わったまま止まっているのと同じです。
事前の対策: 次の3つを決めて掲示します。止める権限を持つ人（氏名と役職で1人）、止めたときの代わりの手順、そして「おかしいと思ったときの報告先」です。3つ目があるかどうかで、異常に気づくまでの時間が変わります。
5つに共通していること
失敗の原因はAIの性能ではなく、業務の組み立てと運用のルールにあります。性能が足りない失敗は、製品を選定する段階で防げます。見落とされやすいのは、運用のルールのほうです。
この5つを導入前に点検しておくと、業者への質問も変わります。「精度は何%ですか」と聞くより、「出力をどのシステムに取り込みますか」「誤ったときの記録は残りますか」と聞くほうが、定着するかどうかを見極められます。
FAQ
Q. 現場が使わなくなったことに、どうすれば気づけますか。
利用回数の推移を月ごとに見ます。効果の数字が良くても、回数が下がっていれば定着していません。
Q. 導入済みのツールが使われていません。やり直せますか。
対象業務を選び直すところから始められます。同じツールでも、使う業務を変えると定着する例はあります。
Q. 小規模なクリニックでも5つ全部に備える必要がありますか。
必要です。規模が小さいほど担当者が兼務になるので、止め方と報告先を文書にしておくことが、むしろ大切になります。
出典
- Anthropic — Reduce hallucinations（ハルシネーションを減らす手法）（参照 2026-08-09）
- Anthropic — Define your success criteria（成功基準の定義）（参照 2026-08-09）
