職場で生成AIが使われない理由を分解する — 禁止・不信・面倒のどれか

使われない理由は3つに分かれる

職場で生成AIが使われない理由は、禁止・不信・面倒の3つに分かれる。どれなのかを見分けないと、打ち手が空振りする。

筆者は前職が看護師である。新しい様式や新しい端末が入っても定着せず、いつのまにか元の運用に戻る、という場面を何度か見てきた。振り返ると、止まっていた理由は毎回このどれかで、しかも周囲が話題にする理由と、実際に止めている理由がずれていることが多かった。

禁止 — たいていは「無い」ではなく「見つからない」

いちばん多いのは、明文の禁止規程があるのではなく、誰も所在を知らないので禁止として運用されている状態である。「ダメだと聞いた」の出所を辿ると、数年前の別の話だった、ということが起きる。

やることは1つで、情報システム担当か医療情報の委員会に、規程の有無と、有るなら本文の所在を聞く。無いなら無いと分かる。ただし無いことは許可ではない。 確認が済むまでは、患者情報を含めずに済む書き物仕事だけを対象にしておく。何を入力してよいかを規程・契約・患者情報の3段で切り分ける手順そのものは、別記事で扱う。

不信 — 疑うのは正しい。疑い方を具体にする

「間違ったことを書く」という警戒は正しい。ベンダー自身がそう書いている。Anthropic はハルシネーションについて、対策のテクニックで大幅に減らせるが完全に排除するわけではないとし、重要な情報は常に検証するよう明記している。作り手が排除できないと言っているものを、使う側が排除できると考える理由はない。

だから議論すべきなのは「信用できるかどうか」ではなく「確認できる形で使っているかどうか」である。同社が挙げている手法はそのまま職場で使える。わからないときに「わかりません」と言うことを明示的に許可する。長い資料では、答えを出す前に原文の引用を抜き出させる。主張ごとに根拠となる引用を示させ、引用が見つからない主張は撤回させる。

この3つを指示に入れておけば、出力が正しいかどうかを人が数十秒で突き合わせられる。不信は、確認手段が無いことへの不信であって、道具そのものへの不信ではないことが多い。

面倒 — 手間の正体は指示ではなく材料

「自分で書いたほうが速い」と言う人の使い方を見ると、材料を渡さずに質問だけしていることがほとんどである。院内の事情を知らない相手に前提を伝えずに依頼すれば、出てくるものが一般論になるのは当然である。

Anthropic の指針は、モデルを「あなたの規範やワークフローに関するコンテキストを持たない、優秀だが新しい従業員」と考えるよう述べ、黄金律として最小限のコンテキストしか持たない同僚にその指示を見せて、その人が混乱するならモデルも混乱するとしている。指示文を新人に見せて伝わるかどうか、が判定基準になる。

同社はあわせて、指示の背後にある動機を説明すること、望む出力形式を具体的に指定すること、3〜5個の例を渡すことを挙げている。手戻りが減るのはたいてい、指示を長くしたときではなく、手元の実物（既存の周知文、前回の議事録、現行の手順書）を渡したときである。

どれなのかを見分ける一問

自分の職場がどの型かは、次の問いで切り分けられる。

「使ってよいか確認した人はいますか」 — いなければ禁止型。確認済みで、それでも使われないなら、「出力を確認する手順は決まっていますか」 — 決まっていなければ不信型。決まっているのに使われないなら面倒型で、原因は指示文と材料にある。

この記事を載せているサイト自体、記事を書くAIと、それを検証するAIを別のセッションに分け、検証側は指摘を書くだけでコードには触らない運用にしている。もっとも、その分離を権限で強制できているかは別問題で、当サイトでは「検証側は編集できない」と設計文書に書いたまま、実際には編集する手段が残っていた設定漏れが見つかっている。手順を決めることと、手順を破れなくすることは別である。信用の担保を人の判断ではなく手順と権限の側に置く、という考え方は、そのまま職場にも持ち込める。

FAQ

どの型か分からないまま打ち手を打つとどうなりますか。 多くは空振りになります。禁止型の職場に研修を足しても、不信型の職場にツールを増やしても、止めている原因はそのまま残ります。上の一問目から順に切り分けてください。

3つの型が混ざっている場合は。 上から順に潰します。禁止が残ったままだと、不信や面倒を解消しても業務では使えません。

周囲を説得する必要がありますか。 まず自分の書き物仕事で試し、手戻りが減った実例を持って話すほうが早いです。説得材料は一般論ではなく自部署の実例です。