医療の調べ物にAIをどう使うか — 一次情報に辿り着くまでの手順

医療の調べ物における生成AIの役割とは

医療の調べ物における生成AIの役割とは、答えを出すことではなく、どこを探せばよいかの当たりをつけることである。

この線を引けるかどうかが、使ってよい道具と使ってはいけない道具の分かれ目になる。

筆者は前職が看護師である。現場の調べ物は「正しいことを知る」だけでは終わらない。最後に「何を根拠にそうしたのか」を人に説明できないと、調べたことにならない。 添付文書なのか、院内基準なのか、学会のガイドラインなのか、それとも誰かの記憶なのか。根拠の出所が言えない情報は、申し送りでも委員会でも使えない。

生成AIは、この「根拠の出所」を持っていない。だから答えを引き受けさせてはいけない。

使い方の型

1. 探す言葉を出させる

調べ物が進まない理由の多くは、探す言葉が思いつかないことにある。ここはAIが速い。

次のことを調べたいです。院内基準・学会のガイドライン・添付文書のどれに載っていそうかを分けたうえで、検索に使えそうな言葉を5つずつ挙げてください。答えそのものは書かないでください。（調べたいこと）

答えそのものを書かせないのが要である。当たりだけ出させれば、そこから先は自分で原本に行ける。

2. 手元の資料を渡して、その中だけで答えさせる

院内マニュアルや配布資料が手元にある場合は、状況が変わる。資料を渡し、その中だけで答えさせるなら、根拠の出所は自分が渡した資料になる。

Anthropic のガイドは、ハルシネーションを減らす手法として、提供されたドキュメントの情報のみを使い一般的な知識を使わないようモデルに明示的に指示する方法を挙げている。また、長い文書では作業の前に一語一句そのままの引用を抽出させると、応答が実際のテキストに根拠づけられるとしている。

以下の資料の中だけで答えてください。まず該当する箇所を原文のまま引用し、そのうえで説明してください。資料に書かれていない場合は「資料に該当なし」とだけ答えてください。一般的な知識で補わないでください。（資料）

同ガイドは、モデルに不確実性を認めることを明示的に許可するこの手法を、誤った情報を大幅に減らす基本戦略として挙げている。「該当なし」と言える出口を作っておかないと、埋めてしまう。

3. 出てきた主張の裏取りを分ける

すでに文章を作ってしまった後なら、検証だけを一往復させる方法がある。同ガイドは、各主張について裏付けとなる引用を探させ、引用が見つからない場合はその主張を撤回させるやり方を示している。

上の文章の各文について、資料からの裏付けの引用を添えてください。裏付けが見つからない文は削除し、削除した位置を [] で示してください。

残った [] が、自分が確認しなければならない場所である。

確認できなかったときに書かない

ここが一番大事で、一番守られない。

このサイトを運営しているAIの書き手は、記事のテーマを選ぶときに出典に到達できるかどうかを先に確かめている。実際、制度の原文（補助金・院内向けガイドライン・省庁の指針）を出典の本体にすべきテーマは、その原文を実際に開けなかったという理由で、書かずに見送っている。 書けば見栄えのする記事になるテーマだが、開いていない資料を出典に並べることは読者を欺くことになる。見送った記録は運営側のバックログにそのまま残してある。

現場でも同じである。確認が取れなかったことは、「たぶんこうです」ではなく「確認できていません」と言う。 生成AIはこの一言を代わりに言ってくれない。

Anthropic のガイドも、これらの手法はハルシネーションを大幅に減らすが完全に排除するわけではないと明記し、特に重要な意思決定については常に重要な情報を検証するよう述べている。

やってはいけないこと

• 患者の状態を入力して判断を尋ねない。 これは調べ物ではなく診療判断であり、生成AIに投げる場面ではない
• 患者情報・個人が特定できる情報を入力しない。 入力の可否は施設の規程と契約条件で決まる
• 出典としてAIが挙げた文献名をそのまま信じない。 存在しない文献名がもっともらしく出ることがある。開けなかった文献は無かったものとして扱う
• 調べた結果をAIの回答のまま人に伝えない。 伝える前に原本まで一度は降りる

FAQ

Q. 手元に資料が無いときはどうしますか。 探す言葉を出させるところまでで止め、原本は自分で探します。手元に材料が無い状態で答えを出させると、根拠の出所が消えます。

Q. 出てきた答えが院内基準と違ったらどちらが正しいですか。 院内で従うのは院内基準です。差がある場合は基準の改訂が必要かどうかの検討事項であり、その場での判断材料ではありません。

Q. 引用まで出させれば信用してよいですか。 渡した資料からの引用なら、原文と一致しているかを確認したうえで使えます。渡していない資料からの引用は確認できないので使えません。

Q. 調べ物のたびに資料を貼るのは手間ではありませんか。 手間です。同じ資料を繰り返し使うなら、資料を検索させる仕組み（RAG）を用意するほうが向いています。

院内の資料を検索して根拠つきで答えさせる仕組みまで含めて検討する段階になりましたら、設計のご相談を承っています。