社内チャットボットの失敗を防ぐ、導入前に決めておく4つのこと

要点

対象：社内の質問にAIを使うか考えている人

1. 登録する資料は最新版だけ
2. 答えられない分は人に引き継ぐ
3. 資料ごとに閲覧権限を見直す

AIチャットボットを入れていない会社のIT担当者に聞いた調査では、37.0%が運用で心配なことに「AIが誤った回答をする可能性がある」を挙げました。¹

この記事の目次（8節）

1. 社内チャットボットで起きやすい失敗と、導入前に決めること
2. まだ入れていない会社のIT担当者が気にしていること
3. 間違った回答を減らすには、最新版だけを登録する
4. 答えられない問い合わせは、人に引き継ぐ
5. 見せてはいけない資料が回答に出ないようにする
6. 続けるかどうかの判断材料を、導入前に決める
7. 小さく始めて、入れ方を選ぶ
8. 社内の問い合わせをAIに任せられるか、無料AI業務診断で確かめる

社内チャットボットとは、社内の規程やマニュアルを登録しておき、社員からの問い合わせにAIが自動で回答する仕組みです。失敗を防ぐには、下の表の右端に挙げた4つを、社員に使ってもらう前に決めておきます。

社内チャットボットで起きやすい失敗と、導入前に決めること

まだ入れていない会社のIT担当者が気にしていること

冒頭の調査は、ソニービズネットワークスが2025年9月にインターネットで行いました。答えたのは、ITツールの導入を担当する100人です。勤め先は、従業員が300〜999人の中堅企業です。¹

公表された結果のうち、運用で心配なことと、サービスを選ぶときに重視することは次のとおりです。エスカレーションは、AIが答えられない問い合わせを人に引き継ぐことです。¹

間違った回答を減らすには、最新版だけを登録する

古い版の規程を外す

社内チャットボットは、登録された資料を基に回答を作ります。古い規程と新しい規程が両方登録されていると、古い規程に沿って答えてしまうおそれがあります。

導入前に、規程やマニュアルを1つずつ見て、最新版だけを残します。資料ごとに管理する人を決めておき、規程を改めたら、その人がその日のうちにチャットボットの資料も差し替えます。

回答は、根拠になった資料と照らしてもらう

生成AIの回答は、いつも正しいとは限りません。使う前に、人が確かめる必要があります。²

社員には、回答をそのまま使わず、根拠になった資料と照らすよう伝えておきます。慶弔休暇の日数や手当の額のように、間違えると困る問い合わせほど見直してもらいます。

答えられない問い合わせは、人に引き継ぐ

AIが答えられなかった問い合わせを誰も拾わないと、社員はまた総務などに直接聞くようになりがちです。たとえば「総務の○○さんが、2営業日以内に回答する」のように、引き継ぐ先の回答者と期限を決めておきます。

イーコースは2026年10月29日、問い合わせ対応のAIエージェント「NetBot」に、AIが答えられない質問を人に引き継ぐ機能を加えました。⁴

引き継いだ質問はチケット（問い合わせ1件ごとの対応記録）になり、担当者・優先度・対応状況を見ながら解決まで追えます。

同じ日に加わった「改善候補」では、AIが答えられなかった質問と、使った人が低い評価を付けた回答が自動で一覧になります。どんな知識が足りないかをAIが示し、管理者は資料を足したり直したりして、回答の精度を上げていけます。⁴

サービスを選ぶときは、人への引き継ぎと、答えられなかった質問の一覧があるかを見ます。社内の規程を登録して使う別のサービスの例は、freee AIヘルプデスクの記事にまとめました。

見せてはいけない資料が回答に出ないようにする

資料ごとに、閲覧権限を見直す

会社向けの Microsoft Copilot（旧 Microsoft 365 Copilot）は、使う人が閲覧権限を持っている社内のデータだけを回答に出します。²

見てよい人だけが資料を開けるように、SharePoint などの権限を整えておくことが大切です。²

つまり、全社員が開ける設定のまま置かれた資料は、誰が聞いても回答に出てくることがあります。給与や人事評価の資料をどこに置き、誰と共有しているかを、導入前に見直しておきます。

社員の個人情報を扱うとき

個人情報保護委員会は、生成AIサービスに個人情報を入力する会社に、次の2つを十分に確認するよう注意を呼びかけています。⁵

• 入力する個人情報が、あらかじめ決めた利用目的に必要な範囲に収まっていること
• 本人の同意を得ていない個人データを入力する場合は、サービスを提供する会社がそれを機械学習などに使わないこと

社員の家族構成のような情報をチャットボットに登録するときも、この2つを確かめておくと安心です。サービスを提供する会社がデータをどう使うかは、契約するサービスの規約やデータの取り扱いの説明で確かめます。

続けるかどうかの判断材料を、導入前に決める

チャットボットを作るツールの Microsoft Copilot Studio では、チャットボットを「エージェント」と呼びます。

Copilot Studio の「モニター」画面では、会話の結果が「解決済み」「エスカレーション済み」「放棄済み」などに分かれて表示されます。³

同じ画面では、回答した質問と回答できなかった質問の数も確かめられます。³

こうした画面がないサービスでも、比べる数字は自分で取れます。導入前の1か月と導入後の1か月で、総務などに寄せられた問い合わせの件数を比べます。導入前の件数は、いまのうちから数え始めないと取れません。

小さく始めて、入れ方を選ぶ

まず、問い合わせを多く受けている部署を1つ選び、そこに来る問い合わせから始めます。経費精算や休暇申請のように答えが規程で決まっている問い合わせなら、間違った回答に気づきやすいはずです。

Google Workspace で資料を読み込ませる前の設定は、会社で Gemini のノートブックを使う記事にまとめました。AIが社内の文書を探す仕組みは、Corpus2Skillの記事にまとめました。

当サイトでは、AI秘書で社員からの問い合わせにマニュアルや規程を基に答える仕事もお引き受けしています。対応する範囲は、AI秘書の社内・総務で紹介しています。

社内の問い合わせをAIに任せられるか、無料AI業務診断で確かめる

無料AI業務診断は、30分のオンライン相談です。社内の問い合わせのうち、どこからAIに任せられるかを知りたいときは、相談のページから申し込めます。

出典

1. ソニービズネットワークス「AIチャットボット導入における期待・懸念の調査」（2025年12月11日）（参照 2026-10-30）
2. Microsoft Learn「Microsoft Copilot のデータ、プライバシー、セキュリティ」（参照 2026-10-30）
3. Microsoft Learn「会話型エージェントの効果を監視する」（Microsoft Copilot Studio）（参照 2026-10-30）
4. イーコース「問い合わせ対応AIエージェント『NetBot』2026年秋アップデート」（PR TIMES、2026年10月29日）（参照 2026-10-30）
5. 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」（令和5年6月2日）（参照 2026-10-30）