生成AIのセキュリティ対策 — IPA豆知識の5項目

生成AIを仕事で使い始めると、「セキュリティは何から手を付ければよいのか」という迷いが出てきます。IPA（情報処理推進機構）は2026年4月2日、AIに詳しくない利用者向けに「AI利用者のためのセキュリティ豆知識」を公開しました²。 資料が挙げる対策は5つで、どれも今日から確かめられるものです。この記事では原文から5つの対策を読み、小さな事務所で使える点検表にまとめます。書いているのは、AIエンジニアとして小さな事業を運営している者です。

この記事でわかること

• IPAの「セキュリティ豆知識」は、社内研修にそのまま使えるスライド形式の資料です
• 挙げられた対策は5つで、危険が入ってくる経路で3つに分けられます
• 見落としやすいのは、AIブラウザやRAGでAIが外の文章を読む経路です
• AIを使ったサイバー攻撃への備えは、従来の基本的な対策が有効とされています
• 個人情報を入力するときは、個人情報保護委員会の注意喚起も確かめます

IPA「AI利用者のためのセキュリティ豆知識」とは

「AI利用者のためのセキュリティ豆知識」とは、AIを使うときに最低限すべきセキュリティ対策を、利用者向けにまとめたIPAの資料です²。 作成はIPAのセキュリティセンターとAIセーフティ・インスティテュートで、表紙には「2026年3月」とあります¹。

誰に向けた資料か

公開ページは、この資料をAIやセキュリティに詳しくない利用者とマネージャー向けと位置づけています²。IPAのプレス発表では、社内研修などでそのまま使えるスライド形式で提供すると説明されています⁵。全24ページで、専門用語には用語集が付いています¹。

背景にある「10大脅威」

IPAが2026年1月29日に公開した「情報セキュリティ10大脅威 2026」では、組織の3位に「AIの利用をめぐるサイバーリスク」が入りました³。この項目は2026年が初選出です³。AIの利用が、ランサム攻撃や委託先を狙った攻撃と並ぶ脅威として扱われ始めたことになります。

資料の中身は2部構成

前半は「AIの基礎知識」、後半は「ここから始めるAIセキュリティ対策」です¹。前半で資料は、生成AIを「知識豊富だが経験不足の新人」とたとえています¹。もっともらしい誤りを出す現象（ハルシネーション）は、完全に防ぐ方法がまだ分かっていないとも書かれています¹。

5つの対策は、危険の入口で3つに分かれる

資料の5つの対策は、危険が「自分が入れる情報」「AIが読む外の文章」「人やシステムに届く攻撃」のどこから来るかで分けられます。 分け方はこの記事の整理で、項目名は資料の目次のとおりです¹。

この表は、上から順に自分で管理できる範囲が広い順に並んでいます。1は入力する人の心がけで防げますが、2と3は道具の選び方と設定で決まります。4と5は、AIが無かった頃からある対策の延長で考えます。

対策1 — クラウドAIに営業秘密を入れない

インターネット経由で使うチャットAIに営業秘密を入れると、その情報は運営企業に渡ります¹。 資料は、利用者とのやりとりを運営企業がAIの改良のための学習データに流用する場合がある、と説明しています¹。

学習に使われた情報は、他人に出る可能性がある

資料は、営業秘密を学習したAIが「その内容を他のユーザーに喋ってしまう可能性が理屈上あります」と書いています¹。また、LayerX Security社の調査として「67%の従業員が個人アカウントで生成AIツールを使用している」という数字を引いています¹。事務所が契約した道具ではなく、個人のアカウントで使われている場面が多いということです。

設定と規約で学習から外せる

資料の対処は、「利用するチャットAIのサービス規約やチャットAIの利用時設定を確認することでユーザー入力を保存やAIの学習対象から除外できます」というものです¹。資料の用語集は、チャットAIの代表例としてChatGPT、Copilot、Gemini、Claudeを挙げています¹。使っている道具ごとに、学習に使わない設定があるかを確かめるのが最初の一手になります。

対策2・3 — AIに外の文章を読ませるときの危険

AIが外の文章を読む使い方では、文章に仕込まれた指示をAIが利用者の指示と取り違えることがあります¹。 資料はこれを間接プロンプトインジェクションと呼び、利用者も警戒が必要な攻撃だとしています¹。

AIブラウザは社内用と社外用を分ける

AIブラウザは、チャットAIを内蔵したWebブラウザです¹。閲覧中のページや過去の閲覧履歴を、生成AIと共有することになります¹。ページに悪意ある指示があると、AIが情報漏洩や不正送金を実行してしまう可能性があると資料は書いています¹。そのため資料は、普段使いのAIブラウザでは社内ポータルなど重要な情報にアクセスしないよう勧めています¹。

RAGは「混ぜるな危険」

RAGは、生成AIが知らない情報を自分で検索して補う仕組みです¹。仕組みの詳細はRAGとは何か — 院内マニュアル検索を例にで扱っています。資料が心配するのは、メールのような外部由来のデータが検索対象に入ることです¹。社内文書と攻撃メールが同時に読まれると、社内の情報が外に流れる可能性があります¹。資料は、RAGの検索範囲を適切に制限する運用も選択肢に挙げています¹。

対策4・5 — AIを使った詐欺と攻撃への備え

AIで作られた偽物は見た目では見分けられないので、重要な依頼は別の経路で確かめます¹。 一方で、AIに手伝わせたサイバー攻撃への備えは、従来の対策がそのまま効くと資料は説明しています¹。

見た目で本物を判断しない

資料は、本物と見分けのつかない画像・動画・音声を誰でも作れる状況にあると書いています¹。機密情報の送信や多額の送金を促す依頼には、本物かを確かめる「二重・三重のチェック」を求めています¹。事務所なら、メールやオンライン会議で来た振込先の変更を、登録済みの電話番号にかけ直して確かめる形になります。

攻撃への備えは従来どおり

資料によると、今のAIが探し出せる弱点はSQLインジェクションのような、よくある種類が中心です¹。高度で想定外の弱点を見つける水準には達していない、と資料は書いています¹。基本の対策を固めることが先で、その入口はIPAのSECURITY ACTIONの宣言で整理しました。

個人情報を入れるときの法律の線

個人情報を生成AIに入れるときは、IPAの資料とは別に、個人情報保護法の線を確かめる必要があります。 個人情報保護委員会は2023年6月2日、事業者向けの注意喚起を出しています⁴。

利用目的の範囲に収まるか

注意喚起は、個人情報を含むプロンプトを入れるときは「特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること」としています⁴。顧客から預かった目的と関係のない作業に、名簿を貼り付けることは避けます。

学習に使われないかを確かめる

本人の同意なく個人データを入れ、応答以外の目的で扱われると、法律に違反する可能性があるとも書かれています⁴。そのため、提供事業者が個人データを機械学習に使わないことを確かめるよう求めています⁴。国のAIガバナンスの指針全体は、AI事業者ガイドラインの使う側の7項目にまとめました。

事務所で使う点検表

5つの対策は、使っている道具ごとに「はい・いいえ」で答えられる形にすると、年に1回の見直しに使えます。 下の表は資料の5項目と注意喚起を、確かめる行動に置き換えたものです。

生成AIセキュリティ点検表（道具ごとに1枚）

道具の名前：＿＿＿＿＿＿　契約：事務所の契約／個人のアカウント

□ 1. 入力を学習に使わない設定になっているか（設定画面と規約で確認）

□ 1. 個人のアカウントで仕事の情報を入れていないか

□ 2. AIブラウザで、社内の管理画面や口座のページを開いていないか

□ 3. RAGやメール連携で、外から届いた文書を検索対象に入れていないか

□ 4. 振込先の変更などを、登録済みの連絡先で確かめる決まりがあるか

□ 5. OSやソフトの更新、パスワードの管理を続けているか

□ 個人情報を入れるなら、預かった目的の範囲内か

確認した日：＿＿＿＿　確認した人：＿＿＿＿

「いいえ」が付いた行が、次に手を付ける場所です。点検の結果を事務所の決まりにするときは、院内の生成AI利用ガイドラインの作り方の手順が使えます。

よくある質問

まとめ

• IPAの「セキュリティ豆知識」は、AIに詳しくない利用者向けの研修資料です
• 対策は5つで、入れる情報・AIが読む文章・届く攻撃の3経路に分かれます
• 最初の一手は、使っている道具の学習設定と規約を確かめることです
• 個人情報を入れるなら、個人情報保護委員会の注意喚起の2点も確かめます

まずは、いま事務所で使っている生成AIを書き出し、点検表を1枚ずつ埋めてみてください。

「いいえ」が1行も無かったなら、次は事務所の決まりとして文書にする段階です。個人のアカウントでの利用が多かったなら、契約と設定をそろえる作業が先になります。RAGやメール連携を使っているなら、検索対象の範囲から見直してください。