米Anthropicは、Claudeに入力された内容のうち危険と検知されたものを担当者が確認し、警察に通報していました。通報を受けた警察は、入力したフロリダ州の女性を重罪の容疑で逮捕しました。AIエージェントを使った攻撃でECサイト27社が侵入されたとする報告は、9月22日の公表から2週間近くたって、日本語メディアでも報じられました。

今日取り上げるのは2件です。

この記事でわかること

  • 通報は、安全対策の自動検知と担当者の確認を経たもので、8月以降で少なくとも3件目です
  • 法人向け契約で預けたデータは、個人向けのプライバシーポリシーの対象外で、取り扱いは契約の内容によります
  • AIエージェントで攻撃の費用が下がりました。被害は、決済画面へのスクリプトの仕込みと、バックアップの消失でした
この記事の目次（2節）
  1. Anthropicが警察に通報、Claudeに保安官署への銃撃を入力した女性を逮捕
  2. AIエージェントで27社に侵入、1社あたり約25ドルで攻撃

Anthropicが警察に通報、Claudeに保安官署への銃撃を入力した女性を逮捕

米国のフロリダ州で、Claudeを「日記」のように使っていた女性が、脅迫文を送った罪に問われています。女性は9月26日に、地元の保安官署を銃撃すると取れる内容をClaudeに入力しました。Claudeの安全対策の自動検知にかかり、担当者が確認して信憑性のある脅迫と判断し、警察に通報しました。女性は逮捕されたと、日本語の報道も伝えています。17

適用されたのは同州法の第836.10条で、第2級重罪にあたります。米国のIT系メディアTom's Hardwareは、8月以降、Claudeへの入力をきっかけに警察へ通報された例は少なくとも3件目だと報じています。確認できた範囲では、Anthropicのコメントはどちらの報道にもありませんでした。12

Anthropicの個人向けプライバシーポリシーは、法令の遵守などに必要と判断した場合に、個人データを当局に提供することがあると書いています。政府機関からの開示請求には、令状など法的に有効な手続きがない限り応じない方針です。ただし、死亡や重大なけがの危険が差し迫った緊急時は例外としています。34

このポリシーは、法人向け契約（エンタープライズプランなど）で扱うデータには適用されません。データの取り扱いは契約の内容によります。3

個人のアカウントで会社の情報や顧客の情報をClaudeに入力していると、検知にかかった入力は、会社の知らないうちにAnthropicの担当者が確認することになります。業務で使うAIは、会社で契約したアカウントにそろえ、契約書でデータの取り扱いを確認してください。通報の条件が法人向け契約でどうなるかは、文書からは分かりませんでした。仕事でClaudeを使う手順はAI秘書の作り方の記事にあります。入力した内容の扱いの設定は、ChatGPTの画像流出の記事が参考になります。

AIエージェントで27社に侵入、1社あたり約25ドルで攻撃

セキュリティ企業のGambit Securityは、9月22日に報告を公表しました。金銭を狙う攻撃者が、オープンソースの3つのAIツールで、数百のECサイトを順に攻撃したという内容です。9月10日から15日の6日間に、攻撃は105回に上り、少なくとも27社が侵入されました。うち2社では、クレジットカード情報60万件超が流出しました。週刊アスキーが10月5日に報じています。56

3つのツールは、脆弱性（システムの弱点）を探すStrix、侵入を進めるCairn、全体を取りまとめるHermesです。攻撃者の指示は、中国語の「脆弱性レポートを読んでから始めて」「管理画面に入って」のような短いものでした。報告によると、攻撃者の指示は合計1,951回です。完了した調査101件にかかったAIの利用料金は、平均で1社あたり25.46ドルです。1ドル150円とすると、約3,800円です。56

攻撃者が痕跡を消そうとした処理に巻き込まれて、データが消えた会社もあります。ある自転車の販売会社では、削除の条件が広すぎて、バックアップ用を含む180のテーブルが消えました。5

カード情報を抜き取る不正なスクリプトを、決済画面に仕込む手口が使われ、27社のうち19社で仕込まれたことが確認されました。Googleタグマネージャーやクラウドストレージに置かれた例が、報告に載っています。5

ECサイトを運営している会社は、決済画面で読み込んでいる外部のスクリプトに、自社が入れたもの以外が混ざっていないかを点検しましょう。バックアップは本番環境とは別の場所に置き、戻せるかどうかも試しておけば、誤って消えたときにも対応できます。

報告によると、流出したカード情報の約79%は米国のものです。日本については、旅行予約サイトへの言及が1か所あります。被害の程度は書かれていません。10月4日のAIニュースで取り上げた韓国の銀行への攻撃とは別の件です。生成AIを使った攻撃への備えの基本は、IPAが挙げる5つの対策の記事で解説しています。

出典

  1. TechSpot「Florida woman used Claude as a diary, then Anthropic reported an entry to police」（2026年10月4日）（参照 2026-10-06）
  2. Tom's Hardware「Anthropic reports Florida woman's Claude 'diary' threat to shoot up sheriff's office, felony charge follows」（参照 2026-10-06）
  3. Anthropic「Privacy Policy」（2026年9月10日更新）（参照 2026-10-06）
  4. Anthropic プライバシーセンター「What is Anthropic's policy for handling governmental requests for user information?」（2026年3月16日更新）（参照 2026-10-06）
  5. Gambit Security「Autonomous AI agents attack online retailers at $25 a company」（2026年9月22日）（参照 2026-10-06）
  6. 週刊アスキー「AIでサイバー攻撃のコスト激減　数行の指示だけで27社に侵入、カード情報60万件超が流出」（2026年10月5日）（参照 2026-10-06）
  7. Mezha「クロードへの『日記』が警察への通報につながる、米フロリダ州で女性を脅迫容疑で逮捕」（参照 2026-10-06）

任せる

AI秘書に任せる

問い合わせの受付から請求書の作成までの業務を、AIで自動化します。

できることを見る 相談する（初回無料・30分）