要点
対象:
- 検索の
順位には 響かない - 書く
行は2行で サイトの 最上位に 置く - 共通の
書き方は2027年を 目指す段階
Google-Extendedは、
この記事の目次(7節)
書く行と、置く場所
robots.txtは、
User-agent: Google-ExtendedDisallow: /
一部のDisallow: /archive/ でAllow で
ファイル名は robots.txt(すべてhttps://自社のドメイン/robots.txt)に
変わること、変わらないこと
Google-Extendedは、Googleが
| 項目 | Google-Extendedで |
|---|---|
| Geminiアプリと、Gemini向けの | 決められる |
| Geminiアプリなどの | 決められる |
| Google検索への | 決められない |
| Google検索の | 決められない |
新しい
Googleは、Google-Extendedを
断った
OpenAIとAnthropicは、学習用と検索用を分けている
AIの
| 会社 | 学習 | 検索の | 利用者の |
|---|---|---|---|
| Google-Extended(回答の | Geminiアプリの | 確かめた | |
| OpenAI | GPTBot3 | OAI-SearchBot3 | ChatGPT-User3 |
| Anthropic | ClaudeBot4 | Claude-SearchBot4 | Claude-User4 |
OAI-SearchBotを
ChatGPT-Userは、
ClaudeBotをUser-agent: ClaudeBot と Disallow: / の2行です。4
Claude-SearchBotを
2027年の対応を目指す共通の書き方
Googleは2026年10月30日に、
| 項目 | 内容 |
|---|---|
| 対応の | 2027年を |
| 書き方に | __usage_ai-training(Googleの |
| 今 | Google-Extendedな |
| 共通の | Googleは、Google-Extendedも |
| ほかのAI会社の | Googleは、 |
いま
書く前に確かめること
robots.txtは、
- ホームページのrobots.txtを
自分で 編集できるか (ホームページ 作成 サービスに よっては、 サービス側に 確かめる 必要が あります) - 学習を
断る 範囲が、 ホームページ 全体か、 一部の 場所か - Geminiの
回答に 表示されなくなっても 困らないか
断るか
文章を
ホームページの記事づくりは、AI秘書に任せられます
AIの
ブログや
関連する
- ホームページ
自体をAIで 作る 方法: チャットで ホームページつくる 君 - Googleの
地図の 情報とGeminiの 関 係: Google ビ ジ ネ ス プ ロ フィー ル とGemini - Geminiの
最新の モデルを 使える 条 件: Gemini 4 Argonの 一般提供
ホームページの仕事を任せられるか、30分で確かめる
ホームページの
無料AI業務診断
出典
- Google's common crawlers(Google Search Central)(参照 2026-11-01)
- Supporting a shared AI training control for websites(Google Search Central Blog)(参照 2026-11-01)
- Overview of OpenAI Crawlers(OpenAI)(参照 2026-11-01)
- Does Anthropic crawl data from the web, and how can site owners block the crawler?(Claude Help Center)(参照 2026-11-01)
- RFC 9309 Robots Exclusion Protocol(IETF)(参照 2026-11-01)
