OAI-SearchBot
OAI-SearchBotは、OpenAIの検索機能でウェブページを発見し、検索結果に表示するためのクローラーです。
30秒でわかる要点
OAI-SearchBotは、OpenAIの検索機能でウェブページを発見し、検索結果に表示するためのクローラーです。
GPTBotとは目的が異なり、検索での発見とリンク表示に関係します。
ChatGPT検索からの発見を望む場合は、robots.txt、WAF、CDNの三層で取得を妨げていないか確認します。
許可しても検索結果への掲載は保証されません。クロール許可とコンテンツ選定は別の判断です。
OAI-SearchBotで代表ページが200を返し、本文とcanonicalを取得できるか確認します。
OAI-SearchBotの役割
OAI-SearchBotは、OpenAIの検索機能でウェブページを発見し、検索結果に表示するためのクローラーです。
主な検索表記:OAI-SearchBot
OAI-SearchBotが関わる取得の流れ
GPTBotとは目的が異なり、検索での発見とリンク表示に関係します。サイト所有者はrobots.txtで個別にアクセス方針を指定できます。
サイト運営での確認方法
ChatGPT検索からの発見を望む場合は、robots.txt、WAF、CDNの三層で取得を妨げていないか確認します。重要本文は初期HTMLに残します。
OAI-SearchBotで起きやすい誤解
許可しても検索結果への掲載は保証されません。クロール許可とコンテンツ選定は別の判断です。
実務チェックリスト
ChatGPT検索からの発見を望む場合は、robots.txt、WAF、CDNの三層で取得を妨げていないか確認します。
重要本文は初期HTMLに残します。
OAI-SearchBotで代表ページが200を返し、本文とcanonicalを取得できるか確認します。
参考資料
仕様や検索機能は変更されることがあります。実装時には、次の公式資料の最新版も確認してください。
Overview of OpenAI crawlers(OpenAI)
Robots Exclusion Protocol(IETF RFC 9309)