国内のGEO(生成エンジン最適化)が、体制とツールの両面で一気に立ち上がっている。8月20日、電通デジタルと電通PRコンサルティングがGEO領域の共同研究プロジェクトを発足させたと発表した。メディア露出と生成AIの回答の関係を起点に、生成AI時代の情報設計を支援するという。前日19日には、Web担当者Forumがウェブページが生成AIに認識・参照されやすいかを診断する無料ツールの提供開始も報じている。
その同じ8月19日、Search Engine Landに41日間のクローラーログ実験の結果が載った。読むと、GEOの議論が始まる手前で足元が抜けている可能性が見えてくる。
実験の設計
実施したのはLOCOMOTIVEのSEO担当ディレクター、Vinicius Stanula氏。自身が運営するブラジルの事業分類ディレクトリ(約2,400ページ)を使い、階層構造にあたる1,062ページを対象に、内部リンクの半分をHTMLに直書き、残り半分をJavaScriptで挿入した。そのうえで全ボットのリクエストを41日間ログに記録している。HTMLリンク側の階層ページは748、JSリンク側は293。
結果は予想以上に極端だった
GPTBot、ClaudeBot、Bingbot、OAI-SearchBot、Meta-ExternalAgent、Amazonbot、PerplexityBot——JSリンク側への到達は、ほぼすべてゼロ。BingbotはHTML側282リクエストに対し、JS側はわずか3だった。
JavaScriptを実行して挿入リンクを辿ったのは、Googleのクローラースタックだけだった。ただし、ここが重要な点になる。その大半はGoogleOther(HTML側66%、JS側48%)であり、検索インデックスを構築するGooglebotではない。Googlebot自身の到達率はHTML側5%、JS側2%。10あるJSセクションのうち6つは、27日間Googlebotの階層クロールがまったくなかった。
もう一つ、生々しい観察がある。ChatGPT-User——ユーザーが質問した際にその場でページを取りに行くエージェント——は、実際のユーザークエリに引かれてHTMLリンク側の多数のページに到達した。一方、JSリンクの先にあるページは、同じクエリに対して到達できなかった。人が実際に読もうとしたページと、届かなかったページが一致していた。
「後で直せばいい」が通じない相手がいる
27日目に、著者はJSリンクをすべてHTMLに置き換えた。ページの内容もURLもサーバーも一切変えていない。触ったのはリンクの実装だけだ。回復の速度は、クローラーごとにまったく違った。
- GPTBot: 2日以内に反応。3時間未満の一掃で、それまで27日間ゼロだったセクションから250ページを新規取得。
- Bingbot: 系統的に巡回し212ページを追加。数週間無視していた階層の深部まで到達した。
- Meta-ExternalAgent: 41日目までに参加。
- Amazonbot: 修正の6日前(21日目)にクロールを終えてサイトを離れており、JSグループの到達はゼロのまま。
- ClaudeBot: 修正後も数百回サイトを叩き続けたが、既知のページだけ。新規にリンクされたページを1つも拾わなかった。最初の巡回で描いた地図を、そのまま使い続けているように見える挙動だ。
- Googlebot/GoogleOther: 最も遅い。初回訪問時のクロール予算を使い切った後で、どちらも横ばい。
著者自身が明記している限定も押さえておきたい。これは発見(discovery)の話であって、インデックスの話ではない。サーバーログはクローラーが到達できたかを証明する道具であり、可視性の証明にはSearch Consoleが要る。
日本のサイトで、どこが危ないか
ここからは筆者の見方だ。日本のGEO議論の多くは「どう書けばAIに引用されるか」に集中している。だがこの実験が示すのは、その前段——リンクを辿れるか——で相当数のサイトが脱落している可能性である。
構造として危ないのは、SPAやヘッドレス構成のオウンドメディア、無限スクロール型の記事一覧、絞り込み操作で初めて生成されるカテゴリ導線、そして「もっと見る」ボタンを押さないと現れない下層ページ。日本の企業サイトでは、いずれもごく普通に見かける実装だ。
そして重いのは、直し方の非対称性のほうだ。GPTBotとBingbotは直せば2日で戻ってくる。だがClaudeBotは戻らず、Amazonbotはすでに去った後で、Googlebotは最も遅い。「後で直せばいい」が成立しない相手がいる。新規サイトの公開時や大規模リニューアルの初回クロール時ほど、この差が効く。
慎重に読むべき点
サンプルは1サイトのみで、しかもリンク数の多いディレクトリ型、権威も限定的だ。被リンクが豊富な大規模サイトなら、外部リンクやXMLサイトマップ経由で発見される余地は当然ある。結論も「JSリンクは到達不能」ではなく、「JSリンクだけに依存すると多くのクローラーが到達しなかった」と読むのが正確だろう。
明日やる3つ
- 主要な一覧・カテゴリ導線を、JavaScriptを無効にした状態か生HTMLで開き、下層へのリンクが
<a href>として存在するか確認する。 5分で終わる。 - サーバーログでGPTBot/ClaudeBot/Bingbot/GoogleOther/Googlebotを分けて集計し、どの階層まで到達しているかを見る。 GoogleOtherの数字をGooglebotと混ぜないこと。この実験の最大の落とし穴がそこだった。
- 構造化データや引用されやすい記述といったGEO施策は、到達が確認できてから積む。 順番を逆にすると、効果測定そのものが成立しない。
GEOは新しい競技のように語られている。だが今回のログが突きつけたのは、いちばん古い問いだった。そのリンクは、HTMLの中にあるか。