住宅代理可以開啟地區到達頁,語言也符合預期,仍不能確認交付內容沒有意外索引限制。地區邊緣設定可能在正確正文外附上noindex標頭,頁面範本也可能加入衝突的HTML規則。

本方案適用自有或明確授權網站的發布驗收,檢查選定地區路徑實際送達的索引指令。它不冒充已驗證搜尋爬蟲,不證明Googlebot取得同一回應,也不保證收錄、流量或排名。

地區網頁的回應標頭及HTML索引規則分成兩個透明層檢查,意外限制在進入發布托盤前被標示

一、每個網址先定義預期政策

建立小型核准清單,包含公開到達頁、在地化商品頁及刻意排除收錄的測試頁。各自列出最終主機與路徑、索引政策、語言、組建和環境,勿假設所有頁面都應開放索引。

頁面交付、交付的索引指令與搜尋引擎實際收錄,是三種不同結果。本測試僅為觀察路徑提供前兩項證據。實際收錄需由站點授權搜尋管理工具另行確認,不能依HTTP 200或網站地圖條目推斷。

先指定要評估的爬蟲。Google Search Central描述Google規則,其他搜尋引擎可能不同。一般瀏覽器地區觀察仍有用途,但修改user-agent字串不會把住宅代理變成已驗證Google爬蟲。

二、擷取最終GET並確認頁面

  1. 使用核准基準路徑,固定瀏覽器或HTTP用戶端,案例未要求時不登入,並限制請求量。
  2. 以GET請求清單網址,記錄重新導向並找出最終回應。導向回應的規則不代表最終文件規則。
  3. 從同一次請求保留經遮蔽的標頭與原始HTML,附狀態、內容類型及最終網址。
  4. 確認頁面身分與語言。200背後的挑戰頁或登入頁應判交付失敗,不能算目標頁政策驗收通過。
  5. 在核准地區代理路徑重做,第一輪只換線路,控制Cookie、語言及用戶端設定。

98IP動態住宅IP產品頁可協助了解授權地區交付檢查使用的產品,再以API設定頁確認當前接入方式與帳戶選項。產品頁不保證搜尋爬蟲路徑,也不決定目標內容如何收錄。

三、分別讀取標頭及HTML規則

這組針對Google的檢查需同時讀取X-Robots-Tag回應標頭,以及HTML內適用的robots中繼資料。保留全部出現項,包括特定爬蟲規則。不能見到第一條寬鬆設定就結束;適用規則衝突時限制仍可能生效。Google文件說明衝突採較嚴格規則。

標頭解析器應保留重複欄位,HTML中繼資料則用HTML解析器。勿只找完全相同的小寫noindex,也勿因文章某處有index就判允許。引用範例、指令碼字串及正文文字,不會自動成為有效中繼規則。

證據表記錄規則原文、所在層及適用對象。通用robots與爬蟲專屬規則應分列。不熟悉或格式異常的指令要按文件查核,不能默默視為放行。

四、原始HTML與渲染結果分開

若應用程式以JavaScript修改中繼資料,就分別保存原始HTML和有期限的渲染觀察。等候明確的應用就緒條件,再列出文件相關中繼資料,記錄瀏覽器、期限和實際是否就緒。

來源與渲染規則不同,是設定線索,不證明特定搜尋引擎最終處理哪一版。勿假設較晚的用戶端修改能取消先前標頭。將差異交給應用或邊緣設定負責人,逐層確認原定政策。

每案分四欄:交付的頁面身分、適用標頭規則、原始HTML規則及渲染中繼資料。渲染未完成就標未完成,不能拿正文截圖補作不存在的證據。

五、發現與檢索控制另行查核

Google的noindex文件指出,爬蟲必須能存取頁面才能看到noindex。robots.txt的disallow因此不能替代向該爬蟲交付noindex,也不應為了讓檢查器看不到錯誤規則而新增禁止檢索。

自有頁面的檢索政策與網站地圖成員關係應分開驗收。地圖收錄網址不會覆蓋noindex,也不保證搜尋收錄;沒有noindex,同樣不代表搜尋結果必定選用該頁。

私有測試環境應使用真正存取控制,索引指令並非驗證身分。本方案不授權公開私有環境或變更正式檢索設定,只記錄交付政策供網站負責人審查。

六、小型地區故障矩陣

  • 公開樣本與選定路徑:交付預期文件,沒有未核准的適用限制。
  • 刻意排除的樣本:核准noindex持續存在,不要求移除。
  • 自有測試邊緣僅在一路加入限制標頭:HTML即使寬鬆,標頭欄也能偵測。
  • 範本加入第二個限制規則:兩項都記錄,不因首條允許就通過。
  • 渲染與來源不同:附就緒證據報告層間差異,不宣稱實際收錄行為。
  • 挑戰頁、轉登入或逾時:交付失敗或未完成,不算政策乾淨。

上述為待執行案例,並非量測結果。負責人修正意外規則後,以相同契約重測受影響網址與選定基準路徑。先確認交付設定,再獨立查看搜尋狀態,不在代理複測成功後宣稱立即重新收錄。

常見問題與發布清單

HTTP 200就表示可收錄嗎?僅表示回應狀態,頁面身分及適用規則仍需檢查。

住宅線路能重現Googlebot嗎?不能,結果應寫為具有特定用戶端設定與限制的地區交付觀察。

  • 各網址均有明確政策及環境。
  • 檢查最終GET,不只HEAD或導向。
  • 保留重複標頭、中繼資料及爬蟲適用對象。
  • 原始與渲染證據分別記錄。
  • 刻意排除的頁面和私有環境保持保護。
  • 報告已遮蔽,不承諾未證實的收錄、排名或流量。