住宅代理可以開啟地區到達頁,語言也符合預期,仍不能確認交付內容沒有意外索引限制。地區邊緣設定可能在正確正文外附上noindex標頭,頁面範本也可能加入衝突的HTML規則。
本方案適用自有或明確授權網站的發布驗收,檢查選定地區路徑實際送達的索引指令。它不冒充已驗證搜尋爬蟲,不證明Googlebot取得同一回應,也不保證收錄、流量或排名。
一、每個網址先定義預期政策
建立小型核准清單,包含公開到達頁、在地化商品頁及刻意排除收錄的測試頁。各自列出最終主機與路徑、索引政策、語言、組建和環境,勿假設所有頁面都應開放索引。
頁面交付、交付的索引指令與搜尋引擎實際收錄,是三種不同結果。本測試僅為觀察路徑提供前兩項證據。實際收錄需由站點授權搜尋管理工具另行確認,不能依HTTP 200或網站地圖條目推斷。
先指定要評估的爬蟲。Google Search Central描述Google規則,其他搜尋引擎可能不同。一般瀏覽器地區觀察仍有用途,但修改user-agent字串不會把住宅代理變成已驗證Google爬蟲。
二、擷取最終GET並確認頁面
- 使用核准基準路徑,固定瀏覽器或HTTP用戶端,案例未要求時不登入,並限制請求量。
- 以GET請求清單網址,記錄重新導向並找出最終回應。導向回應的規則不代表最終文件規則。
- 從同一次請求保留經遮蔽的標頭與原始HTML,附狀態、內容類型及最終網址。
- 確認頁面身分與語言。200背後的挑戰頁或登入頁應判交付失敗,不能算目標頁政策驗收通過。
- 在核准地區代理路徑重做,第一輪只換線路,控制Cookie、語言及用戶端設定。
98IP動態住宅IP產品頁可協助了解授權地區交付檢查使用的產品,再以API設定頁確認當前接入方式與帳戶選項。產品頁不保證搜尋爬蟲路徑,也不決定目標內容如何收錄。
三、分別讀取標頭及HTML規則
這組針對Google的檢查需同時讀取X-Robots-Tag回應標頭,以及HTML內適用的robots中繼資料。保留全部出現項,包括特定爬蟲規則。不能見到第一條寬鬆設定就結束;適用規則衝突時限制仍可能生效。Google文件說明衝突採較嚴格規則。
標頭解析器應保留重複欄位,HTML中繼資料則用HTML解析器。勿只找完全相同的小寫noindex,也勿因文章某處有index就判允許。引用範例、指令碼字串及正文文字,不會自動成為有效中繼規則。
證據表記錄規則原文、所在層及適用對象。通用robots與爬蟲專屬規則應分列。不熟悉或格式異常的指令要按文件查核,不能默默視為放行。
四、原始HTML與渲染結果分開
若應用程式以JavaScript修改中繼資料,就分別保存原始HTML和有期限的渲染觀察。等候明確的應用就緒條件,再列出文件相關中繼資料,記錄瀏覽器、期限和實際是否就緒。
來源與渲染規則不同,是設定線索,不證明特定搜尋引擎最終處理哪一版。勿假設較晚的用戶端修改能取消先前標頭。將差異交給應用或邊緣設定負責人,逐層確認原定政策。
每案分四欄:交付的頁面身分、適用標頭規則、原始HTML規則及渲染中繼資料。渲染未完成就標未完成,不能拿正文截圖補作不存在的證據。
五、發現與檢索控制另行查核
Google的noindex文件指出,爬蟲必須能存取頁面才能看到noindex。robots.txt的disallow因此不能替代向該爬蟲交付noindex,也不應為了讓檢查器看不到錯誤規則而新增禁止檢索。
自有頁面的檢索政策與網站地圖成員關係應分開驗收。地圖收錄網址不會覆蓋noindex,也不保證搜尋收錄;沒有noindex,同樣不代表搜尋結果必定選用該頁。
私有測試環境應使用真正存取控制,索引指令並非驗證身分。本方案不授權公開私有環境或變更正式檢索設定,只記錄交付政策供網站負責人審查。
六、小型地區故障矩陣
- 公開樣本與選定路徑:交付預期文件,沒有未核准的適用限制。
- 刻意排除的樣本:核准noindex持續存在,不要求移除。
- 自有測試邊緣僅在一路加入限制標頭:HTML即使寬鬆,標頭欄也能偵測。
- 範本加入第二個限制規則:兩項都記錄,不因首條允許就通過。
- 渲染與來源不同:附就緒證據報告層間差異,不宣稱實際收錄行為。
- 挑戰頁、轉登入或逾時:交付失敗或未完成,不算政策乾淨。
上述為待執行案例,並非量測結果。負責人修正意外規則後,以相同契約重測受影響網址與選定基準路徑。先確認交付設定,再獨立查看搜尋狀態,不在代理複測成功後宣稱立即重新收錄。
常見問題與發布清單
HTTP 200就表示可收錄嗎?僅表示回應狀態,頁面身分及適用規則仍需檢查。
住宅線路能重現Googlebot嗎?不能,結果應寫為具有特定用戶端設定與限制的地區交付觀察。
- 各網址均有明確政策及環境。
- 檢查最終GET,不只HEAD或導向。
- 保留重複標頭、中繼資料及爬蟲適用對象。
- 原始與渲染證據分別記錄。
- 刻意排除的頁面和私有環境保持保護。
- 報告已遮蔽,不承諾未證實的收錄、排名或流量。