先给结论:把“被发现”当作结果变量,把页面按可观察特征切成互斥组,再在组内比较。缺少完整日志和索引数据时,最可行的做法是选一个可复现的公开信号作为发现代理,例如站内链接是否可达、站点地图是否包含该 URL、页面是否返回可索引状态。对照组不是随便挑两批页面,而是让两组在除待测因素外尽量同质。这样即使只能看到部分页面被处理,也能判断差异更可能来自哪一类原因,而不是把“没被收录”笼统归因于内容质量。
假设某站点一次上线 200 个结构相同的新页面,其中 60 个能在收录查询中看到,140 个看不到。没有完整服务器日志,也没有搜索平台后台权限。此时不能直接说“内容差所以不收录”,因为两组页面可能在上线时间、内链深度、模板状态上本来就不同。可执行的最小动作是:先固定一个观察窗口,例如上线后第 7 天和第 21 天各查一次;把 200 个 URL 列成表,记录是否可从列表页点击到达、是否在站点地图中、返回状态码是否正常、页面主体是否与模板有实质差异。然后按“有站内入口”和“无站内入口”分组,而不是按“已收录”和“未收录”分组。分组依据必须先于结果确定,否则容易把结果当原因。
按结果分组只能描述现象,按因素分组才能支持决策。可优先考虑三类切分:
每组内再随机抽 20 到 30 个 URL 做人工核查。若某一组被发现的页数明显更多,下一步优先检查该组独有的入口或模板条件,而不是全站改版。若两组差异不明显,说明待测因素解释力弱,应转向抓取预算、服务器响应或重复内容等方向。
没有日志时,收录查询结果只是一个滞后且不完整的代理。可以执行的动作包括:用 site: 类查询观察大致覆盖,用 robots.txt 检查是否误屏蔽,用站点地图核对 URL 是否声明。但必须注意:robots.txt 的抓取限制不等于可靠的索引移除,被屏蔽的 URL 仍可能因外链被引用而出现在结果中;站点地图不保证收录;返回 200 也不代表会被处理。反过来,收录查询中看不到某 URL,也不能单独证明它被拒绝索引,可能只是查询未返回、结果被折叠或该 URL 尚未被处理。
假设 A 组 100 个页面都能从首页两级内点击到达,B 组 100 个页面只能通过站点地图发现。两周后 A 组有 35 个出现在收录查询中,B 组有 8 个。这个对比只能说明“在当前观察窗口和该查询方式下,有站内入口的组表现更好”,不能直接推出“加内链就一定收录”。下一步应把 B 组中 20 个页面补上站内入口,保持其他条件不变,再等一个相同窗口复查。如果补入口后 B 组发现率上升,才支持入口是主要限制因素;如果不变,则要检查这些页面是否本身重复或返回异常。
对照组的价值在于缩小下一步范围。每轮只改一个因素,并保留未改动的组作为参照。记录时区分“已发现”“已抓取”“已索引”三种状态,不要混为一项。若某次查询中所有目标页都消失,先排查查询方式、robots 变更和服务器状态,不要立刻断定被移除。只有当同一组在多个时间点、用多种查询方式都表现一致,且排除了入口、模板、状态码等可解释因素后,才适合把差异归到内容或外链层面。这样划分对照组,即使数据不完整,也能让批量页面的处理决策有据可依,而不是靠单次查询下结论。