判断采集是否遗漏,不能只看总词数,而要把同一批页面在“站内统计、搜索引擎报告、第三方估算”三套口径下做差异比较。若某个栏目或模板的页面数明显少于预期,或已发布页面在搜索报告中长期为零,就应优先怀疑采集遗漏。时间和人手有限时,先处理差异最大、影响页面最多的那一类,而不是逐页翻查。
站内统计通常按URL、数据库记录或日志计数,反映你实际发布了多少页面;搜索引擎报告反映的是被处理并纳入索引的页面;第三方估算则往往基于抽样、外链或流量模型,误差更大。三者本来就不是同一件事,所以词数不同不等于采集遗漏,但差异集中出现在同一目录、同一模板或同一批发布时间相近的页面上,遗漏的可能性就明显上升。
适用前提是:你手里至少有两套可核对的清单,并且能按URL或页面标题对齐。如果只有总数没有明细,先补明细,否则无法判断是遗漏还是口径差异。
假设某站有A、B两个栏目,A栏目站内200页、报告180页,B栏目站内50页、报告10页。B栏目缺失比例更高,应最先处理。这里的数字只是假设示例,用于说明比较方法,不代表任何真实项目结果。
反过来,如果缺失页面集中在低质量聚合页、参数页或已被合并的重复页,更可能是主动过滤而非采集遗漏。判断时要区分“可能原因”和“已经定位的原因”:上述信号只说明方向,最终仍要靠逐条核对URL来确认。
处理一批页面后,验收看三点:该组缺失比例是否下降;抽查URL能否在搜索中查到;站内统计与报告的数量差是否稳定在可解释范围内。若差异仍然集中在同一模板,应回到模板和采集规则检查,而不是继续加发新页面。下一步,先选出缺失比例最高的一个目录,导出它的URL清单,逐条核对是否真正缺失,再决定是否调整采集或提交方式。