规模扩大后最该停止手工做的,是那些每次都要重复判断、但判断标准已经稳定的存档决策:旧 URL 是否保留、是否改写、是否退出索引。它们一旦超过几十上百条,手工处理会同时拖慢发布节奏、放大遗漏,而错误又很难在事后发现。更合适的做法是把规则写成可执行的清单或脚本,把人工留给例外。
历史页面存档不是单一动作,而是三种不同决策,适用前提差别很大。
关键变化点在于:当决策标准已经稳定、只是条目在增加时,手工就不再是谨慎,而是低效。反过来,如果标准还在频繁调整,手工反而更安全。
可以优先自动化的,是那些输入明确、输出可验证的环节。假设一个站点有大量旧文章需要处理,且团队已经确定了保留与退出的判断规则,那么下面这些动作适合先交给脚本或批量工具:
一个实际动作是:先跑一次批量检查,输出所有旧 URL 的状态码和最后修改时间。如果结果里出现大量指向已退出页面的内链,下一步就不是继续手工改页面,而是先修内链规则,否则每改一次都会制造新的断链。
手工不是被全面淘汰,而是被压缩到例外处理。以下前提成立时,继续手工更合理:
换句话说,手工适合处理“规则之外”的页面,而不是处理“规则之内”的批量页面。把两者混在一起,才会出现规模扩大后越做越乱的情况。
批量处理会带来新的风险:把不该退出的页面退出,或者把该保留的页面改坏。判断是否处理正确,不能只看请求量或抓取量归零。请求量下降还可能来自入口减少、季节波动、统计口径变化,不能单独作为处理正确的证据。
更可靠的验证方式是分层检查:
如果检查发现退出页面仍被大量内链指向,说明自动化规则漏掉了内链处理,下一步应优先修内链,而不是继续扩大退出范围。
规模扩大后,真正不适合继续手工做的,不是所有历史页面存档工作,而是那些已经能用稳定规则判断的批量决策。保留、改写、退出三类动作中,退出和部分保留判断最容易固化,适合先自动化;改写和涉及合规的页面仍需人工。先跑一次批量检查,根据输出决定下一步是修规则还是继续人工,比单纯增加人手更能控制风险。