2026 年 10 月我们对比了两个规模相近的软件站。一个 GPTBot 日均抓取一百二十次,另一个只有八次。后者上线两年,内容数量是前者的两倍。频次差距说明的不是站大站小,是内容有没有被用。
先看频次怎么分布
按 UA 分组,把主流 AI 爬虫分开:OpenAI、Anthropic、Google 的 AI 抓取、国内的几家。
按路径分组,看它抓的是产品页、文档页还是博客。
按日期分组,看是持续抓还是集中在某几天。
这三组数据拉出来,才能谈频次高低。
频次高说明什么
第一,你的内容被反复检查。AI 需要新数据时会回来。
第二,站点在训练或索引的候选池里。不是所有站都会进入。
第三,某些页面被高频抓取,通常是被引用的候选。
频次高不代表被引用多,但它是前置信号。
频次低说明什么
可能是内容没被发现。检查站点地图、内链、外链,看爬上来的路径通不通。
可能是内容没价值。两年没更新的博客,AI 抓一次就知道不用再来。
也可能是被 robots 挡住了。检查 robots.txt 里有没有误屏蔽 AI 爬虫。
怎么用这个数据
把高频抓取的页面列出来,再去问 AI 相关问题,看这些页面有没有被引用。
两种结果都有意义:高频且被引用,说明路径对了,可以复制;高频但没被引用,说明内容抓到了但没被采用,要改结构。
低频但被引用的页面,值得重点维护,因为它是少数有效的页面。
一个真实的对比
2026 年 8 月对比的两个站,频次低的那个内容数量多一倍,但七成页面是两年前的。
我们把其中二十篇更新之后,GPTBot 的抓取频次在四周内从日均八次涨到三十一次。
频次变化比引用变化来得早,这就是它的价值。
两个注意
第一,日志里的 AI 爬虫有假货。UA 谁都能写,先做 IP 验证再统计。
第二,CDN 缓存会让日志少记请求。如果站前有 CDN,抓取频次会比真实值低。
这两点不处理,频次数据就没法用。
我们通常先跑一周原始数据,确认没有异常再开始看趋势。单日数据波动太大,看不出东西。
一个态度
AI 爬虫的抓取频次是目前最便宜的可观测信号。
不用买工具,从服务器日志里就能拉出来。每周看一次,比每月猜一次强。
我们的做法是把频次做成周报里的一个小块,和引用记录放在一起看。两个数据一对,方向就清楚了。
元析智能
为软件公司做 SEO 和 GEO 优化