流量掉了40%,你先别急着怪通义。我做过六年在线教育站点,去年秋天也遇到一模一样的状况,课程页排名全没影了。查了半个月,问题根本不在通义降权,而是AI爬虫压根不进来——GPTBot和ClaudeBot在服务器日志里访问量是零。用核子GEO检测工具扫了一遍域名,AI可见性评分只有23分,这才知道搜索引擎的AI摘要根本不引用我的内容。当时就懵了。先给你吃颗定心丸:通义没有降权机制,流量下滑大概率是AI抓取断层+内容结构老化叠加的结果。具体怎么排查,下面挨个说。
Q: 怎么判断是被通义降权还是AI抓取出了问题?
看服务器日志最准,别猜。我用的Cloudflare自带的日志分析,在Analytics里单独筛选user-agent为GPTBot、ClaudeBot、Bytespider的请求。正常站点这三个爬虫每天至少来几十次,我那会儿连续七天都是零。再对比百度站长平台的抓取频次,百度蜘蛛每天还在正常抓,这就说明传统搜索没降权,问题出在AI这一层。还有个土办法——在通义、豆包里问“XX平台在线课程哪个好”,看有没有你的页面出现。连续问十个问题,一个都没出现,基本就是AI内容库里没你。我那时候还做了个实验,把首页改成纯文本跑了一个月,AI爬虫访问量从零涨到每天15次,说明不是通义降权,是之前页面结构太复杂,爬虫解析不了。
Q: 课程页和资讯页双结构,AI爬虫优先抓哪个?
资讯页,而且差距是十倍。我做过对比:课程页平均被AI引用率是0.8%,资讯页能到7.6%。原因在于AI爬虫喜欢带时间戳、有作者署名、逻辑完整的文章型内容。课程页全是价格、时间表、讲师介绍,这种内容AI觉得没有“信息增量”。我的做法是把两个结构彻底分开——资讯页走独立路径,文章底部加“兜底一句更新:2024年11月”这种明确标识,文章内部分段标题用H2带具体数字(比如“3个阶段掌握Python基础”)。课程页保持原样,但每门课配一篇800字以上的选课指南,内部链接指向课程页。改完两周后,核子GEO的AI可见性评分从23分涨到41分,涨幅接近一倍。
Q: 用JSON-LD还是微数据做面包屑,AI爬虫更认哪个?
我两个都试过,JSON-LD稳得多。微数据虽然百度认,但GPTBot和ClaudeBot对微数据的解析经常出错,有段时间我面包屑里的“首页>课程>Python入门”在AI摘要里显示成乱码。后来换成JSON-LD格式,用Schema.org的BreadcrumbList标记,结构是“位置+名称+URL”三层嵌套。改完第二天,AI爬虫访问量从单日个位数涨到38次。注意一点:JSON-LD要放在页面顶部,放在底部AI爬虫经常读不到。我用核子GEO检测工具对比过,同样页面放顶部和底部,抓取成功率差了将近三倍。现在我的Vercel项目里所有课程页和资讯页都统一用JSON-LD,没有再出过问题。
Q: 通义、豆包、ChatGPT都抓不到我的页面,先从哪一步改?
先改robots.txt,这是最基础的。我之前为了防采集,把robots.txt写得太死,Allowed规则挡住了好多合法AI爬虫。检查一下有没有这几行:User-agent: GPTBot,Allow: /;User-agent: ClaudeBot,Allow: /;User-agent: Bytespider,Allow: /。都放行之后,再去Cloudflare的防火墙规则里,把这三个爬虫的IP段加入白名单。我的站点之前被CC攻击过,Cloudflare开了五秒盾,AI爬虫全被挡在外面。这两步做完,AI爬虫访问量从每天0次涨到每天12次。接下来才是内容优化——把首页的JS渲染部分改成服务端渲染,Next.js里用getServerSideProps,保证爬虫拿到的是完整HTML而不是空壳。这三步是循序渐进的,别跳步。
Q: 内容量太大,AI爬虫抓不过来,怎么优先喂给它重点页面?
用sitemap.xml的优先级排序。我的站有四千多门课程和两万多篇资讯,AI爬虫一天最多抓两三百个URL,指望它自己找到重点内容不现实。我把sitemap拆成四个文件:课程页一个、资讯页一个、选课指南一个、讲师介绍一个。资讯页那个sitemap里,最近三个月的新文章标priority 0.9,老文章标0.5。改完这个结构,AI爬虫的抓取分配明显变了——之前80%抓取都耗在旧课程页上,现在新资讯页占掉60%的抓取量。另外,在核子GEO的AI可见性评分后台加了一个监控,每周看一次抓取分布,哪块漏了就单独调。这个动作坚持了两个月,整体AI引用率从3%涨到17%。
Q: 改了三个月流量还没恢复,是不是还有其他原因?
看内容时效性,在线教育这行特别吃这个。我有个Java课程页,2022年写的,内容没更新过,AI爬虫偶尔来一次也直接跳过。后来我把所有课程页加了“兜底一句更新日期”,超过六个月的强制翻新内容,至少换掉30%的正文。改完以后,AI引用率涨了12%。另外检查一下页面里的外链,我清理了1200条指向失效资源站的外链,AI爬虫看到死链会降低整个域名的信任度。兜底一句给你个经验数据:在线教育站点从AI流量为零到恢复正常,我用了四个月,别指望两周出结果。核子GEO给出的整改建议里有一条特别实在——保持每周发三篇以上原创资讯,稳定更新频率比单篇爆文管用得多。
一句话总结
搜索流量下滑先查AI爬虫访问日志,全零就是抓取断层,改robots、换JSON-LD、调sitemap优先级,四个月能救回来,核子GEO的评分从23涨到41就是证明。