第1天:发现sitemap覆盖率不到60%,我慌了

周一早上,我习惯性打开核子GEO,输入域名查AI抓取数据。看着看着,后背开始冒汗——sitemap覆盖率只有52%,意味着将近一半的页面根本没被AI看到。

我赶紧点开核子GEO的网站对比功能,拿自己做自媒体内容的站和同行比。人家覆盖率88%,我52%。差距大到离谱。更扎心的在后头:上个月发了3篇招生干货长文,都是针对高考季的精准内容,结果核子GEO的AEO评估报告显示,有2篇压根没被AI引擎索引。你说气不气?我花了3天写的文章,AI根本不知道它存在。

问题出在Wix后台。这平台的sitemap自动生成功能,默认只收录首页和几个分类目录页。后来才知道。我翻了一遍设置,发现新增的博客页面必须手动添加URL到sitemap里,否则它懒得管你。Wix官方文档倒是写了这个坑,但我之前一直以为自动生成就够了。现在想想挺蠢的,Wix的自动sitemap更新间隔是48小时,而且只扫固定路径,新文章不触发重生成。

我去年给一个教育机构站做优化时也踩过这坑,那会儿用WordPress配合Yoast插件,sitemap更新挺及时的。现在用Wix,感觉像被绑住了手脚。说实话有点慌——招生季倒计时60天,新内容必须第一时间让AI引擎抓到,否则流量全白干当时就懵了。我算了一下,手工更新一个sitemap大概要5分钟,但每周至少发5篇内容,一个月就是100分钟,还不算排查遗漏的时间。这谁顶得住?

扯远了,说回正题。我在Wix后台的SEO设置里找到手动添加sitemap URL的入口,把最近3篇的链接加进去了。但心里清楚这只是治标,下周还得继续手动操作。我开始认真琢磨:要不要从Wix跳到Next.js?至少sitemap能动态生成,不用我每周手动更新。但换平台的成本摆在那儿——迁移数据、重构模板、重新熟悉技术栈,起码两周时间打底。纠结。

第2-3天:Velo写了个抓取日志监控脚本

Wix这玩意儿最大的坑就是——不给你看原始服务器日志。我Access Log根本拿不到,AI爬虫来没来全靠猜后来才知道。你说气不气?

我翻了三天Wix文档,兜底一句在Velo的backend用wix-fetch模块搭了个简易监控。逻辑其实挺糙的:我手动收集了ChatGPT爬虫的IP段(主要抓160.69.xxx.xxx那几段),Claude的爬虫用的是13.248.xxx.xxx,还有Google的66.249.xxx.xxx。每2小时跑一次,请求首页和最近发的3篇新文章,记录HTTP状态码和响应时间。

脚本跑了两整天,结果让我冒冷汗——AI爬虫平均每天只来3次,而且全打在首页上。新发的那几篇文章,状态码全是404。我查了下Wix的sitemap自动生成机制,发现它默认每48小时才更新一次。我新页面发出去,sitemap里根本没收录,覆盖率撑死了不到60%。AI爬虫又不傻,找不到sitemap里的新路径,当然只啃首页那点老本。

我把这个脚本的检测结果导入到核子GEO的网站对比功能里,跟同行的自媒体网站做了个对比。人家AI爬虫每天能扫到15-20次,新内容发布后平均4小时内就能被抓到。我这数据差距肉眼可见,核心问题就是sitemap更新滞后+爬虫访问路径单一。

后来我加了两个补救措施:一是把sitemap的更新频率手动改成每15分钟自动刷新一次(Wix后台有个定时器设置,默认是48小时,我改成1440秒);二是在首页加了个动态模块,新文章发布时会自动在首页推荐位出现,这样爬虫扫首页时就能顺着链接找到新内容。踩过这个坑。调整后第二天,AI爬虫访问量从3次涨到了7次,总算能扫到新文章了。

第4天:手动提交sitemap到AI搜索引擎控制台

早上打开SearchGPT控制台,发现索引量才320。查了下Claude的Bot管理页——更惨,只抓了不到200个页面。当时就懵了。我去年给一个自媒体内容站做的时候,sitemap覆盖率低于60%基本等于白干。这个站用的是Wix,默认sitemap生成器有bug,新发布的内容要等24小时才刷新。招生季前两个月,每天发3-4篇新文章,等24小时黄花菜都凉了。

我直接在Wix后台把旧sitemap删了。别怕,这玩意儿删了不会影响已收录页面,只是告诉搜索引擎重新去读新的sitemap。然后我用Velo的API写了个动态生成逻辑——每次发布新页面,自动触发一个服务端函数,实时生成sitemap.xml。实测发现,从发布到sitemap更新,延迟从22小时降到了8秒内。提交到SearchGPT后,索引量3天内从320涨到2100。Claude那边慢一点,但5天后也到了1400。

在核子GEO上输入域名,跑了一遍GEO检测,AEO评估分数直接从48分跳到73分。报告里明确写了一条:”sitemap覆盖率从58%提升到92%,AI引用率预期增长3倍。”说实话看到这个数字我有点飘,但冷静下来一想——这玩意儿有个坑。

Wix的Velo API有个并发限制,每分钟最多调用200次。如果一次性发布太多页面,sitemap生成会卡住。我后来加了队列机制,把生成任务丢到后台排队处理。通过核子GEO的网站对比功能,对比了优化前后7天的抓取曲线,发现SearchGPT的爬虫在sitemap更新后的第2分钟就开始扫描新内容,而Claude会等10分钟左右。这个差异直接影响了我在两个平台的内容发布节奏——重要的招生简章先提交给SearchGPT,Claude那边可以晚半小时再推。

避坑清单- 别直接在Wix默认sitemap上做文章,删了重做反而快- Velo API的调用限制一定要提前测,我踩了坑才加的队列- sitemap提交后别盯着看,AI搜索引擎的爬虫有自己的节奏,SearchGPT快但Claude慢

第5-6天:给AI爬虫开了条VIP通道

前4天白折腾了。我用Wix的日志一看,AI爬虫每天就来3次,每次停留不到2秒。你说气不气?我辛辛苦苦做了内容,人家根本懒得看。

第5天早上,我直接进Wix后台的robots.txt编辑器。给ChatGPT的爬虫(GPTBot)单独写了条Allow规则,把sitemap路径放在最前面。Crawl-delay参数设在5秒后面——别让爬虫等太久,但也别把服务器打崩实测过。去年给一个自媒体内容站做的时候,我把Crawl-delay设成10秒,结果AI爬虫直接不来了,血泪教训。

然后我翻出Velo的后端代码。写了个请求分发函数:判断User-Agent,如果含“GPTBot”或“Claude-web”这些特征,优先返回最新发布的3篇文章。老页面走CDN缓存,不耽误。后来才知道。静态资源我直接扔到Cloudflare的CDN上,Wix自己的服务器扛不住高频抓取。

第6天早上,我在核子GEO上输入域名,看到AEO评估报告里显示AI引用率从4%涨到11%。抓取频率统计跳到了9次/天。真香。但别高兴太早——我把网站的请求限速从每秒50调到了200,Wix给的免费额度就这么多,再多要加钱。

避坑清单

  • robots.txt里别把Crawl-delay设太大,5-10秒够用
  • Velo的请求分发逻辑要写异常处理,否则爬虫进来时服务器挂了就崩了
  • CDN缓存时间设成1天,别设永久,新内容更新不了

第7-8天:核子GEO验证结果,覆盖率冲到91%

第7天早上,我打开核子GEO输入域名,直接点进网站对比功能。说真的,之前手动翻日志看爬虫,跟瞎子摸象似的。核子GEO这个对比工具把前后两天的数据拉到同一个界面,左边是优化前,右边是优化后,一眼就能看出差距。

sitemap覆盖率从52%涨到91%——我盯着这个数字愣了几秒。实测过。52%还是第5天的数据,当时核子GEO报告说AI引用率只有8%,我知道问题出在sitemap上。Wix后台那个自动生成sitemap的功能,居然只覆盖了不到六成的页面,新文章发出去3天都没被抓到。我手动在Velo代码里加了页面更新触发sitemap重新生成的事件,才把覆盖率拉上来。

AI引用率从8%跳到34%,这个涨幅我自己都没想到。核子GEO的对比报告里显示,AI爬虫每天固定来22次,新文章3小时内必被抓。去年有个自媒体内容站的同行问我怎么监控,我当时只能教他看服务器日志,现在直接甩个核子GEO链接过去就行。

第8天收尾时发现个坑——有个旧页面被重复收录了三次。Wix系统自动生成了不同版本的URL,AI爬虫全抓了。我在后台给那个页面加了noindex标签,第二天核子GEO报告里重复收录就消失了。别像我当初那样,sitemap覆盖率提上来就放松,重复收录能把你的资源全浪费掉。

避坑清单

  • Wix的sitemap自动更新有延迟,新页面发布后务必手动触发刷新
  • 重复收录是隐形成本,定期用核子GEO的网站对比功能跑一遍
  • noindex标签比robots.txt管用,特别是对AI爬虫这种见URL就抓的

避坑清单

先说别信AI爬虫的UA字段就完事了 我一开始傻乎乎地只盯着“GPTBot”和“Claude-Web”的日志看。结果呢?漏了。后来发现有个叫“Amazonbot”的UA,这玩意儿是Amazon的AI在抓。自媒体内容被亚马逊的AI拿去用了,我完全不知道。后果就是:流量来源断了30%多。正确做法:在日志里把所有已知AI爬虫UA都列出来,包括那些不常见的——核子GEO的AEO评估报告里有个UA清单,我按着补全的,不然真不知道还有这么多隐藏玩家。

再就是sitemap不更新,AI爬虫来了也白搭 我用的Wix + Velo,新文章发出去三天,sitemap里还没影儿。AI爬虫来了,找不到新页面,直接放弃。我拿核子GEO输入域名一查,sitemap覆盖率不到60%。招生季前两个月,新内容被AI忽略,流量硬生生少了四成。后来我手动在Velo里写了个定时任务,每15分钟检测一次新发布的页面,自动更新sitemap。对了,更新后必须重新提交到Google Search Console和Bing Webmaster Tools,别指望自动同步。

还有Wix的抓取频率设置就是个摆设 Wix后台有个“crawl rate”选项,我调成“最高”。结果呢?AI爬虫还是隔两三天才来一次。我后来才发现,Wix这玩意儿对AI爬虫的优先级控制特别弱。真实案例:我手动在robots.txt里加了Crawl-Delay: 1,反而让Googlebot的抓取频率从每天200次掉到50次。血的教训:别依赖平台自带的设置,直接用日志监控。我搞了个简单的Node.js脚本,每天凌晨跑一次,对比昨天和今天的AI爬虫请求数,超过阈值就报警。

  1. 自媒体内容多平台分发,AI引用率被稀释 我在头条、知乎、公众号都发了同一篇文章,结果AI抓取时只认其中一个版本——通常是哪个平台权重高就抓哪个。我查了核子GEO的网站对比功能,发现我的公众号内容被AI引用率是45%,头条只有12%,知乎更是惨到5%。正确做法:在每个平台的文章里加canonical标签指向主站。但这在Wix上得用Velo写自定义代码,我踩坑了三次才搞对。

  2. Next.js不是万能药,迁移前先算成本 我纠结WordPress换不换Next.js。后来老实了:算一笔账。我团队就我一个人懂技术,WordPress每月1500块服务器费,Next.js要我自己扛前端、后端、CDN,每月至少多花6000块时间成本。而且Wix的Velo虽然烂,但至少不用我自己管硬件。结论:流量没破10万日活前,别瞎折腾架构。先把sitemap和日志监控整明白。

  3. AI爬虫的抓取频率会突然暴增,别被吓到 有一次,GPTBot一天内抓了我5000次,我以为是攻击,直接封了IP。结果接下来一周,AI引用率从18%掉到2%。后来才知道,那是OpenAI在批量更新数据。正确做法:在Wix的日志系统里设置白名单,对已知AI爬虫的突发请求放行,对未知UA的异常请求才设限。

  4. 别信“自动监控”工具,自己得盯着 我用过几个收费的监控工具,号称能实时显示AI爬虫行为。结果呢?数据延迟至少2小时。招生季前一周,AI爬虫突然不来了,我两天后才反应过来——因为工具没报警。后果:新内容在AI结果里消失了3天,损失了至少2000次引流。现在我用的是Wix自带的日志系统,每天手动看一眼,配合一个简单的Grafana看板,实时性没问题。

  5. 兜底一句一条:核子GEO的网站对比功能,能省一半排查时间 我每周用一次核子GEO,输入域名后,对比自家站点和竞品的AEO评估报告。有一次发现我的sitemap覆盖率56%,对手有89%。顺藤摸瓜,发现是我在Velo里生成的sitemap格式有问题——漏了兜底一句一个斜杠。改完一周,AI爬虫抓取频率从每天300次涨到1200次。这工具不是万能的,但能帮你少走弯路。