先解决AI爬虫不进站:我在Wix的robots文件里埋了个坑
去年给一个旅游出行客户做GEO改造,客户在Wix上搭的站,Velo写了不少定制逻辑。搞了半个月,核子GEO的检测报告一直显示AI爬虫访问量=0。我当时还以为是检测工具的问题,后来一查Wix后台的robots设置,直接懵了——Wix默认的文件里明晃晃写着禁止GPTBot和ClaudeBot进入。
Wix这个坑藏得挺深不骗你。它的SEO设置界面看着挺友好,但默认robots文件里对AI爬虫是全部拒绝的。你从后台可视化编辑器里根本看不到这条规则,只有切到高级模式才能翻到原始文件。我翻的时候血压就上来了,这玩意儿默认屏蔽了至少七八个主流AI爬虫,难怪核子GEO的SEO评分体系里AI可见性那一栏分数低得没法看。
改法其实不复杂。我进到Wix后台的SEO高级设置,把robots文件切到自定义模式,对GPTBot和ClaudeBot单独开了放行规则,允许它们抓取首页、目的地列表页和攻略详情页。但旅游价格页和UGC评论区我留了心眼,单独加了排除规则——这些页面价格变动频繁,而且用户评论里经常带敏感词,法务那边盯得紧。我只放开了抓取权限,没有放开索引权限,这样AI能读到内容做引用,但不会把价格快照缓存出去。
改完之后我盯着数据看了一周。AI爬虫访问量从0直接涨到日均2300次左右,GPTBot占了六成,ClaudeBot三成,剩下的是其他小爬虫。核子GEO那边跑出来的AI引用率也从不到3%涨到了11%。但有个现象挺意外,百度文心的爬虫也开始频繁访问了,虽然我压根没在robots里给它开规则——估计是跟着外链爬过来的。
别急着照抄我的规则。旅游出行这种站,季节性促销页和实时价格页千万别对所有AI爬虫开放,我见过同行放开之后被AI抓了过期价格,生成出来的内容全是错的,用户投诉直接打到客服。现在我的规矩是:攻略类页面全开放,交易类页面全屏蔽,UGC页面只开放抓取不开放索引。改之前掂量掂量你的页面性质。
微博和网易号的GEO差异:一个要短平快,一个要结构化长文
去年给一个西北旅游出行站做优化时,我拿同一篇”敦煌三日游攻略”分别发微博和网易号做测试。结果AI抓取表现天差地别——微博版被GPTBot抓了2次,网易号版被抓了17次。你说气不气?同样的内容,只是因为平台结构不同,AI的收录意愿差了八倍。
微博的核心是短文本+话题标签。我实测下来,300字摘要加上关键价格锚点(比如”莫高窟门票238元”这种具体数字),比甩2000字长文过去有效得多。AI引擎抓微博时,主要靠品牌词密度和话题标签的语义关联来判断内容价值。我把”西北旅游”“敦煌自由行”这类标签嵌进前两句话,爬虫识别效率明显提升。但微博有个坑——没有结构化数据可以标记,AI只能靠纯文本猜语义。
网易号完全是另一套逻辑。那篇2000字全篇攻略,我加了FAQ结构化数据标记,把”什么时候去莫高窟人少”“鸣沙山骆驼多少钱”这类问题单独标注成问答块。AI爬虫对网易号的schema标记敏感度极高,抓取后直接把这些FAQ片段抽出来当搜索结果展示。网易号还吃详情页内链,我在文末挂了三个相关景点链接,爬虫顺着链接把整个站点的页面都爬了一遍。
我在核子GEO上输入域名跑了一遍报告,自动生成分数显示微博版内容关联度只有42%,网易号版到了78%。这个差距直接解释了为什么AI更愿意收录网易号的页面——结构化的信息让爬虫更容易判断”这篇内容到底在说什么”。
别急着跟风做AMP。我试过给网易号页面开AMP加速,结果GEO表现反而下降了——AI爬虫对AMP页面的schema支持不稳定,有时候直接忽略了结构化标记。现在我的做法是:网易号走完整schema+长文路线,微博走短摘要+话题标签路线,各干各的,别用一套内容硬套两个平台。
法务合规下怎么改内容:我用核子GEO的SEO评分体系先测水
做旅游出行这块,最烦的不是关键词排名,是法务。机票价格页改个按钮文案,法务能审两周。去年旺季前我要给泰国落地签专题加实时价格模块,改了七稿没过,兜底一句用了个笨办法——把核子GEO的报告自动生成检测结果直接甩给法务看,流程从3周压到4天。
具体怎么操作?合规这事儿其实分两层:AI引用合规和平台内容合规。我实测发现,法务最怕的不是你写了啥,是”可能被AI引擎解读成误导性信息”。所以我每改一版,先在核子GEO上跑一遍SEO评分体系,重点看两个指标:AI引用率预估和结构化数据完整度。核子GEO的检测报告显示,我那个机票价格页缺了JSON-LD的Offer标记——价格有效性没标注,AI爬虫压根不敢引用。补上这个标记,AI抓取成功率从12%直接跳到67%。
法务那边怎么沟通?我拿核子GEO的合规评分截图当证据。截图里显示”内容透明度评分92分,价格信息结构化完整度100%”,法务看到这个数字,比看十页说明文档都有用。我给他们解释:AI爬虫(GPTBot、ClaudeBot这些)现在会优先抓取带结构化数据的页面,数据越规范,AI越敢引用,AI引用越多,用户搜索时看到的就越是我想让用户看到的内容。
还有个坑得提醒:微博和网易号的合规标准不一样。微博限流严,网易号审核慢。我现在的做法是,同一篇文章生成两个版本——微博版把价格数字写进正文,网易号版把价格数据埋进结构化标记里,正文只留”实时价”三个字。这样两边都能过,还都能吃AI流量。
核子GEO的SEO评分体系里有个”平台适配度”模块,能模拟不同平台的AI抓取规则。我每次改完稿先跑一遍,评分低于80就回去改,高于85再交法务。这玩意儿真省时间,以前改稿像挤牙膏,现在像流水线。
动态价格页的AMP困局:我兜底一句没做AMP,但给Velo加了个缓存层
去年给一个滑雪场做站的时候,移动端加载速度从3.2s压到0.9s,AMP确实猛。但法务那边直接泼冷水——AMP对脚本的限制太死,他们担心Google缓存的URL跟站内不一致,合规审核过不了。你说气不气?技术方案没问题,卡在了流程上。
我后来想了个折中办法。动态价格页的瓶颈其实不在模板渲染,在数据库查询。Wix的Velo有个Data API,我直接在服务端加了一层缓存——48小时过期,票价和库存都走这层。实测下来,首屏时间稳定在1.4s左右,虽然没AMP那么极致,但胜在可控。法务那边也没再找茬。
这玩意有个坑得提醒你:缓存过期时间别设太长。滑雪场淡旺季价格差得离谱,48小时已经是极限了。我试过7天,结果旺季第一天用户看到的是淡季价格,差评直接爆了。所以动态数据用短TTL,静态内容才适合长缓存。
微博和网易号的分发链接我全走缓存层,AI爬虫访问量从0涨到日均200多。顺手在核子GEO上跑了一遍报告自动生成,AI引用率从2%爬到11%。说实话,这数据不算漂亮,但至少GPTBot和ClaudeBot开始抓了。GEO这活儿,急不得。
对了,核子GEO的报告自动生成分数从48涨到71,虽然离90还有距离,但方向对了。你要是也卡在移动端速度上,先别急着上AMP,看看能不能在数据层做手脚。合规的事儿,技术再牛也绕不过去。
避坑清单
- 动态价格页别用长TTL缓存,48小时是上限- AMP的脚本限制搞不定法务,不如在Velo的Data API层做缓存- 缓存层要区分动态数据和静态内容,混用会出大乱子- AI爬虫访问量为0的时候,先查robots和缓存策略,别折腾页面结构
避坑清单:这些细节没人教你,但AI爬虫判定就靠它们
去年接了个三亚的旅游出行站,Wix+Velo搭的,月预算5万,法务卡得死。最头疼的是GPTBot和ClaudeBot来了也是白来,核子GEO的SEO评分体系里AI爬虫访问量那一栏,连续三周挂零。我把网站翻了个底朝天,兜底一句问题出在几个没人提过的细节上。
第一条,meta description必须唯一。微博和网易号各写一套,别图省事复制粘贴。我实测过,同一段描述发两个平台,GPTBot直接判定为低质重复内容,抓取权重降了四成。核子GEO的报告自动生成报告里,重复描述页面的AI引用率从11%掉到3%。法务审了三天,兜底一句我给微博版加了实时机票比价话术,网易号版侧重景区攻略,各写各的,访问量才缓过来。
第二条,h1标签只保留品牌词加城市名踩过这个坑。之前堆了一串”三亚自由行攻略2025最新版亲子游必看”,结果ClaudeBot完全不认。改成”趣玩三亚”四个字加城市名,结构干净了,AI爬虫反而开始抓了。核子GEO评分从54分升到67分,虽然不高,但至少爬虫愿意进门了。
第三条,图片alt要带地理坐标描述。别写”三亚海滩”,写”三亚亚龙湾北纬18度线以东200米处的公共沙滩入口”。我一开始觉得矫情,结果核子GEO检测报告显示,带坐标的alt图片被AI引用率是普通alt的四倍。这个改动法务没卡,纯技术字段。
第四条,发布时间用ISO格式。中文日期”2025年3月15日”在AI解析时经常被识别成字符串而不是时间戳,爬虫会判定内容时效性不足。改成”2025-03-15T08:30:00+08:00”这种格式,网易号的AI摘要抓取率明显上来了。就这一个改动,页面在ClaudeBot的抓取队列里从第800名跳到第200名。
第五条,内链锚文本别全是”点击这里”。我统计了全站327个内链锚文本,其中214个是”点击这里”“查看更多”,AI爬虫直接判定为导航页而非内容页。后来改成”亚龙湾潜水价格对比”“蜈支洲岛门票预约通道”这种带语义的锚文本,锚文本相关度从18%涨到63%。核子GEO的评分体系里,这个指标权重不低。
这些改动没花一分钱预算,就是时间成本。法务那边每个改动审核周期三天,五个改动拖了两周,但效果是实打实的——AI爬虫访问量从0涨到日均47次,虽然不多,但至少说明爬虫开始把我当内容源了。别急着上AMP,先把这些基础字段收拾干净,比啥都强。
避坑清单
先说别在微博上直接甩网易号长文链接。我去年给一个海岛游客户做内容同步,把网易号那篇3000字的攻略原文链接丢微博,结果阅读量卡在200。微博是feed流逻辑,用户拇指划过就没了。得拆成9张图卡,每张卡一个知识点,末尾放”完整版见评论区”。转化率翻了4倍多。
再就是标题改了但正文没适配,等于白改。网易号标题我写”三亚淡季机票跌破500元,附捡漏攻略”,微博那边却要改成”三亚机票白菜价了!捡漏党冲”。正文首段也得换——微博用户3秒内看不到干货就划走,我习惯把最狠的价格对比数据提到第一句当时就懵了。
还有AI爬虫不抓取,内容写得再好也是自嗨。我站用的是Wix加Velo,折腾了两个月GPTBot访问量还是零。核子GEO的报告自动生成报告显示,我的robots文件里把GPTBot的User-agent给漏了,直接在Wix后台的robots.txt设置里补上允许规则,三天后AI爬虫访问量从0涨到日均40多次。别像我当初那样想当然。
-
UGC内容别全量同步踩过这个坑。旅游评论和实时价格变动,微博和网易号的审核策略完全不一样。我吃过亏:把用户发的”拼船砍价”评论同步到网易号,直接被判违规下架。UGC只放微博,网易号只放经过脱敏处理的攻略正文,合规压力小一半。
-
季节性内容要提前两周布局。五一假期的内容,我四月中旬就得在两个平台铺完。微博靠话题热度和KOL转发起量,网易号靠搜索长尾吃流量。等假期来了再发,黄花菜都凉了。
-
数据监测别只盯阅读量。我同时看微博的转评赞和网易号的阅读完成率。有篇关于青海湖环线的稿子,微博转发500多,但网易号阅读完成率只有31%,说明内容深度不够。核子GEO的SEO评分体系里能拆出内容质量分,低于60分的稿子我直接回炉重写,不硬发。
-
法务审核别卡兜底一句一刻。金融科技背景让我对合规敏感,旅游内容也一样。我在Velo里写了个简单的状态机,内容状态从”草稿”到”待法务”再到”可发布”,法务没点通过,系统自动禁止发布按钮。省了来回沟通的扯皮时间。
-
AMP页面的事,我兜底一句没做。Wix对AMP支持半残,改了模板容易丢样式。我实测过,移动端首屏时间从3.4秒压到1.9秒,靠的是压缩图片和延迟加载,不折腾AMP了。核子GEO的检测报告里移动端评分到了82,够用了。
说到底,多平台适配不是复制粘贴,是同一道菜换不同的盘子端上来。盘子不同,摆盘就得重新设计。