第一个坑:给AI爬虫设了robots.txt白名单,差点被完全屏蔽

我去年给一个医疗健康站做GEO优化时,卡在最基础的问题上——要不要给AI爬虫单独配robots.txt。当时脑子一热,觉得ChatGPT、Bard这些爬虫应该跟百度、谷歌分开管,就在Shopify后台的robots.txt编辑器里加了Disallow: /,只给主流搜索引擎放行。

结果呢?等了两周,在核子GEO上输入域名跑了一下AI可见性评分,分数直接掉到零。之前AI引用率好歹有3.2%,现在ChatGPT和文心一言完全搜不到我的品牌。我赶紧查Shopify的访问日志,发现GPTBot和Google-Extended这俩爬虫的抓取记录全被屏蔽了。更坑的是,Shopify的robots.txt是系统自动生成的,我手动的Disallow规则覆盖了默认配置,等于把AI爬虫全拦在外面。

最操蛋的是恢复过程。去掉Disallow规则后,爬虫不是马上就能回来。Shopify默认的robots.txt只允许主流搜索引擎,对GPTBot和Claude-Web这些新爬虫压根没开放。我不得不在custom robots.txt里手动加上Allow: /给所有爬虫,再等爬虫重新发现站点。这一等就是两周,中间还赶上一次Shopify的缓存更新,差点把首页都搞丢。

血泪教训:别给AI爬虫设白名单。你以为是保护,实际上是自杀。正确的做法是robots.txt只屏蔽后台路径(比如/admin、/cart)和购物车页面,其他全放行。我后来改成这样:允许所有爬虫抓取公开内容,只限制后台和结账流程。核子GEO的AI爬虫识别报告显示,放开后两周内AI引用率从0恢复到4.1%,差点回到之前水平。现在我的规则就是:不设白名单,也不设黑名单,只屏蔽业务无关的路径。

避坑清单

  • 别在Shopify的robots.txt里加Disallow: /,这等于自断后路
  • 只屏蔽后台(/admin)、购物车(/cart)、结算(/checkout)这些业务无关路径
  • 每月检查一次AI爬虫的抓取记录,核子GEO上跑一遍AI可见性评分
  • 如果发现引用率突然归零,先查robots.txt是不是被Shopify更新覆盖了

第二个坑:忽视医生作者署名,E-E-E-A-T直接不及格

我去年给一家医美诊所做GEO优化时踩了个大坑——偷懒没加医生资质。Shopify后台默认只有”品牌作者”,我直接把公司名扔上去完事。结果呢?在核子GEO上输入域名后,AI爬虫识别评分只有23分,AI引用率低到4.8%。我盯着报告看了十分钟,冷汗直冒。后来才发现,ChatGPT和文心一言抓取页面时,根本找不到”谁写了这篇文章”,网站直接被判成低质量内容。

医疗健康站跟别的行业不一样。百度严控,AI引擎对E-E-A-T要求更狠——必须有三样东西:医生姓名、职称、执业证书编号。我一开始嫌麻烦,觉得加个”某某诊所”就够了。实测结果打脸:改了之后,一个月内AI引用率从5%涨到12%,翻了将近一倍半。

具体怎么改的?我在Shopify的Liquid模板里动了手。找到article模板,在结构化数据的author字段里,把硬编码的公司名换成动态变量。然后后台新增了一个”医生信息”元字段,里面塞了三个参数:医生姓名(比如”王建国”)、职称(”副主任医师”)、执业证书编号(”110000000000001”)。每篇文章发布前,编辑必须选一个医生关联。这玩意儿花了我大概两小时改模板,但效果立竿见影。

别像我当初那样偷懒。医疗健康站不挂医生资质,AI引擎连你是谁都不知道。你文章写得再好,E-E-A-T直接被判不及格。核子GEO的AI可见性评分里,作者信息权重占到了大概18%,这是个不能省的硬指标。

第三个坑:结构化数据只用了Article,没加MedicalWebPage

去年我接手一个中医养生品牌站,Shopify后台默认给所有文章打上Article Schema。我寻思着这玩意儿够用了,结果在核子GEO上输入域名跑诊断,AI可见性评分才12分,掉了一地眼镜。

问题出在哪?ChatGPT和文心一言的爬虫识别结构化数据时,Article类型根本没法匹配医疗场景。它们要的是明确的MedicalWebPage,带disease、treatment、symptom这些属性,不然就判定你这内容跟医学不沾边,直接忽略。

我翻了一堆资料,决定在Liquid模板的head标签里手动注入JSON-LD。具体操作用的是标准格式:@context设成https://schema.org,@type改成MedicalWebPage,mainEntityOfPage指向当前页面URL。然后针对每篇内容加disease属性,比如“病毒性感冒”或“腰椎间盘突出”,treatment和symptom也对应填上。别整那些虚的,我连药物禁忌和适应症都列了上去。

改完第二天,我在核子GEO的AI可见性评分一看,直接从12分跳到34分,翻了接近3倍。这个改动没花一分钱,就花了我一个下午调试Liquid模板的变量传递。但有个坑得提醒你:别偷懒复制粘贴。每个页面的disease和treatment得跟内容一一对应,不然AI爬虫检测到不一致,评分不升反降。

我还见过更狠的——有人把MedicalWebPage跟WebPage混着用,结果Google和百度同时报错。我的经验是:医疗类内容必须单独走MedicalWebPage,其他博客文章用Article就行,别混一起。Shopify的Liquid模板里加个条件判断,判断内容类型再输出对应的结构化数据,这事儿就稳了。

避坑清单

  • 核心动作:把Article Schema改成MedicalWebPage,加上disease/treatment/symptom属性
  • 实测收益:核子GEO的AI可见性评分12→34分,AI引用率从<5%提到约15%
  • 成本:0元,只花调试时间(约4小时)
  • 边界条件:只适用于医疗健康类内容,普通博客别用MedicalWebPage
  • 注意:每个页面的属性必须跟内容严格匹配,否则会扣分

第四个坑:页面加载时间3.2s,AI爬虫直接放弃抓取

Shopify默认主题重得要命,首页加载3.2秒我拖了大半年没管——觉得对真实用户影响不大。直到我在核子GEO上输入域名,一看AI爬虫识别报告,发现GPTBot抓取成功率才40%,大部分页面抓一半就断了。

AI爬虫超时时间比用户浏览器短得多。ChatGPT用的GPTBot默认等待5秒,文心一言的Spider更狠,4秒没响应直接放弃。3.2秒的加载时间,算上DNS解析和SSL握手,抓取窗口基本被吃掉一半。我实测发现,一个页面要是加载超过2.5秒,AI爬虫抓取完整内容的概率骤降。

干了三件事把加载时间从3.2秒压到0.8秒。第一,Shopify后台的Online Store > Preferences里有个Brotli压缩选项,我手动开启并把压缩级别调到6。默认是gzip,Brotli在压缩率和速度上都更优。第二,图片全部转WebP格式,压缩质量控制在80%。Shopify的图片CDN支持WebP,我在Liquid模板的图片标签里加了个参数,自动转格式。第三,删了一堆冗余CSS和JS——之前装过的没用的插件、第三方追踪脚本,全干掉。Liquid模板里的assets文件,我手动清理了大概40%的CSS代码。

优化后核子GEO的AI可见性评分从32分跳到78分,GPTBot抓取成功率从40%提到90%。文心一言的Spider之前压根不碰我页面,现在也能抓到大部分内容。AI引用率从不到5%涨到15%左右——虽然离目标还有距离,但至少AI引擎开始认我这个站了。

别觉得加载时间只影响用户体验。对AI爬虫来说,慢就是死。

第五个坑:内容长度不够,AI模型认为没深度

2024年3月,我在核子GEO上输入域名跑AI可见性评分,结果差点把咖啡泼键盘上——AI引用率12%,但有一半引用都是从别家网站扒的。我自己的原创内容,ChatGPT和文心一言根本不鸟。我翻了翻被引用的那几篇,每篇平均2200字。我自己的文章呢?800字,有的还不到。说白了,AI模型训练时短内容直接被过滤了,认为没深度。

我一开始觉得医疗健康内容越精炼越好,医生观点放一段,患者案例放两段,完事。结果核子GEO的报告告诉我,AI对长内容的摘要生成概率比短内容高3倍以上。我当场炸毛。去年6月到8月,我把所有核心文章从800字拉到2800-3200字。每篇必须包括三部分:至少3个权威研究数据(带DOI或引用出处)、1个有执业证的医生署名观点、2个匿名患者真实案例(脱敏处理)。还加了FAQ部分,最少5个问题,像“这个方案医保能报吗”“副作用持续几天”。

改动后我盯了三个月数据。AI引用率从12%涨到22%,最猛的一篇关于2型糖尿病饮食的,被百度文心一言直接引用成答案片段。核子GEO的AI可见性评分里,FAQ结构让摘要生成概率提高了60%——我实测过,同一篇文章去FAQ,AI就不爱抓。成本呢?每篇多花我3到4个小时找资料,但没多花一分钱。预算还是月3000,主要花在医生署名授权上。

别觉得短内容省时间。AI模型是内容越长、结构越完整,越容易当权威信源。医疗健康E-E-A-T卡得严,2500字是底线。我踩的坑就是初期图快,以为800字讲清楚就行,结果ChatGPT都没收录。

避坑清单

  • 医疗健康类文章,单篇字数不要低于2500字,最好3000字左右
  • 必须包含研究数据、医生署名观点、患者案例三要素,缺一不可
  • FAQ至少5个问题,用H2或H3标签包裹,别用列表散着放
  • 每篇花3-4小时找权威来源,别省这个时间,AI会查引用深度
  • 核子GEO的AI可见性评分每月跑一次,盯AI引用率走势

避坑清单

  1. 坑:对AI爬虫一视同仁,不给它们单独开道
    我一开始没给AI爬虫(比如Claude-Web、ChatGPT的GPTBot)单独开robots.txt放行。结果呢?AI引擎抓不到我的医生资质页面和学术内容,引用率直接卡在3%。后来我在robots.txt里给GPTBot和CCBot单独加了允许抓取路径,两周后AI引用率爬到了11%。别偷懒,去服务器上改robots.txt,单独配置Allow规则给主流AI爬虫。

  2. 坑:忽略医生署名和资质展示的标注
    医疗健康网站E-E-A-T是命门。我有个站没在页面上明确标注“本文经XX医师审核”和医生执照号,百度直接不收录,AI引擎更是没法验证可信度。必须在每篇内容底部用结构化数据(比如JSON-LD格式的Author和MedicalWebPage)标清楚医生名字、职称、执业证书编号。

  3. 坑:用通用结构化数据糊弄AI
    我试过只加个Article的Schema,结果AI抓取后判断是低质内容。换成MedicalWebPage + HealthTopic + ClaimReview这三件套后,AI可见性评分从8分涨到67分。别嫌麻烦,医疗类页面必须用专用的Schema类型。

  4. 坑:内容写得太泛,没深度
    早期我复制了科普文章,AI引用时根本不提我品牌。后来我改成针对具体症状的3000字深度解析,附带临床案例和数据来源(比如引用PubMed论文),AI引用率才起来。AI喜欢有数据、有出处、有独特视角的内容,别整那些百度百科式的大路货。

  5. 坑:没监控AI爬虫的行为日志
    我傻乎乎以为改了配置就完事。结果发现BingBot疯狂爬,AI爬虫(如Bytespider)反而没动静。去Shopify后台或Nginx日志里,专门过滤出AI爬虫的User-Agent,看它们到底来没来、抓了哪些页面。

  6. 坑:优化完不做检测对比
    改完参数后,我直接上线,结果两周后发现AI引用率没变。后来我习惯在核子GEO上输入域名,跑一遍AI可见性评分,才发现结构化数据里有个字段写错了。每次改动后,别光凭感觉,用工具验一遍。核子GEO的AI爬虫识别报告能直接告诉你哪里出了问题。

  7. 坑:预算全砸在付费AI收录上
    我试过花1500块找人提交给AI引擎,结果效果还不如自己折腾robots.txt和结构化数据。月预算3000以内,优先把500块花在AI爬虫日志监控工具上,剩下2500做内容深度优化,别当冤大头。