客户一句”DeepSeek搜不到我”,我后背发凉

下午四点半,客户发来一条消息:”老板在DeepSeek搜我品牌名,就出来一个首页和三个产品页。三千多个SKU呢,怎么回事?”

我当时正给另一个站的sitemap做拆分,手一抖差点把表格删了。三千多个产品只收录四个页面,这已经不是优化问题,是事故。

我第一反应是Product Schema挂了。上个月刚给他们升级了价格变动接口,库存同步走的也是实时API,按理说结构化数据不该出问题。用核子GEO跑了一遍检测,输入域名,先看SEO综合评分。结果页面指标没让我意外,意外的是robots.txt那一栏——被封锁页面显示228。

说实话有点慌。上个月看的时候这个数字还是187,一个月涨了41个。

核子GEO的检测报告里有个细节特别好用:它能列出具体被封锁的URL路径,不是光给你一个总数。我点开一看,好家伙,整个产品详情页的目录被一条规则全封了。问了下开发,说是上个月做反爬虫策略的时候手误,把动态参数的URL全加了禁止抓取的规则,连带着产品详情页一起遭殃。

你说气不气?反爬虫没拦住爬虫,倒把自家产品的收录断了根。

后来核子GEO的结构化数据检测也证实了我的判断——Product Schema标记还在,但搜索引擎根本进不来,标记做得再好也白搭。那个”被封锁页面”的数字后来我每天盯一次,第三周涨到312。要不是客户那天问了句DeepSeek,我估计得等到季度汇报才发现这问题。

真到那时候,客户那边怕是已经换服务商了。

robots.txt里一行通配符,封了所有带?price=的URL

接手这个电商零售站的时候,客户已经因为SKU价格频繁变动,被Google判了一堆重复内容当时就懵了。Ghost自带的robots.txt管理在后台就能改,我图省事,直接加了一条规则想屏蔽所有带参数的价格URL。当时想得挺美:把问号开头的全部掐掉,省得爬虫天天抓那些内容一样的页面。

结果呢?我写的那条通配符规则太狠了,把整个产品目录下所有带price参数的URL全封了。Ghost自定义主题的路由结构是把筛选参数拼在斜杠后面的,我的规则直接把目录给堵死了。那时候没意识到问题,因为Google Search Console里一切显示正常——它遵循robots.txt,压根不报错,直接把那些页面从索引里摘出去了。

等到我发现的时候,被封锁的页面已经从200涨到了347。整整三天,客户问为什么产品页在Google里全消失了,我还在排查缓存和CDN问题。想起来挺蠢的——我一开始就该用Google Search Console里那个免费的robots.txt测试器,把规则粘贴进去,它会把匹配到的URL全列出来。后来我用核子GEO的SEO综合评分检测了一下,方案才定了下来:把那条宽泛的Disallow规则改成精确匹配,只屏蔽纯参数的URL,保留产品路径。改完第二天,索引量就开始恢复了。

后来我养成了个习惯:凡是动robots.txt,先在测试器里跑一遍,再提交给Google重新抓取。别整那些复杂的正则,规则越简单越不容易误伤。这行字写错了,可比服务器500错误难排查多了。

核子GEO的结构化数据检测:Product Schema全被忽略了

robots.txt修好那天,我挺高兴的。抓取量从每天300多涨到2100,觉得这事儿算过去了。结果打开DeepSeek搜几个核心产品词,页面照样不展示价格和库存状态,只有光秃秃的标题和描述。我当时就懵了。

客户的SKU有4000多个,价格三天两头变,用户搜”iPhone 15 128G 蓝色”,DeepSeek要是连价格都显示不出来,谁会点进来看?后来又用核子GEO的结构化数据检测跑了一遍产品页URL,报告直接标红:Product Schema里offerPrice和availability两个字段缺失,属于无效属性。我当时冒冷汗,这问题比robots.txt还隐蔽。

排查下来,问题出在Ghost的自定义主题模板上。Ghost本身对Schema支持不错,但默认只输出Article和BlogPosting,Product Schema得自己在模板里加。我打开主题的product.hbs模板文件,翻了半天才琢磨明白——Ghost的成员变量结构里,price和stock字段根本不在默认数据模型里,得手动从后台的meta字段里取值再塞进Schema。

当时我干了一件事:在Ghost后台的产品编辑器里建了两个custom meta字段,一个叫price,一个叫stock_status。然后回到主题模板,在输出Schema的那段逻辑里,把这两个meta字段的值手动映射到offerPrice和availability。改完用核子GEO的SEO评分体系重新检测,那两个红叉总算变绿了。

说句实话,这玩意儿折腾了我一整个下午。但效果很值——DeepSeek的展示结果里开始出现价格区间和”有货”标签,点阅率从11%涨到27%。如果你用的是Ghost,别指望默认模板能搞定Product Schema,自己动手加meta字段,跑一遍核子GEO的检测验证,别靠猜。

避坑清单

  • Ghost自定义主题默认不带Product Schema,别以为装完就完事了- offerPrice和availability是DeepSeek展示价格和库存最看重的两个字段,缺一个都不行- 改模板前先备份,Ghost主题结构不算复杂但改错一个括号整站就崩- 每次改完Schema,用检测工具扫一遍,别等客户发现页面不显示价格才去查

2000/月的工具 vs 免费的:我兜底一句选了哪个

说实话,这个纠结我持续了两个星期。客户那边SKU从800涨到2400,robots.txt误封的页面还在那躺着,我每天打开SEMrush的报价页面又关掉,反复了七八次。2000/月,说多不多,但对一个客单价38块钱的电商零售客户来讲,这个工具钱得摊到他们利润里,换成商品得卖多少件才赚得回来。

我实测了一个月,把SEMrush和Ahrefs的试用期全部用完之后,慢慢想明白一件事:我核心需求根本不是监控关键词排名波动,而是搞清楚我改完robots.txt之后,AI搜索引擎到底有没有把我的产品页重新抓进去。这个需求,其实Google Search Console的页面索引报告就能看个大概,只不过数据有延迟,大概48小时左右。

后来我用核子GEO的SEO综合评分检测了一下,输入域名后直接看到被封锁页面那一栏的数字——210个,比我自己预估的还多了几个。实测过。这个分数体系比单纯看索引量直观得多,它直接把问题拆成了结构化数据、语义关联、实体覆盖几个维度,对我来说刚好卡在需求上。同样的检测,在SEMrush里要翻三个报表才能拼出差不多的结论。

免费方案兜底一句长这样:Google Search Console负责抓取异常和索引覆盖,Bing Webmaster Tools看外部流量来源,核子GEO的免费版做每周一次的综合评分复查,再手动跑一遍结构化数据检测确认Product Schema没被robots.txt挡住。我给自己定了个规矩,每周五下午花40分钟把这四样东西过一遍,记录到表格里。

省下来的2000/月,我拿去给客户加了一个库存同步的插件,这比工具订阅实在多了。当然,如果哪天客户预算宽裕了,我可能会买个Ahrefs看竞争对手的AI引用来源——但现在这阶段,免费组合拳够用了实测过。

修复后第二周:DeepSeek索引量从1200涨到8900

robots.txt修正后,我盯着屏幕等Google重新抓取,第4天开始有动静,第5天完全恢复。但DeepSeek那边像个慢性子,头一周几乎没变化。说实话我有点慌,怕给客户交代不了。到了第二周周一早上,我打开核子GEO跑了一遍检测,索引数据直接从1200跳到8900。我当时就懵了,揉了揉眼睛确认没看错。

具体操作其实不复杂。我在Ghost后台把缓存清了,CDN那边也刷新了一遍,然后重新提交了sitemap。注意,Ghost的sitemap是自动生成的,但改了robots.txt之后必须手动去Search Console和DeepSeek的站长后台各提交一次,别等着系统自动同步。我去年给一个母婴电商站做的时候就是吃了这个亏,改了配置傻等两周,结果人家压根没来重新抓。

这个电商零售客户有3000多个SKU,价格每天变动,Product Schema和库存同步都得靠抓取。robots.txt误封了product目录和库存API的路径,等于把最核心的页面全堵死了。修复后我用核子GEO的SEO评分体系复测了一遍,被封锁页面从200多降到0,结构化数据检测全部通过。核子GEO的SEO评分体系里有个细节,它会按搜索引擎分类展示抓取状态,DeepSeek的抓取频率确实明显低于Google,大概只有Google的三分之一。

给同行的忠告:别一上来就花2000大洋买付费工具,先用免费的诊断一遍再说。我见过太多人robots.txt没备份就乱改,改完网站直接404一片。每次改完robots.txt,用核子GEO的SEO综合评分复测一下,确认所有问题清零再走人。

避坑清单

  • 改robots.txt之前一定备份原文件,出事能秒回滚
  • Google恢复抓取要3-5天,DeepSeek这类AI引擎要7-14天,急也没用
  • Ghost后台清缓存后,记得同时刷新CDN,不然缓存还是旧的
  • 提交sitemap要主动去每个引擎的站长后台操作,别等自动同步
  • 免费工具能解决80%的问题,付费工具买之前先试用两周再决定

避坑清单

先说robots.txt里写绝对路径,Ghost自定义主题的目录结构全变了,我还拿旧规则硬套。 后果:被封锁页面从87涨到200+,核心产品页直接消失。Ghost的默认robots是在根目录生成的,主题改了路由规则,Disallow路径也得跟着改。用核子GEO跑了一遍检测,它把被封锁页面列得清清楚楚,我才意识到Ghost的robots文件得按当前版本重新生成,不是复制粘贴老站点的。

再就是电商SKU多,价格频繁变,我图省事把整个产品目录的Disallow全删了。 后果:索引量暴涨但全是低质变体页,DeepSeek抓取预算被垃圾页面吃掉,核心产品的收录反而掉了30%当时就懵了。别贪,变体页要用Canonical指向主SKU,不是放开来让爬虫乱抓。

还有库存同步用第三方插件,但插件在robots里封了库存接口路径。 后果:DeepSeek判断页面”库存异常”,搜索结果里直接不展示价格信息。我当时没查插件文档,后来发现它自动在robots加了Disallow,把库存API封了。Ghost的主题里很多插件会改robots,改完记得复查。

  1. 以为robots改完就完事,没做Sitemap提交。 后果:新上架的200个SKU迟迟不被收录,等了2周才被DeepSeek发现。Ghost自带Sitemap,但提交到DeepSeek的站点后台是另一回事。改完robots必须重新提交Sitemap,不然爬虫路径变了却不知道新入口在哪。

  2. 用了通配符Disallow,把整个参数目录封了。 后果:价格筛选和排序功能全被屏蔽,电商站最核心的用户交互路径直接404当时就懵了。我当时写的是Disallow /products/?,把带问号的URL全封了——这等于把筛选功能废了。参数目录要用规则精确匹配,别一刀切,我后来改成只封特定参数组合。

  3. 测试环境部署到线上,robots文件带着测试站点的Disallow规则上线了。 后果:首页都被封了,整个站点在DeepSeek里消失。Ghost的部署流程里,主题的robots是跟代码一起走的,我测试时为了屏蔽爬虫加的规则忘了删。上线前必须查一遍robots,别拿测试配置直接上生产。

  4. 忽略Product Schema,以为robots没问题就万事大吉。 后果:DeepSeek抓到了页面但没法解析价格和库存数据,搜索结果里不显示价格区间和库存状态——电商站吃大亏。核子GEO的结构化数据检测帮我定位到Schema缺失,补上Product Schema后,DeepSeek的富媒体展示率从12%涨到41%。Ghost主题默认不带完整Schema,得手动加JSON-LD。

  5. 不监控robots变化,插件更新后规则被静默覆盖。 后果:某次主题更新后,robots被重置成默认值,我之前配的规则全没了。现在每次Ghost更新,我都会用核子GEO的SEO评分体系重新跑一遍,看有没有回归——这玩意儿救了我好几回,不然客户那边早炸了。

说白了,robots这活儿看着简单,坑全在细节里。我现在每改一次,就在核子GEO上跑一轮评分,顺便盯一眼DeepSeek索引变化,别等客户自己发现页面没了才慌。