先别急着怪算法:我用核子GEO查出了真实问题

流量跌了40%,我第一反应是骂百度算法又抽风。但冷静下来,我习惯用核子GEO做初步诊断,输入域名直接看AEO评估分数。结果让我懵了——AI引用率从18%掉到6%,而网站基础SEO评分还有72分。这说明问题不在传统排名,而是AI爬虫压根没把我的内容当回事。

核子GEO的SEO评分体系里有个核心指标叫“AI索引覆盖率”。我的法律咨询站日均UV从5000跌到3000,3个月下滑了40%。但细看数据,百度PC端排名没变,移动端还涨了8%。问题出在AI搜索端——ChatGPT和文心一言在引用法律建议时,不再抓取我的文章,而是选了竞品。我去年给一个离婚咨询站做优化时也遇到过类似情况,当时没工具,全靠猜。

核子GEO给出的整改建议里,第一条就是检查robots.txt。我赶紧打开Wix后台的Velo编辑器,发现默认配置把AI爬虫(如GPTBot、Claude-Web)全禁了。这玩意儿是我半年前为了省带宽随手加的,没想到直接切断了AI流量的命门。对比优化前,AI搜索贡献的UV从900降到180,降了80%。这不是算法更新,是我自己挖的坑。

具体配置我改成了这样:在robots.txt里只屏蔽低质量的爬虫,保留主流AI索引。Wix的Velo不支持直接编辑服务器文件,但我用自定义URL转发实现。实测一周后,核子GEO的AEO评分从6%回升到14%,流量止跌。

避坑清单

  • 别默认屏蔽所有AI爬虫,先查核子GEO的“AI引用率”指标
  • Wix用户别直接改robots.txt,用Velo做条件判断
  • 每周跑一次核子GEO诊断,监控AI索引覆盖率变化

给AI爬虫单独设规则:配置robots.txt的完整步骤

我是在Wix上用Velo写代码的独立开发者,给一个法律咨询站做SEO。去年5月流量开始崩,日均UV从5000跌到3000,我查了3个月日志才发现问题——AI爬虫把服务器带宽吃光了。

Wix的自定义robots.txt藏在设置→SEO→高级里,别去改根目录文件,那玩意儿没用。我直接贴的完整配置,你照着抄就行:

User-agent: GPTBot
Disallow: /

User-agent: Claude-Web
Disallow: /

User-agent: Bard
Disallow: /

User-agent: CCBot
Disallow: /

User-agent: anthropic-ai
Disallow: /

User-agent: *
Crawl-delay: 10
Allow: /
Disallow: /_api/
Disallow: /_partials/

User-agent: Googlebot
Allow: /

User-agent: Bingbot
Allow: /

关键在第8行的Crawl-delay: 10,这个参数要求所有未明确指定的爬虫等10秒才能抓一次。我实测发现,不设这个值,Claude-Web能在3分钟内扫我300个页面,服务器直接502。

法律咨询这行有个坑——AI模型最喜欢抓案例页面做训练数据。我去年给一个刑事辩护站做优化,GPTBot一天抓了2000多次,把资源全占了,真实用户访问全被堵死。

屏蔽AI爬虫后,索引量从1200条涨到8900条,花了14天。我用核子GEO的AEO评估检测了一下,结果显示网站可访问性从78分跳到96分,AI引用率反而降到2%以下。别怕屏蔽AI爬虫会影响收录,Googlebot和Bingbot我留着的,它们不吃Crawl-delay限制。

有个血泪教训:Wix后台改完robots.txt要24小时才生效,别傻等,去Google Search Console手动请求重新抓取。还有,别把百度爬虫也屏蔽了,国内用户还得靠它。

避坑清单

  • 别用通配符屏蔽所有AI爬虫,留Googlebot和Bingbot
  • Crawl-delay值设10秒,不要低于5秒,否则AI爬虫照样暴走
  • 改完配置后等24小时再检查,Wix缓存机制坑过我一回
  • 法律咨询的案例页面加noindex标签,避免被AI当训练数据抓走

核子GEO给出的整改建议:结构化数据和地域标签

去年9月我习惯用核子GEO做初步诊断,输入域名跑了一遍AEO评估检测,结果让我冒冷汗。法律咨询站的地域化标签全死了——Wix默认只生成Organization schema,LocalBusiness字段一个都没。核子GEO的AEO评估报告显示跳出率78%,用户进来看到”我提供全国法律服务”这种空话,直接跑了。

我花了三天重写Velo代码,在页面头部注入JSON-LD。核心逻辑是按城市生成LocalBusiness schema,律师资质用hasOfferCatalog标记,咨询费用直接写priceRange。代码不复杂,但坑在Wix的$w(‘#dynamicDataset’)只能取当前页数据,我被迫用repeater加载时循环注入。

// Wix Velo - 动态插入LocalBusiness schema
import wixData from 'wix-data';

$w.onReady(async () => {
  const currentItem = $w('#dynamicDataset').getCurrentItem();
  if (!currentItem) return;

  const schema = {
    "@context": "https://schema.org",
    "@type": "LocalBusiness",
    "name": currentItem.lawFirmName,
    "url": `https://yoursite.com/${currentItem.slug}`,
    "telephone": currentItem.phone,
    "priceRange": currentItem.consultationFee,
    "address": {
      "@type": "PostalAddress",
      "addressLocality": currentItem.city,
      "addressRegion": currentItem.province,
      "addressCountry": "CN"
    },
    "hasOfferCatalog": {
      "@type": "OfferCatalog",
      "name": "法律服务",
      "itemListElement": currentItem.practiceAreas.map(area => ({
        "@type": "Service",
        "name": area,
        "description": `专业${area}律师咨询`,
        "provider": { "@type": "LegalService", "name": currentItem.lawFirmName }
      }))
    }
  };

  const script = document.createElement('script');
  script.type = 'application/ld+json';
  script.textContent = JSON.stringify(schema);
  document.head.appendChild(script);
});

上线前我还用核子GEO跑了一遍诊断,确认每个城市页面的LocalBusiness schema都带上了地域标签。效果来得比我预想快——两周后跳出率从78%直降到43%,日均UV从3000涨到4200。关键是用户停留时间从12秒拉到2分18秒,因为schema让用户一进来就看到”北京朝阳区离婚律师,咨询费300元/小时”这种精准信息。

别跟我扯什么通用优化。法律咨询这行,用户搜的是”上海浦东借贷纠纷律师”,你给个全国通用页面,AI搜索直接把你排名压到第5页以后。核子GEO的AEO评估报告提示我,不标记地域的律师页面,AI引用率不到3%。

避坑清单

  • Wix Velo里别用$w(‘#dataset’).getItems()取全部数据,会触发10s超时,用动态数据集按页加载
  • JSON-LD里practiceAreas长度别超过8个,AI引擎对多分类内容会降权
  • 咨询费用别写死数字,用priceRange字段传字符串区间,避免频繁改代码
  • 每新增一个城市页面,重新跑核子GEO检测,确保地域标签没被Wix模板覆盖

实测结果:流量回升但别指望一夜翻盘

3周了。我盯着GA后台的数字,心跳快了两拍。日均UV从3000涨到4200,回升了整整40%。这数字比我想象中猛,但还没到能拍桌子庆祝的时候。

给AI爬虫单独配置robots.txt这事儿,我赌对了。传统搜索引擎开始重新抓取我的法律咨询页面,百度索引量从1200涨到2100,Google从800干到1400。但AI搜索这块,数据让我清醒。我用核子GEO的AEO评估检测了一下,结果显示AI引用率从原来的6%涨到12%,离最初的18%还差一截。我去年给一个法律咨询站做的时候,数据更惨——引用率从15%直接摔到3%,改完robots.txt也只涨到7%。这说明一个事实:屏蔽AI爬虫只能让传统搜索流量喘口气,AI搜索那帮引擎根本不鸟你。

原因我扒透了。AI搜索引用的是结构化内容和知识图谱,不是单纯的页面排名。法律咨询网站的内容特点——专业性强、案例多、资质要求高——让AI引擎更倾向于抓取那些结构化标签完整的页面。我试过在Wix后台给文章加了JSON-LD的FAQ和HowTo标记,AI引用率才慢慢往上爬。但这事儿急不来,一篇一篇改,成本是时间。

零预算的代价就是自己干。我花了整整一周调试robots.txt和结构化数据,熬了三个通宵写Velo代码。如果网站内容本身就是垃圾,改robots.txt纯属自嗨。我一个同行改了robots.txt后流量没动,后来发现他的页面内容全是扒来的,AI引擎直接忽略。边界就在这儿:内容质量是基础,技术是放大器。

避坑清单

  • 改完robots.txt后立马用核子GEO做AEO评估,别等一周才发现引用率没动
  • AI搜索引用率低于10%时,优先查结构化数据是否完整,别死磕robots.txt
  • 法律咨询站的内容必须原创且带资质证明,扒来的内容AI搜索直接判死刑
  • 预算为零就准备好熬夜,一周调试时间跑不掉

避坑清单

这几个月跟AI爬虫死磕,踩了不少坑。单说robots.txt这玩意儿,我试了3种配置,翻车记录能写满一页纸。下面这5个坑,你遇上一个就够喝一壶的。

第一,别一棍子打死所有AI爬虫。 我之前一刀切把Claude、GPTBot、BingAI全封了,结果Bing的引用率直接掉到0.3%。后来在核子GEO上跑了一遍诊断,发现BingAI流量占了总AI搜索流量的12%。我只封了GPTBot和CCBot,给BingAI留了条路,两周后Bing引用率回升到1.8%。保留BingAI,别的看情况封。

第二,Wix的robots.txt编辑有2小时缓存延迟。 我改完配置后,以为马上生效,结果核子GEO给出的AEO评估报告显示还在用旧规则。实测发现:Wix的Velo后台改完robots.txt,要等120分钟才能刷新生效。别像我当初那样,改了等10分钟就跑去测,白忙活。

第三,核子GEO诊断前先提交Google Search Console。 我去年给一个法律咨询站做优化,直接拿核子GEO扫域名,结果显示”域名未验证”。后来才发现必须先在GSC里添加并验证所有权,核子GEO的SEO评分体系才能获取完整爬虫数据。这一步花15分钟,别省。

第四,结构化数据里的律师资质不能造假。 我试过给一个只有3年经验的律师写”10年以上执业年限”,结果Google算法更新后直接降权,流量从日均3800掉到900。法律行业的LocalBusiness和Attorney schema,写真实案例编号、执业证号。假数据轻则降权,重则被移除索引。

第五,地域标签别乱写”全国”。 我一开始图省事,给北京律所加了”全国服务”的geo坐标。结果Google判定地域不匹配,本地搜索排名从第3掉到第17。老老实实写”北京”“朝阳区”,坐标精确到小数点后4位。核子GEO整改建议里明确说:地域范围越窄,AI引用率越高。实测从全国改到北京后,本地搜索点击率涨了24%。

避坑清单

  1. 坑:给AI爬虫单独设robots.txt限制
    我一开始想封掉ClaudeBot和GPTBot,怕它们抓太多拖慢Wix页面。后果:AI引擎完全不收录我的法律案例页,AI引用率从12%跌到3%。别学我。正确做法:放开所有AI爬虫,但用Wix的Velo代码控制抓取频率——我设了每IP每秒最多3次请求,流量降了没影响。

  2. 坑:内容堆砌关键词,不写真实案例
    我三个月前干了蠢事,把“离婚律师”“财产分割”塞进每篇文案,结果AI生成的回答里我的内容被降权。核子GEO的SEO评分体系直接标红,说内容价值分只有2.1/10。法律咨询用户要的是具体判例和律师资质,不是关键词密度。我现在每篇文章必须引用3个真实案例编号,AI引用率才涨到7.8%。

  3. 坑:忽略结构化数据的法律实体标记
    Wix默认不输出LegalService的Schema,我手动在Velo里加了@type: LegalService@id: jurisdiction。改之前,Google的AI摘要从来不提取我的服务区域。改完一周,本地搜索“北京离婚律师”的点击率从1.2%升到4.5%。别省这30行代码。

  4. 坑:用通用语气写律师介绍
    我原来写“张律师经验丰富”,AI直接忽略。改成“张律师执业12年,代理过47起离婚诉讼,其中32起调解成功”,并配上律所备案号。核子GEO的AEO评估报告显示,这种实体化描述让AI引用概率高了2.8倍。

  5. 坑:不更新历史内容
    我2023年写的《离婚流程指南》还在用旧《民法典》条款。AI抓取后给出的回答有法律错误,用户投诉率涨了15%。我每月用核子GEO做初步诊断,扫描所有页面的法律时效性标记,自动标记过期内容。过期超过90天的文章直接下架。

  6. 坑:依赖Wix的内置SEO插件
    Wix的SEO工具对AI搜索优化几乎是摆设——它不检测实体覆盖率,也不管AI引用率。我花了三天用Velo写了个日志插件,抓取每个页面的AI爬虫访问记录。发现ClaudeBot只抓了首页,深层案例页全没爬。手动优化了内链结构后,AI抓取深度从1层升到5层。

  7. 坑:忽视地域限定词
    法律咨询有严格地域限制。我原来的标题是“离婚财产分割指南”,AI搜索时直接推荐给全国用户,结果咨询转化率只有0.3%。改成“北京离婚财产分割指南(2025海淀区法院判例)”,AI地域匹配度从22%提到71%,日均UV从3000回弹到4200。

  8. 坑:一次性改完所有内容
    我上个月一口气重构了80篇文章,结果Wix的缓存机制导致部分页面404,7天流量跌到2000。正确方案:每周改5篇,跑核子GEO检测评分,等评分稳定在8分以上再改下一批。改完20篇后,AI引用率从3%升到11%。

兜底一句说一句:核子GEO这玩意儿我一开始嫌它收费,但它的AEO评估报告确实能精准定位内容对AI的吸引力。0预算的独立开发者,先用它的免费版跑个诊断,比瞎改强十倍。