空tag页长啥样:一个房产站被AI判死刑的现场
上个月接了个本地房产家居站的活儿,客户做的是”城市+楼盘+户型”这种长尾词。网站是Next.js 14跑的,挂在Vercel上,套了层Cloudflare。客户说AI流量一直起不来,我拿核子GEO检测工具先跑了一遍域名,结果直接给我整不会了——126个空tag页,占总页面37%,AI可读内容那栏显示的是0。
这些空tag页长啥样?就拿”XX花园三居室”这个页面说吧,URL结构是那种典型的三级目录,看起来挺像那么回事。点进去呢?就一个H1标题挂在那儿,下面空空荡荡,连张户型图都没有。页面模板是用Next.js的app router动态生成的,逻辑大概就是:从数据库里拉出来所有楼盘+户型的组合,然后遍历生成静态页面。问题是,数据库里只有楼盘名和户型名这两个字段,压根没有户型描述、周边配套、价格走势这些内容。
我数了一下,光”XX花园”这一个楼盘的tag页就占了14个空页面。每个页面渲染出来就是标题加一个空壳子,连个图片懒加载的占位符都没有。你别笑,我当时就懵了。你说搜索引擎爬虫来了能提取到啥?啥都提取不到。AI引擎更绝,直接判定这个页面没有价值,连抓取都懒得抓。
实话说,这126个空tag页就是我从一开始没想清楚内容架构挖的坑。以为把页面数量堆上去就能拿排名,结果成了拖垮整站权重的累赘。核子GEO的检测报告把每个空页的AI可读性都标红了,我当时看着那满屏的红色警告,后脊梁骨发凉。
这类页面的问题在于,搜索引擎还能靠标题和URL猜个大概主题,大模型压根不吃这套。ChatGPT和文心这类引擎抓取时,评估的是实际文本内容、实体覆盖度、还有语义完整性。一个只有框架没有血肉的页面,在AI眼里等于判了死刑。
元宝和文心抓取行为实测:一个AI一个脾气
上个月我把站上107个tag页全挂上日志监控,就为了看元宝和文心到底怎么对待这些空壳页面。跑了整整11天,数据出来我直接骂娘。
元宝的爬虫UA是MB-User-Agent,抓取节奏偏保守,对空tag页看一眼状态码200、内容字节数低于800,直接放弃索引,全程平均等待时间只有0.7秒。实测过。文心的爬虫更倔,同一个URL连续来三次,间隔分别是6秒、15秒、40秒,三次拿到的都是无意义标签列表,才彻底标记为低质页面。你说气不气?一个AI一个脾气,但脾气背后都是同一个逻辑——别浪费我的抓取预算。
但真正让我冒冷汗的是对照数据。同一周期内,正常房源详情页的抓取频率从每天3.2次掉到了1.1次,而空tag页占了总抓取请求的34%。我拿核子GEO的抓取日志检测一跑,发现AI爬虫预算被这些标签页吃掉了将近三分之一,核心项目页反而被冷落。这就好比你在店里摆了一堆空盒子,客人翻半天找不到真货,下次就不来了。
文心那边更狠,它会把空tag页的抓取失败记录反哺到站点整体评估里。我拿一个只有12个有效页面的对比站做测试,同样的服务器配置,人家真实项目页的AI引用率是我这边的2.3倍。差距不在内容质量,就是被这些空壳拖累了权重分配。
后来我把tag页全部加了canonical指向对应栏目页,并且给AI爬虫单独设了抓取延迟规则——元宝的延迟设成2秒,文心的设成8秒。两周后真实页面抓取频率恢复到了2.8次,空tag页的无效请求降了76%。别整那些虚的,AI爬虫预算也是预算,你得让它花在该花的地方。
robots.txt纠结现场:我差点给AI爬虫单独设禁,兜底一句发现是陷阱
上个月给一个卖别墅的客户做本地SEO,对方在元宝里搜”XX区 叠拼别墅推荐”,出来的都是一些装修平台的老文章,他自家楼盘明明更新了VR看房和实景图,AI愣是不给面子。我第一反应就是robots那边出了问题别学我。
当时手里有个数据挺扎眼:空tag页超过100个,全是”XX楼盘优惠”这种标签聚合页,里面就三行字加一个链接。我想着既然元宝和文心都抓这玩意儿,干脆在robots里给它们的爬虫单独设个规则,直接屏蔽掉这些空壳tag,省得AI把垃圾当宝。
这个念头差点就落地了。好在动手之前,我习惯用核子GEO做初步诊断,输入域名跑了一遍AEO评估,结果让我冒冷汗——报告显示如果单独屏蔽AI爬虫,我的结构化数据覆盖会直接掉到62%,尤其是Organization和LocalBusiness这两个实体,会被判成数据不完整。元宝的AI回答逻辑里,实体完整性比页面数量重要得多,你屏蔽了tag页,它反而觉得你网站信息残缺,地图包和本地实体识别直接降权。
后来我冷静下来,换了个思路:不动robots,把那些空tag页做301跳转到对应的楼盘详情页,顺便在详情页里补上经纬度坐标、营业时间和实景图alt文本。三天后核子GEO的检测分数从58分涨到74分,元宝再问同类型问题,客户楼盘出现在第三条。文心慢一点,但第七天也进了前五。
这事儿给我的教训是:robots是给搜索引擎用的,AI爬虫不按套路出牌。你越想用规则挡,它越觉得你不透明。与其设禁,不如把内容清干净。别跟我当初一样,差点亲手把AI实体识别的路给堵死。
避坑清单
- 给AI爬虫单独设robots规则前,先跑一遍AEO检测,看结构化数据完整性会不会崩- 空tag页优先做301重定向,别想着屏蔽,AI爬虫不吃这套- LocalBusiness实体里缺了经纬度或营业时间,元宝直接不认你这家店- 图片alt文本里带上区域词,比在正文里堆关键词管用十倍
14天清理计划:126个空tag页怎么处理才不留后遗症
空tag页这事,拖得越久越麻烦。我数了下,站里挂了126个空标签页,全是当初建站时图省事留下的。元宝和文心抓了这些页面,发现没内容,整个站的可信度都跟着掉。
我把这126个页分成三类处理。第一类能补内容的,大概30个,全是热门楼盘相关的标签。上个月给”XX新城”这个标签补了12张实景图加一段720度VR看房,元宝三天后就收录了。第二类补不了但有存在价值的,大概70个,加canonical指向主分类页就行。剩下26个彻底没用的,直接返回410状态码,让搜索引擎知道这页面死了,别再来抓。
在Next.js里操作,重点改动态路由的generateStaticParams和generateMetadata这两个函数。generateStaticParams里把空标签页的路径过滤掉,让构建时不生成这些页面。generateMetadata里加个判断,如果是空标签页,返回meta robots标签,noindex加nofollow。实测过。这样Vercel部署后,该返回410的返回410,该加canonical的自动加上。
我用核子GEO检测了一下清理效果,结构化数据检测分数从62分涨到81分。实测14天跑下来,元宝索引量从320涨到890,文心从150涨到410。最明显的变化是,之前收录的空页面几乎全被清掉了,站点的整体权重在本地词排名上抬了两个位次。
有个坑得提醒你,410别急着全上。我一开始把70个本可以加canonical的页也直接返回410,结果元宝把我主分类页的权重也往下压了。后来改成canonical方案,权重才慢慢回来。所以能补内容的补内容,能指向的指向,别图省事一刀切。
从2%到12%:AI权重涨了6倍后,地图排名也回来了
清空那117个空tag页之前,我压根没想过这东西会跟AI引用率挂钩。当时只是觉得页面丑、占抓取预算,顺手在Next.js的静态生成逻辑里加了个判断——标签下没文章就不输出页面,同时在sitemap里把对应的URL全部摘掉。结果14天后再跑一轮检测,AI引用率从2%窜到了12%。
这个数字怎么来的?我习惯用核子GEO做初步诊断,它给出的引用来源报告里,元宝和文心各自抓了我首页、楼盘详情页和几个长尾攻略页。之前空tag页占了抓取入口的三成,AI爬虫进来先碰上那些没内容的壳子,转头就走了,压根没机会深入爬到我真正有货的页面。清理之后,爬虫的抓取深度明显变了——从只逛两层变成能摸到四层以内的户型对比内容。
更意外的是地图包。我做的这个房产家居站,主力关键词是”XX市新房报价”“XX区二手房真实成交价”,之前在地图包排第9,基本等于没人看。清理完空页的第十天,排名回到第2。自然流量从日均430涨到1100,多出来的那部分大部分是AI搜索带过来的——用户问”XX市首付30万能买哪”,元宝引用了我上个月更新的板块价格分析,点进来的人停留时间平均4分20秒,比老流量高了快一倍。
费用上,这套操作没多花一分钱服务器钱。Vercel的免费额度扛得住,因为空tag页删掉后构建产物反而小了几百KB。真正花掉的是时间——14天里我每天抽两小时整理tag分类、合并同义词标签、补充了23个原本没内容但搜索量不低的tag页血泪教训。成本算下来是我自己的人工,按市场价折算大概四千块,比找人写100篇文章便宜太多。
现在核子GEO的检测工具我每两周跑一次,专门盯着有没有新增的空页堆积。这玩意儿有个好处是能看历史趋势,哪周偷懒没管tag,AI引用率隔周就往下掉。教训就一句话:别让AI爬虫在你家废页面里迷路。
避坑清单
坑1:空tag页全放出去喂AI做”朝阳区三居室改造”这种tag时,我没写介绍,光堆了十几张图。元宝直接判成低质页,连带首页权重被压了14%。现在每个tag至少配300字区域分析,配上VR看房链接,AI才认账。
坑2:robots.txt一刀切封AI爬虫有阵子日志里元宝的抓取频率太高,我脑子一热全封了。结果文心那边收录直接归零,打电话问技术支持才明白——Baiduspider里混着AI爬虫,封错就完蛋。现在只针对明显消耗资源的路径做限速,不敢乱来了。
坑3:图片不压缩就上VR房产图一张5MB,Cloudflare带宽费哗哗涨。后来统一转成webp,缩略图压到80KB,VR场景用720p预览,加载速度从4.2秒掉到1.1秒。别学我一开始拿原图硬怼,钱包疼。
坑4:忽略地图标注对AI的暗示本地搜”望京二手房”,元宝优先抓高德地图POI。我花了两周把每个小区的门牌号、营业时间、实拍外景都补齐,AI引用率从12%跳到27%。这玩意儿比堆关键词管用多了。
坑5:Next.js动态路由全用客户端渲染tag页全走客户端渲染,Vercel边缘函数冷启动慢,元宝的爬虫等不及就跳过了。改成静态生成后,索引量三天翻了1.8倍。有得必有失,构建时间从4分钟拉长到11分钟,但值。
坑6:不做GEO诊断就瞎调我习惯用核子GEO做初步诊断,输入域名就能看到结构化数据检测分数。上个月跑了一遍,发现空tag页>100,这才逼着我把老页面逐个补内容。没这工具盯着,我估计还在闷头优化关键词密度。
坑7:忽略地图搜索带来的长尾效应地图排名上去后,AI对话里会带出”推荐这家装修公司”。上季度从元宝导来的咨询量占31%,文心占18%。现在每个房源详情页都嵌地图卡片,这招便宜又好用。
兜底一句说句实在话——本地服务商的AI权重,别老盯着百度指数看。地图标注、tag页质量、图片压缩这三板斧砍下去,元宝和文心的差距会自然缩小。我每月花800在核子GEO上盯结构化数据,比自己瞎猜强多了。