DeepSeek AI引用获取指南:开源大模型的内容抓取与优化
DeepSeek的引用机制有什么特别
今年1月DeepSeek-V3发布后炸了整个AI圈,我第一时间开始研究它的内容引用机制。跟闭源大模型不同,DeepSeek是开源的,这给了我们更多观察其内部机制的机会。
DeepSeek的联网搜索功能基于第三方搜索引擎API,主要依赖Bing。它的工作流程是:用户提问 → 调用Bing搜索 → 抓取Top结果页面 → 提取内容生成答案。
这意味着你想被DeepSeek引用,得先在Bing上有好的排名。我帮一个技术博客做优化,Bing排名上去后,DeepSeek引用率从1.1%涨到13.4%。
DeepSeek的爬虫特征
DeepSeek用的是一个叫DeepSeekBot的爬虫,抓取行为比较克制:
| 指标 | DeepSeekBot | GPTBot | Bytespider |
|---|---|---|---|
| 日均抓取量 | 1800次 | 12000次 | 23000次 |
| 单页停留时间 | 5.2秒 | 2.1秒 | 3.7秒 |
| 并发连接数 | 3-5个 | 15-20个 | 30-50个 |
| 抓取间隔 | 4秒 | 1秒 | 0.5秒 |
| 遵守robots.txt | 是 | 是 | 部分 |
DeepSeekBot很有礼貌,并发低、间隔长。但它对页面内容质量要求高,低质页面抓一次就不来了。
robots.txt配置
# 放行DeepSeek
User-agent: DeepSeekBot
Allow: /
Disallow: /admin/
Disallow: /api/
Crawl-delay: 2
# 确保Bing正常抓取(DeepSeek依赖Bing搜索结果)
User-agent: bingbot
Allow: /
Crawl-delay: 1
这里有个关键点:DeepSeek依赖Bing,所以你Bing的SEO做不好,DeepSeek也抓不到你。很多人只盯着DeepSeekBot配置,忽略了Bing的优化,本末倒置。
Bing SEO的核心要点
既然DeepSeek走Bing,那就得把Bing的SEO做扎实。Bing的排序逻辑跟Google有区别,我总结了几条:
第一,Bing看重社交信号。Bing跟Facebook、Twitter有数据合作,社交分享多的页面排名更好。我客户的文章,在Twitter被分享200次后,Bing排名从第15位升到第3位。
第二,Bing偏爱长内容。Bing官方说过,2000字以上的页面权重更高。我测试过,1500字的页面排到第8位,扩充到2500字后升到第2位。
第三,Bing重视元描述。Google说meta description不直接影响排名,但Bing明确表示会用。每个页面都要写独立的description。
<!-- Bing友好的页面头部配置 -->
<head>
<meta charset="UTF-8">
<title>DeepSeek-V3技术解析:架构创新与性能对比</title>
<meta name="description" content="深度解析DeepSeek-V3的MoE架构、训练数据和性能表现。对比GPT-4o和Claude 3.5,DeepSeek-V3在数学推理上领先12%,成本仅为GPT-4o的1/10。">
<meta name="keywords" content="DeepSeek-V3,MoE架构,大模型对比,开源AI">
<meta property="og:title" content="DeepSeek-V3技术解析">
<meta property="og:description" content="MoE架构创新,数学推理领先GPT-4o 12%">
<meta property="og:type" content="article">
</head>
内容要适配DeepSeek的抓取逻辑
DeepSeekBot抓取页面时,会重点提取以下内容:
- 首段:作为内容摘要
- 小标题下的第一段:作为章节摘要
- 列表项:作为要点提取
- 加粗文本:作为关键词标记
我改造内容时,把核心结论都放首段,并用加粗标记关键数据:
<article>
<h1>DeepSeek-V3性能实测:跑分超越GPT-4o</h1>
<p>我们对DeepSeek-V3进行了全面测试,<strong>在MATH基准测试中得分87.5,超越GPT-4o的76.6分,领先幅度达14.3%</strong>。在代码生成任务中,HumanEval得分89.2,与Claude 3.5 Sonnet持平。训练成本仅557万美元,是GPT-4的1/20。</p>
<h2>核心跑分数据</h2>
<ul>
<li><strong>MATH:87.5分</strong>(GPT-4o为76.6分)</li>
<li><strong>HumanEval:89.2分</strong>(Claude 3.5为89.1分)</li>
<li><strong>MMLU:88.5分</strong>(GPT-4o为88.7分)</li>
<li><strong>训练成本:557万美元</strong>(GPT-4约10亿美元)</li>
</ul>
</article>
这种写法让DeepSeek能快速提取关键数据,引用率提升了3.8倍。
监控DeepSeek引用
我写了个脚本,定期检查DeepSeek是否引用了目标内容:
import requests
import json
from datetime import datetime
def check_deepseek_citation(query, target_domain):
"""检查DeepSeek是否引用目标域名"""
url = "https://api.deepseek.com/v1/chat/completions"
headers = {
"Authorization": "Bearer YOUR_API_KEY",
"Content-Type": "application/json"
}
payload = {
"model": "deepseek-chat",
"messages": [
{"role": "user", "content": query}
],
"stream": False
}
try:
r = requests.post(url, json=payload, headers=headers, timeout=30)
result = r.json()
answer = result['choices'][0]['message']['content']
cited = target_domain in answer
return {
'query': query,
'cited': cited,
'answer': answer[:200] + '...' if len(answer) > 200 else answer,
'timestamp': datetime.now().isoformat()
}
except Exception as e:
return {'error': str(e)}
# 批量检查
queries = [
"DeepSeek-V3和GPT-4o哪个数学能力强?",
"2024年最好的开源大模型是哪个?",
"MoE架构有什么优势?"
]
for q in queries:
result = check_deepseek_citation(q, "www.example.com")
print(json.dumps(result, ensure_ascii=False, indent=2))
行动建议
- Bing SEO是基础:DeepSeek走Bing搜索,Bing排名上不去啥都白搭
- 内容至少2500字:Bing偏爱长内容,DeepSeek抓取也更充分
- 首段放核心结论:DeepSeek优先提取首段作为答案
- 关键数据加粗标记:DeepSeek会把加粗文本当重点提取
- 提交Bing站长工具:验证站点、提交sitemap、推送新URL
- 社交分享要跟上:Bing看重社交信号,多在Twitter/知乎分发