返回

DeepSeek R1 Distill 7B

DeepSeek · 7B · Dense

R1 推理能力注入 Qwen 7B — 小体积强推理

671.1K downloads 800 likes 1yr ago 64K tokens
使用场景
reasoning
硬件评估
VRAM
速度
基于 Q4_K_M

量化选项

量化 位数 VRAM 质量 状态
Q2_K 2 2.2 GB
Q3_K_M 3 3.1 GB 中等
Q4_K_M 4 3.6 GB 良好
Q5_K_M 5 4.5 GB 良好
Q6_K 6 5.4 GB 优秀
Q8_0 8 7.2 GB 优秀
F16 16 14.3 GB 无损

你的硬件

Q4_K_M 基准评分
检测中...

安装

ollama run deepseek-r1:7b
从 HuggingFace 下载 GGUF

规格

参数量
7B
架构
Dense
工具调用
不支持
思考模式
支持
上下文
64K tokens
最低内存
3.9 GB
推荐内存
6.5 GB
系列
DeepSeek
发布时间
2025-01

HuggingFace Stats

Downloads
671.1K
Likes
800