返回

Qwen 2.5 72B

🔧 Tool Use

Alibaba · 72B · Dense

阿里云顶级开源 72B — Qwen 2.5 系列最强,综合能力全面

581.6K downloads 916 likes 1yr ago 128K tokens
使用场景
chat multilingual reasoning code
硬件评估
VRAM
速度
基于 Q4_K_M

量化选项

量化 位数 VRAM 质量 状态
Q2_K 2 23.1 GB
Q3_K_M 3 32.3 GB 中等
Q4_K_M 4 36.9 GB 良好
Q5_K_M 5 46.1 GB 良好
Q6_K 6 55.3 GB 优秀
Q8_0 8 73.8 GB 优秀
F16 16 147.5 GB 无损

你的硬件

Q4_K_M 基准评分
检测中...

安装

ollama run qwen2.5:72b
从 HuggingFace 下载 GGUF

规格

参数量
72B
架构
Dense
工具调用
支持
上下文
128K tokens
最低内存
40.2 GB
推荐内存
67.1 GB
系列
Qwen
发布时间
2024-09

HuggingFace Stats

Downloads
581.6K
Likes
916