返回
Qwen 2.5 32B
🔧 Tool Use
Alibaba · 32B · Dense
阿里云 32B 推理旗舰 — 强大的多语言与逻辑推理能力
3.0M downloads 334 likes 1yr ago 128K tokens 使用场景
chat multilingual reasoning
硬件评估 VRAM — —
速度 —
基于 Q4_K_M
量化选项
| 量化 | 位数 | VRAM | 质量 | 状态 |
| Q2_K | 2 | 10.2 GB | 低 | — |
| Q3_K_M | 3 | 14.3 GB | 中等 | — |
| Q4_K_M ★ | 4 | 16.4 GB | 良好 | — |
| Q5_K_M | 5 | 20.5 GB | 良好 | — |
| Q6_K | 6 | 24.6 GB | 优秀 | — |
| Q8_0 | 8 | 32.8 GB | 优秀 | — |
| F16 | 16 | 65.6 GB | 无损 | — |
你的硬件
NVIDIA RTX 50 系列
NVIDIA RTX 40 系列
NVIDIA RTX 30 系列
NVIDIA 专业显卡
NVIDIA RTX 20 系列
NVIDIA 数据中心
NVIDIA GTX 16 系列
NVIDIA GTX 10 系列
NVIDIA GTX 9 系列
AMD RX 9000 系列
AMD RX 7000 系列
AMD RX 6000 系列
AMD RX 5000 系列
AMD 旧款/其他
Intel Arc
Intel 核显
Apple Silicon
规格
- 参数量
- 32B
- 架构
- Dense
- 工具调用
- 支持
- 上下文
- 128K tokens
- 最低内存
- 17.9 GB
- 推荐内存
- 29.8 GB
- 系列
- Qwen
- 发布时间
- 2024-09
HuggingFace Stats
- Downloads
- 3.0M
- Likes
- 334