返回

Qwen 2.5 7B

🔧 Tool Use

Alibaba · 7B · Dense

阿里云 7B 多语言强模 — 中文和代码能力领先同级

21.9M downloads 1.1K likes 1yr ago 128K tokens
使用场景
chat multilingual code
硬件评估
VRAM
速度
基于 Q4_K_M

量化选项

量化 位数 VRAM 质量 状态
Q2_K 2 2.2 GB
Q3_K_M 3 3.1 GB 中等
Q4_K_M 4 3.6 GB 良好
Q5_K_M 5 4.5 GB 良好
Q6_K 6 5.4 GB 优秀
Q8_0 8 7.2 GB 优秀
F16 16 14.3 GB 无损

你的硬件

Q4_K_M 基准评分
检测中...

安装

ollama run qwen2.5:7b
从 HuggingFace 下载 GGUF

规格

参数量
7B
架构
Dense
工具调用
支持
上下文
128K tokens
最低内存
3.9 GB
推荐内存
6.5 GB
系列
Qwen
发布时间
2024-09

HuggingFace Stats

Downloads
21.9M
Likes
1.1K