返回

Mistral Small 3.1 24B

🔧 Tool Use ★ Popular

Mistral AI · 24B · Dense

Mistral 多模态 24B — 支持视觉输入,均衡性能与效率

156.5K downloads 1.4K likes 1yr ago 128K tokens
使用场景
chat vision code
硬件评估
VRAM
速度
基于 Q4_K_M

量化选项

量化 位数 VRAM 质量 状态
Q2_K 2 7.7 GB
Q3_K_M 3 10.8 GB 中等
Q4_K_M 4 12.3 GB 良好
Q5_K_M 5 15.4 GB 良好
Q6_K 6 18.4 GB 优秀
Q8_0 8 24.6 GB 优秀
F16 16 49.2 GB 无损

你的硬件

Q4_K_M 基准评分
检测中...

安装

ollama run mistral-small
从 HuggingFace 下载 GGUF

规格

参数量
24B
架构
Dense
工具调用
支持
上下文
128K tokens
最低内存
13.4 GB
推荐内存
22.4 GB
系列
Mistral
发布时间
2025-03

HuggingFace Stats

Downloads
156.5K
Likes
1.4K