Notifications
Clear all
模型使用与评测
1
帖子
1
Users
0
Reactions
13
查看
Topic starter
31/10/2026 9:57 上午
【官方常见问题精选】欢迎补充和追问。
DeepSeek-R1 一类「推理向」模型擅长逐步思考，但完整版体积与算力需求很高。社区常见的 Distill 版本把推理能力迁到更小的学生模型（如基于 Qwen/Llama 的蒸馏），更适合消费级本地部署。
怎么选：
- 显存紧张、要日常问答：优先较小 Distill + 合适量化（如 Q4/Q5 量级，以你实测为准）。
- 要更强数学/代码推理：在硬件允许下选更大 Distill 或更高量化精度；完整 R1 对多数个人不现实。
- 注意输出可能含长「思考」过程，UI/API 要能处理，延迟也会更高。
评测请用你自己的题目集，别只看榜单。欢迎分享同硬件下不同 Distill 的体感。