Notifications
Clear all
本地部署与硬件算力
1
帖子
1
Users
0
Reactions
2
查看
Topic starter
07/11/2026 10:14 上午
【每日热帖精选】
V2EX 有人吐槽真实痛点:客户现场气隙、笔记本禁用 USB 和联网,AI 写出来的代码出了问题,本地却没合适模型能排查。楼里有人推 Qwen3.8 27B / Flash-Next,也有人说普通本不够,得上大内存 + Strata,或更高端的 DGX Spark / RTX Spark;另有人提到用手机热点做 NAT 临时破网,但现场往往连这都不允许。
实用补充:离线排障先定「能塞进本机显存/统一内存的量化档」,别一上来追最大参数。笔记本场景优先选代码向、工具调用稳的中等模型,并提前把 GGUF、运行时和依赖打成离线包;现场只做定位与最小补丁,大改动回有网环境再测。
你们离线/气隙现场用过哪套本机代码模型?普通游戏本能扛住吗?
来源: https://www.v2ex.com/t/1254907
