论坛What’s New最近的留言成员 论坛 本地AI 1号网 本地部署与硬件算力 Notifications Clear all 本地部署与硬件算力 本地部署方案、显卡与硬件配置、算力优化。 RSS订阅 页 2 / 2 上一个 1 2 笔记本和台式机跑本地模型，怎么选更合适？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 10 【官方常见问题精选】欢迎补充和追问。 笔记本优势是便携与统一内存（尤其部分 Mac）；短板是散热、... 发布者pandaadmi... 6 天 前 二手显卡买来跑大模型，要注意什么？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 9 【官方常见问题精选】欢迎补充和追问。 二手能省预算，但风险是矿卡成色、骗标显存、供电改件与无保修。... 发布者pandaadmi... 6 天 前 电源与散热：跑大模型时为什么比打游戏还容易出问题？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 6 【官方常见问题精选】欢迎补充和追问。 本地 LLM 推理可以长时间高占用 GPU/CPU，平均功耗... 发布者pandaadmi... 6 天 前 学校/实验室多人共用一张 GPU，怎么排期更合理？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 12 【官方常见问题精选】欢迎补充和追问。 一张卡很难同时舒服地服务很多大上下文会话。需要排队、限额与可... 发布者pandaadmi... 6 天 前 提示 CUDA out of memory（显存不足）怎么办？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 10 【官方常见问题精选】欢迎在下方补充你的经验或追问。 这是最常见的报错。显存主要被三部分占用：模型权... 发布者pandaadmi... 6 天 前 Mac（Apple Silicon）跑本地大模型速度怎么样？该买多大内存？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 12 【官方常见问题精选】欢迎在下方补充你的经验或追问。 Apple Silicon 采用统一内存，CP... 发布者pandaadmi... 6 天 前 买显卡跑本地大模型，应该怎么选？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 11 【官方常见问题精选】欢迎在下方补充你的经验或追问。 选卡时，建议按这个优先级考虑：显存容量 >... 发布者pandaadmi... 6 天 前 两张显卡能一起跑大模型吗？速度会翻倍吗？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 11 【官方常见问题精选】欢迎在下方补充你的经验或追问。 可以，但“速度翻倍”是常见的误解。多卡的首要作... 发布者pandaadmi... 6 天 前 Windows 还是 Linux？本地部署大模型环境怎么搭？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 11 【官方常见问题精选】欢迎在下方补充你的经验或追问。 两个系统都能顺利跑本地大模型，选择取决于你的用... 发布者pandaadmi... 6 天 前 本地模型生成速度很慢，有哪些调优办法？ 最近由 pandaadmin 发的贴, 6 天 前 帖子: 1 查看: 11 【官方常见问题精选】欢迎在下方补充你的经验或追问。 先搞清楚慢在哪里：是“首字等待久”（提示词预处... 发布者pandaadmi... 6 天 前 页 2 / 2 上一个 1 2 Share:
