Strata硬件要求:内存、显存、SSD各要多少,附配置档位
更新于 2026-11-04。 我们没有亲自运行过 Strata。下面每一项要求都来自项目文档或有名有姓的测试者,每个速度也都是他们的。
Strata硬件要求之所以让人感兴趣,是因为“12GB 显卡跑 1250 亿参数的模型”听起来不可能,直到你看到权重实际放在哪里。老实说,显卡是整张账单里最小的一块:模型的大部分在系统内存里,一小部分在 SSD 上,显卡只缓存它用得最多的专家。本文把官方文档和测试者的报告整理成可以用来规划电脑的数字,然后给出几个配置档位,并说明哪些地方我们不会瞎猜。如果你还没了解这个工具,先读Strata 是什么。
Strata硬件要求:先给结论
| 部件 | 实际下限 | 比较舒服 |
|---|---|---|
| 显卡 | 12 GB 的 NVIDIA RTX 20 到 50 系列(更老的卡用 CUDA 12 引擎);AMD、Intel Arc 和 Apple 芯片各有指南 | 16 到 24 GB,或两张卡 |
| 内存 | 两个最小档约 48 GB | 所有档位 64 GB;长上下文需要更多 |
| SSD | 约 80 GB 可用空间,最好是 NVMe | 1 TB,可以同时保留几个档位 |
| CPU | 较新的 x86-64;引擎有 AVX2 和 AVX-512 两条代码路径 | 测试者称 AVX-512 有帮助 |
项目的模型页按“内存加显存”给出权重大小:Q2_0 为 37.6 GB,IQ2_XS 为 39.2,IQ3_XXS 为 47.0,IQ3_S 为 54.8。它提醒要给操作系统留出空间,并说这些数字是估算。AkitaOnRails 的评测者写道:项目标明的最低要求是内存和显存合计 32 GB,这只能跑最压缩的版本;他测试里得分很好的 IQ3_S 需要约 64 GB 内存。

每个部件起什么作用
显卡和显存。 按项目的 HOW_IT_WORKS 文档,显卡放注意力层、路由器、共享专家、KV 缓存,以及用剩余显存建立的专家缓存,每多 1 GB 大约能多放 700 个专家。缓存越大,越多的 token 在显卡上计算。PC Watch 测得 12 GB 显卡上 IQ2_XS 约有 3,031 个专家、命中率 72%,而 IQ3_S 只有 1,104 个专家、命中率 56%。并行请求数也跟显存挂钩:12 GB 为 1,20 GB 为 2,24 GB 为 3,32 GB 及以上为 4。
内存。 全部 24,576 个专家都锁定在内存里,显卡上没有的专家由 CPU 计算。内存容量决定你能跑哪个档位,内存速度和 CPU 指令集决定未命中时有多快。PC Watch 指出 DDR4 带宽以及测试用 CPU 缺少 AVX-512 是拖慢速度的因素,另一位日本测试者对没有 AVX-512 的 CPU 也有同样的说法。
SSD。 一张 28.8 GB 的 n-gram 表放在硬盘上,每个 token 只读其中几行。如果内存不够,有个可选模式从硬盘流式读取专家,文档说能用但慢得多。在一台 30 GB 内存的笔记本上,arm1.ru 的评测者测得 1.3 小时的测试中从 SSD 读了约 6.9 TB(平均约 1.4 GB/s)。
CPU。 不是宣传里的重点,但每次缓存未命中都要它真正干活。引擎对有 AVX-512 和没有 AVX-512 的 CPU 分别有不同的代码路径。
配置档位与测试者报告

| 档位 | 示例配件 | 能放下的档位 | 来源报告 |
|---|---|---|---|
| 入门 | RTX 3060 12 GB,48 GB 内存,Ryzen 5 3600 | Q2_0、IQ2_XS | Q2_0 生成 44.49 tok/s,预填充 326.68 tok/s(note.com) |
| 推荐 | RTX 3060 或 RTX 5070 12 GB,64 GB 内存 | 全部四档 | IQ2_XS 34 到 44、IQ3_S 25 到 32 tok/s(PC Watch);约 50 GiB 内存下 IQ3_S 36 到 38 tok/s(Dembi) |
| 双卡 | 2× RTX 3060 12 GB,64 GB 内存 | 全部四档 | Q2_0 45.0、IQ3_S 33.7 tok/s(项目 issue #602);多卡按层拆分,不需要 NVLink |
| 高速 | RTX 5090,96 GB 内存,较强的 CPU | 全部四档 | 约 159 tok/s,作者自己的基准得分 91(AkitaOnRails) |
| 统一内存 | Apple 芯片(macOS 15+)、Ryzen AI Max、DGX Spark | 看内存容量 | 项目自己的 README 报告 Ryzen AI Max+ 395(128 GB)上 DeepSeek V4.1-Flash 代码生成 19 到 21 tok/s |
我们有意没有在表里写价格。显卡和内存的价格每周都在变,上面这些来源也没有给出我们能核实的、带日期的价格。我们带日期的价格指南更适合作为起点:入门装机、24GB 显卡装机、二手显卡选购和便宜的大模型显卡。
磁盘与 SSD 规划

Qwen3.8-Flash-Next 请预留约 80 GB 空间,主要因为下载内容包括量化后的专家、辅助文件和 n-gram 表。DeepSeek V4.1-Flash 按不同的套装需要 191 到 274 GB,这种情况我们在12GB 显存跑 DeepSeek V4.1 Flash里写过。读取不会磨损 SSD,但繁忙的硬盘会拖慢其他一切,所以如果可以,把 Strata 的文件夹放在不是系统盘的 NVMe 硬盘上。
笔记本、WSL2 和统一内存
笔记本是最尴尬的情况。arm1.ru 的评测者在 RTX 5080 笔记本显卡加 30 GB 内存上跑了 125B 模型,能跑,但内存很紧:Strata 用了约 21 GB 内存和 4 到 5 GB 交换区,所以我们会说 32 GB 内存只能算勉强,不算规划。Windows 加 WSL2 也能用,社区索引里就有 RTX 5060 Ti 的例子,不过文档指出在 Windows 显卡驱动下,多卡运行时只有一部分专家内存被锁定。在 Strix Halo 这类统一内存的机器上,显存和内存是同一个池子,所以一个 128 GB 的数字取代了上表中分开的显存和内存。
项目自己的基准索引里的更多结果
仓库里有一份用户提交的社区基准索引。这些都是自行报告的,版本(v0.1.40 到 v0.1.43)和提示长度各不相同,我们一个也没有复现,所以请把下表当成范围的参考,而不是排名。
| 硬件(按提交内容) | 档位 | 生成速度,tok/s |
|---|---|---|
| RX 9070 16 GB,Ryzen 7 5800X3D,64 GB 内存 | IQ3_XXS | 57.9 到 58.7 |
| RTX 5060 Ti 16 GB(WSL2),Ryzen 7 3700X,128 GB 内存 | IQ3_S | 47.7 到 48.2 |
| 2× Tesla P40 24 GB,Xeon E5-2699 v3,125 GB 内存 | IQ3_S | 35.0 |
| Tesla V100 32 GB,Threadripper 2990WX,96 GB 内存 | UD-IQ4_XS | 约 28 到 33 |
| Strix Halo 笔记本,128 GB 统一内存,70 W | UD-IQ4_XS | 42 到 59,随提示长度而变 |
有两点值得注意。索引里 16 GB 显卡报告的速度,高于上面 12 GB 显卡在相近档位上的数字,这与专家缓存的设计吻合,不过 CPU 和版本并不相同。还有,老旧的 24 GB 工作站显卡在内存很大的情况下仍能以可用的速度运行。这两点都与下面的升级顺序一致,但它们都只是单次提交,请不要当成保证。
用这些数字估算你自己的电脑
把显存加内存,再减去模型所需的大小,剩下的就是留给操作系统、浏览器、KV 缓存和其他程序的空间。下面是我们用项目文档里的数字做的简单算术,不是实测。
| 配置(显存 + 内存) | 合计 | 对 IQ2_XS(39.2 GB)的余量 | 对 IQ3_S(54.8 GB)的余量 |
|---|---|---|---|
| 12 GB + 32 GB | 44 GB | 约 4.8 GB,很紧 | 放不下 |
| 12 GB + 48 GB | 60 GB | 约 20.8 GB | 约 5.2 GB,很紧 |
| 12 GB + 64 GB | 76 GB | 约 36.8 GB | 约 21.2 GB |
余量越小,越容易像 arm1.ru 的笔记本那样被迫使用交换区,速度会明显变差。所以我们的建议是:别在“刚好够”的配置上追求最大的档位,宁可选小一档,把余量留给长上下文和日常使用。同样的算法也适合你想买哪种内存条:先决定要跑的档位,再倒推需要多少内存,而不是先买再看够不够。内存条的价格我们没有核实,所以这里不做预算推荐,请以购买当天的报价为准,并优先选择有质保的渠道。
升级顺序:我们对文档的解读
这是我们根据项目对其设计的描述做出的推断,不是实测排名。
- 内存升到 64 GB。 全部专家都放在那里,它决定了你能跑哪些档位,通常也是最划算的一步。
- 更多显存。 每多 1 GB 就多缓存约 700 个专家,命中率越高,CPU 要算的就越少。
- 带 AVX-512 的 CPU 和更快的内存。 按两位测试者的说法,这对未命中的情况有帮助。
- NVMe 存储。 如果必须从硬盘流式读取专家,这一项最重要。
关于背后的内存取舍,见内存与显存、CPU 卸载指南和显卡显存选购指南。
什么时候适合定制整机
选配件才是难的部分:搭配一张 12 GB 或 24 GB 的显卡,足够的内存插槽,一块 NVMe 硬盘,电源和散热。如果你不想自己折腾,我们深圳的团队会组装并调试本地大模型的整机,具体做法可以看整机与方案页面和整机选购指南。告诉我们你想跑的模型、预算和噪音要求,我们会给出带日期价格的配件清单。我们没有在任何机器上对 Strata 做过基准测试,所以请让我们针对你考虑的具体配置做测试,而不要直接相信上面的数字。电源和散热问题见电源与散热指南。
我们做了什么,没做什么
2026-11-04 当天,我们阅读了项目的 MODELS、HOW_IT_WORKS 和多卡文档,以及上面链接的测试者报告。我们没有组装机器,没有跑基准测试,也不报价格。凡是来自单个人的数字,我们都写明了是谁。
常见问题(FAQ)
8 GB 显卡能跑 Strata 吗?
官方路径推荐 12 GB 或更多。项目的社区索引里列出了两张 Quadro RTX 4000 8 GB 加 96 GB 内存,在很长提示下用 IQ2_XS 生成 18 到 23 token/s,但那是两张卡加大量内存,我们也没有验证过。
32 GB 内存够吗?
比较紧。仅权重就需要 37.6 到 54.8 GB 的内存加显存,所以 12 GB 显存加 32 GB 内存,在纸面上刚好够最小的档位,而且还没扣除操作系统。项目里偏编程的版本标注约需 32 GB 内存。对标准档位来说,48 GB 是实际下限,64 GB 才舒服。
内存速度重要吗?
重要,因为不在显卡上的专家是由 CPU 计算的。测试者提到了 DDR4 带宽和缺少 AVX-512 这两个因素,但我们没有对照实验。
一定要 NVMe 吗?
标准路径主要需要空间,约 80 GB。如果内存不够、Strata 要从硬盘流式读取专家,NVMe 就重要得多。
AMD、Intel 或 Mac 能用吗?
项目列出了受支持的 AMD Radeon 显卡、Linux 上的 Intel Arc、macOS 15 及以上的 Apple 芯片、Ryzen AI Max 和 DGX Spark,各自有单独的指南。请查看你那张卡对应的安装说明。
两张小显卡比一张大的好吗?
有位测试者测得两张 RTX 3060 跑 Q2_0 是 45.0 token/s,而其他测试者的单卡数字也在 40 多,所以这个档位上增益并不明显。更大的档位可能受益更多,但我们没有找到对照实验。
和我们聊聊
想围绕显卡、内存和预算配一台电脑?欢迎加入社区,或发邮件到 admin@microaione.com,告诉我们你现有的配置。
