Что такое Strata? Почему этот движок локальных LLM стал вирусным и чем он отличается от Ollama

Обновлено 2026-11-04. Эта статья — разбор открытых источников. Мы сами не устанавливали Strata и не запускали тесты.

Что такое Strata? Это открытый движок инференса, который распространяется как настольное приложение и как терминальная утилита и построен вокруг одной идеи: запускать очень большую модель типа «смесь экспертов» (MoE), например Qwen3.8-Flash-Next на 125 миллиардов параметров, на обычном игровом ПК, распределив модель между видеокартой, оперативной памятью и SSD. Примерно через шесть недель после создания репозитория у него около 39 500 звёзд на GitHub, и почти на каждом форуме о локальных LLM есть тема о нём. Ниже мы объясняем, что такое Strata, почему он так быстро распространился, что измерили независимые тестеры и в чём оговорки. Он стоит рядом с Ollama, а не заменяет его; сравнение — в статье Strata против Ollama.

Что такое Strata, в одном абзаце

Strata опубликован на GitHub под лицензией MIT, репозиторий в основном написан на C++. Он ставится как настольное приложение (Windows, AppImage для Linux, macOS) или как терминальная утилита, которую запускают командой strata launch. Когда модель работает, он поднимает на вашей машине API OpenAI Chat Completions, API Anthropic Messages и API Responses, так что к нему можно подключать инструменты для программирования. В документации ggml — тензорная библиотека, на которой построен llama.cpp, — указана как сторонний компонент, но планировщик, который и отличает Strata, написан самим проектом.

Модели, которые запускает Strata

В модели «смесь экспертов» много специализированных подсетей («экспертов»), и на каждый токен задействуются лишь несколько. У Qwen3.8-Flash-Next около 125 миллиардов параметров всего, но примерно 6 миллиардов активны на токен (512 экспертов на слой, 24 576 всего, родной контекст 262 144 токена). Именно это соотношение — около 5 % весов на токен — и использует Strata.

Почему MoE-модели так себя ведут, читайте в нашем руководстве по MoE-моделям.

Как работает Strata: три уровня

В собственном документе HOW_IT_WORKS описаны три уровня.

• GPU. Слои внимания, маршрутизаторы, общие эксперты, выходная голова, черновой слой многотокенного предсказания (MTP), кэш KV и кэш экспертов, который занимает всю оставшуюся видеопамять. В документации сказано, что каждый дополнительный гигабайт видеопамяти вмещает примерно на 700 экспертов больше.
• ОЗУ. Все 24 576 экспертов, закреплённые в памяти. Когда маршрутизатор выбирает эксперта, которого нет в видеопамяти, его считает процессор прямо на месте, не копируя на карту.
• SSD. Таблица эмбеддингов n-грамм объёмом 28,8 ГБ, из которой на токен читается лишь несколько строк. Необязательный режим --mmap-experts может также подгружать экспертов с диска, когда ОЗУ не хватает; это работает, но заметно медленнее.

Скорость зависит от того, как часто нужные токену эксперты уже лежат на GPU. В тесте PC Watch на RTX 3060 сообщалось о примерно 3 031 эксперте на карте и доле попаданий в кэш около 72 % с файлом IQ2_XS и о примерно 1 104 экспертах и 56 % с IQ3_S. В статье проекта ускорение от спекулятивного декодирования MTP оценивается в 1,6–1,8 раза; это собственная цифра авторов.

Почему Strata стал вирусным

По прочитанным нами источникам, сошлось несколько факторов:

1. Установка в один клик. Установщик для Windows, AppImage для Linux и образ диска для macOS, а также однострочный установщик для терминала. Движок под вашу видеокарту скачивается при первом запуске.
2. Заголовок, который легко повторить. «Модель на 125B на видеокарте с 12 ГБ» легко пересказать, хотя на деле для крупных квантований нужно 64 ГБ ОЗУ.
3. Время. Qwen3.8-Flash-Next как раз была моделью, о которой все говорили в октябре.
4. Поддержка агентов для программирования. strata connect записывает настройки для Claude Code, Codex CLI, OpenCode, Hermes Agent, OpenClaw и других.
5. Быстрый темп релизов. Шесть релизов с 25 октября по 2 ноября.
6. Внимание на Hacker News. Одна тема набрала 940 очков и 420 комментариев на момент нашего чтения, а вторая жаловалась, что обсуждения локальных LLM завалены ссылками на Strata. Основная тема.

Что сообщили независимые тестеры

Ни одна из цифр ниже не наша. Они получены на разном оборудовании, версиях Strata и квантованиях, поэтому воспринимайте их как диапазон, а не как турнирную таблицу.

Одна и та же карта, RTX 3060, выдаёт от примерно 20 до 45 токенов в секунду в зависимости от квантования, версии и памяти, поэтому у вопроса «насколько быстр Strata» нет единого ответа.

Оговорки и критика

• Качество при 2–3 битах. Проект утверждает, что IQ3_S на опубликованных тестах равен полной модели. Это заявление авторов. PC Watch нашёл, что генерация кода на IQ2_XS на ступень ниже IQ3_S, а на Hacker News есть скептические комментарии, включая пользователя, который сообщил о тесте с изображением, где ошибка Strata была больше, чем у llama.cpp с теми же весами. Проверить это мы не смогли.
• Длинные промпты медленные на карте 12 ГБ. PC Watch измерил около 25 секунд до первого токена для промпта в 23k токенов, что бьёт по агентам для программирования, которые отправляют файлы целиком.
• Нехватка памяти. Тест arm1.ru показывает ноутбук с 30 ГБ ОЗУ, который уходит в своп, а SSD занят всё время запуска.
• Молодой проект. Репозиторию шесть недель, релизы выходят каждые два дня. Настройки и скорости меняются от версии к версии, а в документации Strata прямо сказано, что внешнего аудита безопасности не было.
• Установщик через конвейер. Однострочный установщик удобен, но это скрипт, который вы запускаете со своими правами. Прочитайте его или используйте подписанный установщик приложения.
• Лицензия модели. Движок под MIT, а веса Qwen — под Qwen Community License; прочитайте её перед коммерческим использованием.
• Цифры не везде совпадают. В некоторых публикациях говорится о 176B параметров; в репозитории сказано 125B, и мы используем именно это.

Strata и Ollama: коротко

Пересекаются они меньше, чем подсказывают заголовки. Если вам нужен один инструмент для многих моделей, Ollama по-прежнему проще; если вам нужен именно этот класс моделей на карте с 12–24 ГБ, Strata создан для этого. Полное сравнение с llama.cpp и LM Studio — в нашей сравнительной статье, установка — в руководстве по установке, а об оборудовании — в статье о системных требованиях. Если вы только знакомитесь с Ollama, начните с нашего руководства по установке Ollama.

Что мы сделали и чего не делали

2026-11-04 мы прочитали документы репозитория Strata, его заметки о релизах, заметки о релизах и страницу библиотеки Ollama, а также сторонние отчёты, перечисленные выше. Мы не устанавливали Strata, не скачивали весов и не измеряли скорость. Каждая цифра приведена со ссылкой на источник.

Частые вопросы (FAQ)

Что такое Strata простыми словами?

Strata — бесплатная программа, которая позволяет обычному ПК запускать очень большую ИИ-модель: самые загруженные части лежат на видеокарте, остальное в ОЗУ, а таблица поиска на SSD. Это движок плюс чат-приложение, а не модель.

Strata бесплатный и с открытым кодом?

Движок распространяется под лицензией MIT. У моделей, которые он скачивает, свои лицензии; Qwen3.8-Flash-Next использует Qwen Community License 1.0.

Это правда модель на 125B на видеокарте с 12 ГБ?

У модели 125 миллиардов параметров всего, но на токен активны около 6 миллиардов. При этом Strata нужно примерно 38–55 ГБ суммарной ОЗУ и видеопамяти на модель и около 80 ГБ диска, так что 12 ГБ на карте — лишь минимум для части на GPU.

Можно ли запускать Strata и Ollama на одном ПК?

Да. Strata по умолчанию слушает порт 8080, а Ollama — 11434, но обоим нужны одни и те же видеопамять и ОЗУ, поэтому запускайте по одной большой модели за раз. Это разобрано в руководстве по установке.

Безопасно ли устанавливать Strata?

Проект заявляет об отсутствии телеметрии и учётных записей, а его сервер слушает только localhost, но он же говорит, что внешнего аудита безопасности не проводилось. Сначала поставьте его на машину без конфиденциальных данных и скачивайте только из официального репозитория.

Заменяет ли Strata Ollama?

Нет. Они решают разные задачи. Многие оставят Ollama для повседневных моделей и добавят Strata для одной большой MoE-модели.

Давайте обсудим

Есть вопрос о видеокарте, ОЗУ и бюджете? Присоединяйтесь к сообществу или напишите на admin@microaione.com — разберём вместе. Если вы предпочитаете готовую собранную и проверенную машину, загляните в наше руководство по машинам и решениям.