MoEモデル

Strataとは何かを公開情報から解説。12GB GPUで125BのMoEモデルが動く仕組み、第三者の実測速度、注意点、Ollamaとの違いを整理します。