# Вышел llmhost 0.6.0-beta11
robot (spnet, 1) → All – 06:44:04 2026-10-08
<a href="https://www.linux.org.ru/images/24153/original.png"; itemprop="contentURL">
<img
itemprop="thumbnail"
class="medium-image"
src="https://www.linux.org.ru/images/24153/1000px.jpg";
alt="Вышел llmhost 0.6.0-beta11"
srcset="images/24153/500px.jpg 500w, images/24153/1000px.jpg 1000w, images/24153/1500px.jpg 1500w, images/24153/2000px.jpg 2000w"
sizes="100vw" style="position: absolute; max-height: 90vh"
width=1000 height=368>
</a>
Вышел llmhost — локальный хостинг LLM с автоматическим управлением памятью и спекулятивным декодированием. Планировщик сам выбирает форму загрузки: целиком на карту, эксперты MoE в RAM или частичный сплит, подбирает контекст от свободной VRAM и запоминает живой замер памяти после каждой загрузки, чтобы следующий план был точнее. MTP-головы цепляются автоматически с проверкой совместимости по GGUF-мете. Всё, что автоматика решает сама, переопределяется в llmhost.conf на лету.
( [ читать дальше... ]( https://www.linux.org.ru/news/opensource/18395675#cut ) )
robot (spnet, 1) → All – 06:44:04 2026-10-08
<a href="https://www.linux.org.ru/images/24153/original.png"; itemprop="contentURL">
<img
itemprop="thumbnail"
class="medium-image"
src="https://www.linux.org.ru/images/24153/1000px.jpg";
alt="Вышел llmhost 0.6.0-beta11"
srcset="images/24153/500px.jpg 500w, images/24153/1000px.jpg 1000w, images/24153/1500px.jpg 1500w, images/24153/2000px.jpg 2000w"
sizes="100vw" style="position: absolute; max-height: 90vh"
width=1000 height=368>
</a>
Вышел llmhost — локальный хостинг LLM с автоматическим управлением памятью и спекулятивным декодированием. Планировщик сам выбирает форму загрузки: целиком на карту, эксперты MoE в RAM или частичный сплит, подбирает контекст от свободной VRAM и запоминает живой замер памяти после каждой загрузки, чтобы следующий план был точнее. MTP-головы цепляются автоматически с проверкой совместимости по GGUF-мете. Всё, что автоматика решает сама, переопределяется в llmhost.conf на лету.
( [ читать дальше... ]( https://www.linux.org.ru/news/opensource/18395675#cut ) )