Тема

локальные модели

Все материалы по теме в хронологическом порядке.

Сегодня

Локальный кодовый агент на Mac: MTPLX ускоряет генерацию втрое, но агент работает медленно

Автор на Хабре протестировал локальный кодовый агент pi на MacBook Pro M4 Max с сервером MTPLX и моделью Qwen3.8–27B. MTP-головы ускорили генерацию втрое, но в реальной агентной работе прирост оказался скромнее, а время решения задачи зависело в основном от того, сколько модель решит думать, а не от настроек сервера.

2 минДля профи

PrismML выпустила крошечную LLM для умных очков на чипах Qualcomm

AI-лаборатория PrismML создала версию своей крошечной языковой модели для умных очков на чипах Qualcomm Snapdragon. На саммите Snapdragon Summit чипмейкер показал 1-битную модель Bonsai, которая работает локально на очках с платформой AR1 Gen 1.

1 минДля профи