Модель

Gemma 4

Все материалы по теме в хронологическом порядке.

Сегодня

Ollama против llama.cpp: сравнили запуск Gemma 4 на сервере

Автор развернул Gemma 4 26B A4B в Q4-кванте на облачном сервере с RTX 4090 и запустил её двумя способами — через Ollama и напрямую через llama.cpp. Он описал установку, настройку HTTP API и подготовку к замерам скорости.

2 минДля профи