Сколько стоит запустить Yandex AliceAI-Foundation-80B-A3B-Base: опыт автора на Хабре
На Хабре вышла статья о том, сколько стоит инференс претрейна Yandex AliceAI-Foundation-80B-A3B-Base. Автор выяснил, что для запуска модели нужно 4 GPU A100, и рассказал о сложностях с арендой железа в облаке.
