Китайские открытые ИИ-модели захватывают корпоративную Америку
Американские корпорации всё чаще используют открытые ИИ-модели, в основном китайские, чтобы сократить расходы. Доля открытых моделей в использовании токенов выросла с 7% в декабре до 56% к августу.
- AT&T покрывает 40% ИИ-нагрузок открытыми моделями и планирует довести долю до 70% в течение года.
- Tinder перенаправляет второстепенные запросы на открытые модели после десятикратного роста расходов на ИИ.
- Доля открытых моделей в использовании токенов выросла с 7% в декабре до 56% к августу по данным Vercel.
Американские компании всё активнее переходят на открытые ИИ-модели, чтобы сократить расходы на инференс. По данным Financial Times, руководство корпораций США в августе–сентябре упоминало открытые модели в публичных выступлениях в шесть раз чаще, чем годом ранее. Интерес проявляют не только IT-компании, но и финансовый сектор, логистика и тяжёлое машиностроение.
Китайские модели задают тон
В сегменте открытых моделей доминируют китайские лаборатории. По статистике OpenRouter, они входят в десятку крупнейших по интенсивности использования токенов. Подход поддерживают и западные игроки: Nvidia, Mistral, стартапы Reflection AI и Thinking Machines Lab.
Доля открытых моделей в общем использовании токенов к августу достигла 56%, тогда как в декабре прошлого года составляла всего 7%, по данным Vercel.
Как компании экономят
Технический директор Tinder Винай Курувила рассказал, что компания перенаправляет часть внутренних второстепенных запросов на модели с открытыми весами. В январе годовые расходы на ИИ составляли $1 млн, к июлю они выросли в десять раз. В Match Group отметили, что модели Astra и Claude покрывают 90% потребностей, но если открытые модели достигнут того же уровня, использовать закрытые в прежних объёмах не потребуется.
OpenAI и Anthropic на прошлой неделе предложили более доступные версии своих моделей, чтобы конкурировать с открытыми решениями.
Директор AT&T по данным и ИИ Энди Маркус заявил, что компания уже покрывает 40% ИИ-нагрузок открытыми моделями и планирует довести эту долю до 70% в течение года. AT&T обрабатывает до 45 млрд токенов в день, и расходы становятся критичными. Внутренние тесты показали, что открытые модели иногда превосходят закрытые по эффективности и быстродействию. Кроме того, их можно запускать в собственной инфраструктуре, что повышает безопасность.
Для профиТехнические детали: архитектура, цифры, ссылки
По данным Vercel, доля открытых моделей в использовании токенов выросла с 7% в декабре до 56% к августу. OpenRouter отмечает, что китайские ИИ-лаборатории входят в топ-10 по интенсивности использования токенов.
AT&T обрабатывает до 45 млрд токенов в день и планирует увеличить долю открытых моделей с 40% до 70% в течение года. Tinder при годовых расходах на ИИ в $1 млн в январе столкнулся с десятикратным ростом к июлю.
Вопросы и ответы
- Почему американские компании переходят на открытые ИИ-модели?
- Главная причина — экономия. Расходы на инференс растут, и открытые модели позволяют сократить затраты без потери точности.
- Какие компании уже используют открытые модели?
- AT&T покрывает 40% ИИ-нагрузок открытыми моделями, Tinder перенаправляет второстепенные запросы.
- Как выросла доля открытых моделей?
- С 7% в декабре до 56% к августу по данным Vercel.
