Itglobal.com предоставил клиентам AIaaS повышенный контроль над стоимостью, доступностью и скоростью ИИ-моделей
- CNews FORUM 12 ноября
- CNews AWARDS 12 ноября
- Школа Роста
- СУБД в эпоху ИИ
- КИИ в облаке
- 10 лет российского бэкапа
- SDN: Сеть как дом
- История облаков
- 30 лет ERP России
- Цифровизация
- Импортозамещение
- Безопасность
- ИТ в госсекторе
- ИТ в банках
- ИТ в торговле
- Телеком
- ИТ-бизнес
- Рейтинги
|
Itglobal.com (корпорация ITG) в рамках обновления платформы добавил в сервис AIaaS возможность выбирать, через какого поставщика отправлять запросы к модели. При этом новая функция дополняет уже предоставленный клиентам контроль ключей, расходов и доступа к моделям. Одну и ту же модель предлагают десятки поставщиков, и цена запроса, скорость ответа и качество сервиса у них могут отличаться в разы.
Один из примеров — открытые модели семейства Qwen. В панели AIaaS для каждой такой модели можно выбрать одного или нескольких поставщиков в зависимости от задачи, а также исключить неподходящих. Там же клиент видит все цены, а запросы оплачиваются по цене того поставщика, который их обработал.
Low/no-code-революция: новая архитектура цифровой независимости Конференция
Так расходами на ИИ можно управлять на уровне отдельных задач. Чат-боту поддержки нужна скорость: клиент ждет ответа сразу. Запросы бота можно направлять самому быстрому поставщику. Ночную обработку архива документов выгоднее выполнять там, где дешевле. Когда выбор зафиксирован, расходы и время ответа предсказуемы и бюджет становится проще планировать. Например, у поддержки свой ключ, настроенный на быстрый отклик, у аналитиков — на более низкую цену, и расходы каждой команды видны отдельно.
«Обычно компании выбирают нейросеть и не задумываются, через какого поставщика идут их запросы, хотя от этого зависят скорость ответа и итоговый счет. На рынке клиент, как правило, видит только одну цену и не может повлиять на то, кто именно предоставляет ему инференс. Мы решили дать клиентам выбор. Теперь компания сама решает не только какую модель использовать, но и через кого получать к ней доступ», — сказал Евгений Свидерский, вице-президент по облачным сервисам Itglobal.com, корпорации ITG.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.