Оно позволяет использовать языковые модели без покупки дорогостоящей инфраструктуры.
Реклама
Москва. Входящая в коммерческий ИТ-кластер «Ростелекома» компания «Турбо Облако» запустила новый сервис Foundation Model Hub (Фаундейшн Модел Хаб) — облачный доступ к большим языковым моделям с оплатой за фактическое использование токенов. Благодаря существенному снижению стоимости применения ИИ-технологий сервис становится доступным не только крупным компаниям, но и среднему и малому бизнесу. Об этом сообщает пресс-служба «Ростелекома».
Сервис открывает доступ к каталогу актуальных языковых моделей для самых разных бизнес-задач. Специалисты «Турбо Облака» регулярно обновляют его, добавляя новые версии по мере выхода, так что пользователям не нужно самостоятельно следить за их жизненным циклом. В основе платформы лежит высокопроизводительная GPU-инфраструктура на базе ускорителей NVIDIA H200, объединённых скоростной сетью InfiniBand. Вычислительные ресурсы автоматически увеличиваются при росте запросов, поэтому сервис обеспечивает скорость и стабильность даже при пиковых нагрузках.
Главное преимущество Foundation Model Hub — экономия. Сегодня запуск собственных ИИ-моделей требует дорогой GPU-инфраструктуры и глубоких технических знаний. Пользователям сервиса не нужно приобретать дорогостоящие вычислительные машины или нанимать профильных специалистов — все необходимые модели уже подготовлены и развёрнуты на облачных мощностях дата-центров РТК-ЦОД и инфраструктуре «Ростелекома», которые обеспечивают низкую задержку сигнала во всех регионах страны.
«Сегодня большинство компаний хотят использовать современные языковые модели, но далеко не все готовы инвестировать в дорогостоящую GPU-инфраструктуру и её сопровождение. Foundation Model Hub убирает этот барьер. Мы предоставляем готовый доступ к актуальным моделям искусственного интеллекта, берём на себя их развертывание, обновление и эксплуатацию, а наши клиенты оплачивают только фактическое потребление», — сказал Дмитрий Подшибякин, директор по продуктам компании «Турбо Облако».
Для начала работы достаточно выбрать подходящую языковую модель из каталога, получить ключ доступа и интегрировать его в собственный сервис или внутреннюю информационную систему. Foundation Model Hub совместим со спецификацией OpenAI API, поэтому в большинстве случаев для подключения достаточно заменить базовый URL и API-ключ без доработки архитектуры и с минимальными усилиями.
С Foundation Model Hub клиент платит только за фактическое использование токенов, что позволяет избежать неожиданных расходов. Контролировать бюджет помогают разные ключи доступа (API), когда для отдельных команд и проектов можно установить собственный лимит потребления токенов — например, дневной, недельный или месячный.
Мы в соцсетях: #Телеграм #ВКонтакте #Одноклассники #MAX
