Теперь в нашем облаке доступен ИИ-шлюз для подключения крупных языковых моделей.
Таким образом, вы можете встроить LLM в ваши рабочие процессы – и использовать модели в ботах, внутренних инструментах, скриптах и автоматизации без отдельной AI-инфраструктуры.
ИИ-шлюз позволяет:
- подключать разные модели через один API;
- быстро проверять идеи и запускать прототипы;
- использовать готовые интеграции и SDK;
- удобно управлять моделями и ключами прямо в панели управления.
ИИ-шлюз может быть полезен для:
- AI-ботов и ассистентов – LLM можно подключить к поддержке, сервисам и внутренним помощникам;
- AI-функций в продукте – добавляйте генерацию текста, саммари, ответы на вопросы и обработку контента;
- автоматизации задач – используйте LLM в скриптах и рабочих процессах для обработки и классификации данных;
- прототипирования и MVP – тестируйте AI-функции через OpenAI-совместимый API без отдельной инфраструктуры;
- работы с разными моделями – выбирайте LLM под конкретную задачу, не меняя способ интеграции.
Стоимость использования ИИ-шлюза зависит от выбранной модели и рассчитывается за входящие и исходящие токены, оплата списывается с баланса аккаунта по факту потребления, а для API-ключа можно установить месячный лимит расходов.
Мы регулярно обновляем список доступных моделей, чтобы предоставить нашим пользователям самые передовые и полезные модели.
Список актуальных моделей доступен на сайте и в панели управления
Подключить AI-шлюз в панели управления можно уже сейчас – просто выберите модель, создайте ключ и отправьте первый запрос через единый OpenAI-совместимый API.
Также в будущем мы планируем расширить возможности доступа к API AI: добавим подробную статистику расходов, чтобы вы могли следить за потреблением ресурсов по ключам/моделям, и также добавим возможность тестировать модели в изолированной песочнице, чтобы сравнивать их до внедрения в рабочие процессы – следите за обновлениями.
Если у вас возникли вопросы, свяжитесь с нами удобным для вас способом – и мы обязательно ответим. Кроме того, будем рады видеть вас в нашем официальном Telegram-канале, а обсудить возможности сервиса “ИИ-шлюз” и продуктов Beget Cloud вы можете в нашем чате.
