Рубрик
«Группа Астра» выпустила Боцман AI 🫡 Это платформа для запуска языковых моделей внутри защищённого контура компании. Данные никуда не уходят, всё работает на вашей инфраструктуре. Бизнес хочет использовать ИИ, но регуляторы и ИБ не позволяют отправлять данные во внешние сервисы. А разворачивать модели самостоятельно это каждый раз отдельный проект с кучей сложностей. И как раз Боцман AI забирает эту рутину на себя. 🔎 Работает так: Платформенная команда описывает модель через Kubernetes-ресурс, система автоматически подготавливает хранилище, запускает нужный движок (vLLM, Ollama, SGLang или FasterWhisper) и публикует модель через единый шлюз. Бонусом для разработчиков идет привычный OpenAI-совместимый API. Переписывать код не нужно, можно только сменить адрес сервиса. Больше информации о релизе на сайте: https://clck.ru/3UXitQ Запросить демонстрацию: https://clck.ru/3UXivL
1 фото
«Группа Астра» выпустила Боцман AI
Рубрики
Информационные технологии и Телеком