«Группа Астра» выпустила Боцман AI 🫡
Это платформа для запуска языковых моделей внутри защищённого контура компании. Данные никуда не уходят, всё работает на вашей инфраструктуре.
Бизнес хочет использовать ИИ, но регуляторы и ИБ не позволяют отправлять данные во внешние сервисы. А разворачивать модели самостоятельно это каждый раз отдельный проект с кучей сложностей. И как раз Боцман AI забирает эту рутину на себя.
🔎 Работает так: Платформенная команда описывает модель через Kubernetes-ресурс, система автоматически подготавливает хранилище, запускает нужный движок (vLLM, Ollama, SGLang или FasterWhisper) и публикует модель через единый шлюз.
Бонусом для разработчиков идет привычный OpenAI-совместимый API. Переписывать код не нужно, можно только сменить адрес сервиса.
Больше информации о релизе на сайте: https://clck.ru/3UXitQ
Запросить демонстрацию: https://clck.ru/3UXivL
