DevOps / LLMOps Engineer (AI-платформа)

Тех — продуктовая IT-компания, которая с 2008 года разрабатывает решения для автоматизации юридических процессов. Сейчас мы развиваем Право

Агент — платформу AI-агентов для решения юридических задач. Наши агенты работают с документами, находят информацию в законодательстве и судебной практике с помощью RAG и помогают готовить юридические документы. Мы ищем DevOps / LLMOps Engineer в продуктовую команду Право

Агента. Нам нужен инженер, который поможет развивать инфраструктуру AI-платформы, обеспечивать стабильную работу моделей и станет связующим звеном между разработчиками продукта и командой Platform Engineering.

Разворачивать и поддерживать сервисы AI-платформы в Kubernetes, работать с Helm и CI/CD в GitLab. Запускать и поддерживать ML/LLM-модели на GPU, оптимизировать их работу под нагрузкой. Обеспечивать стабильную работу сервисов для обработки документов, эмбеддингов и RAG-поиска.

Настраивать интеграции с внешними LLM-провайдерами, управлять лимитами, отказоустойчивостью и расходами. Развивать инфраструктуру для запуска языковых моделей на собственных GPU. Взаимодействовать с командами DevOps и Platform Engineering: собирать требования, согласовывать решения и сопровождать их реализацию.

Участвовать в автоматизации инфраструктуры, мониторинга и эксплуатации сервисов. Для нас важно: Опыт работы в DevOps / MLOps / LLMOps от 2 лет. Коммерческий опыт работы с LLMOps от 1 года , включая развёртывание ML/LLM-моделей на GPU.

Понимание принципов рабо