AI security Lead в Центр Робототехники

В Центре Робототехники Сбера мы занимаемся созданием универсального воплощенного ИИ для роботов, который способен управлять разнообразными физическими воплощениями. Кроме этого, одним из ключевых направлений нашей работы является разработка антропоморфного робота общего назначения, не безызвестного Грина.

проведение Red Teaming и пентеста ИИ-агентов: поиск промпт-инъекций, отравлений данных, jailbreaks и обходов системных инструкций. проектирование и внедрение защиты агентов: системы модерации, детекторы, изоляция, контроль цепочек инструментов. консультирование инженерных команд по безопасной интеграции агентов с корпоративными системами и интернетом, помощь в проектировании архитектуры создание практических гайдлайнов по работе с агентами (выдаче API-ключей, ограничению доступа к файловой системе и проверке действий агента).

проведение код-ревью пайплайнов агентов с фокусом на безопасность LLM-вызовов и обработку внешних данных. аудит и поиск уязвимостей в моделях управления роботом: защита от состязательных (adversarial) атак, визуальных обманок и злонамеренного переобучения. проектирование безопасных ML-контуров внедрение практик MLSec

Ops: сканирование весов моделей, контроль целостности датасетов, аудит-логирование решений. настройка безопасного деплоя: изоляция инференса в песочницах, управление секретами, мониторинг аномалий в поведении агентов. участие во внутренних митапах и воркшопах для работников по безопасности ИИ.

опыт в AppSec, MLSec или