AI Инженер

Основные требования

• 5+ лет в бэкенд-разработке, из них 1,5+ года — продукты на LLM, выведенные в прод к реальным пользователям (не только прототипы).
• RAG в проде: чанкинг, эмбеддинги, векторные БД, гибридный поиск, реранкинг; умение объяснить, почему RAG не находит нужный фрагмент, и починить это.
• Агенты и tool calling: агент вызывает API и функции системы, маршрутизация и декомпозиция запросов, structured output.
• Опыт построения evals: эталонные наборы, LLM-as-judge, регрессионные прогоны. Должен уметь цифрой показать, что новая версия лучше предыдущей.
• Уверенный Python и продакшен-инженерия: API, очереди, Docker, CI/CD, логирование, тесты.
• SQL и реляционные БД (PostgreSQL): для отчётов и ответов по данным пользователя.
• Понимание рисков LLM: prompt injection, утечки данных, галлюцинации и как их ограничивать.
• Опыт менторства или код-ревью более младших разработчиков.

• Опыт с документами: правовые тексты, бухгалтерия, HR.
• Опыт с ERP, учётными или B2G-системами.
• Text-to-SQL и генерация отчётов по данным.
• Развёртывание open-source моделей on-prem (vLLM, Ollama и т.п.) — на случай требований госзаказчика к хранению данных.
• Инструменты наблюдаемости LLM: Langfuse, LangSmith или аналоги.
• Знание законодательства РК о персональных данных.
• Публичные демо, доклады или работа с заказчиками на пресейле

Архитектура агента. Маршрутизация вопросов между источниками, разбор составных вопросов, tool calling, управление контекстом и сессиями.

RAG по н