Ingénieur IA / LLM : marché

Offre

une offre ouverte ayant passé le contrôle qualité et citant au moins deux technologies

Candidat observé

un candidat dont la stack contient cette technologie ; un agrégat — aucune fiche individuelle ne sort du périmètre

Candidat correspondant

pas encore compté

Fenêtre

offres ouvertes au moment de la création de l'instantané

Junior — entrée typique : Backend Middle / ML Engineer Middle / Data Scientist Middle + projets LLM personnels (expérience démontrable de RAG + LangChain). Le saut Junior → Middle — après le premier déploiement en production d'une fonctionnalité LLM (chatbot / résumé / Q&A dans un vrai produit avec de vrais utilisateurs). Middle → Senior — responsabilité de plusieurs fonctionnalités LLM + optimisation des coûts (mandat typique : réduction de 50-70 % des coûts d'API LLM grâce au cache + à des modèles plus petits + aux arbitrages RAG vs fine-tuning) + méthodologie d'évaluation. Senior → Staff / Principal — stratégie d'IA à l'échelle de l'organisation + architecture de plateforme LLM multi-produits. Parcours de carrière : Backend Senior / ML Engineer Middle (2-3 ans) + intérêt pour les LLM → AI Engineer Junior / Middle (1-2 ans) → Senior → soit AI Engineer Staff / Principal, soit AI Tech Lead / Engineering Manager, soit passage dans un laboratoire d'IA de pointe, soit fondateur d'une startup d'IA.

Top 5 : python, llm, cloud, aws, agile. Python en profondeur (monopole — async / typage / FastAPI). Chaque fournisseur a ses particularités (limites de débit + stratégies de retry + coût par token + fonctionnalités prises en charge). Frameworks LLM : maîtrise de LangChain — le plus grand marché de l'emploi (LCEL — LangChain Expression Language, callbacks, agents, retrievers), LlamaIndex (axé RAG — ingestion des données + stratégies d'indexation), Haystack (deepset), Semantic Kernel (Microsoft, pour les entreprises .NET), LangGraph (orchestration d'agents en DAG — LangChain), AutoGen + CrewAI (multi-agents — en hausse), DSPy (Stanford — programmation déclarative des LLM, en croissance). Maîtrise des bases vectorielles : Pinecone (leader managé), Weaviate (open source modulaire), Qdrant (en Rust — rapide, auto-hébergé), Milvus (échelle entreprise), Chroma (léger, dev / prototypage), pgvector (extension Postgres — adaptée à la production pour les entreprises déjà sur Postgres), Elasticsearch dense_vector + Redis Stack (hybride plein texte + vecteurs). Fine-tuning : LoRA + QLoRA via la bibliothèque PEFT (Hugging Face — standard 2026), Unsloth (entraînement LoRA plus rapide), Axolotl (fine-tuning piloté par configuration). Le fine-tuning complet est rare (coût prohibitif). RLHF / DPO / KTO : bibliothèque TRL (Hugging Face — essor de la Direct Preference Optimization depuis 2024+). Évaluation : RAGAS (spécifique au RAG — fidélité + pertinence de la réponse + précision du contexte), DeepEval, lm-evaluation-harness (benchmarks académiques), Inspect AI (UK AISI, axé sûreté), Promptfoo (tests de régression des prompts), LangSmith (traces + évaluation LangChain — meilleure UX). Observabilité + traçage : Helicone (APM spécifique aux LLM), LangSmith, Langfuse (open source), Arize Phoenix, Datadog LLM Observability (fonctionnalité depuis 2024+). Optimisation des coûts : mise en cache des prompts, compression des prompts (LLMLingua), routage des modèles (petit modèle pour les requêtes simples, grand pour les complexes — via des fournisseurs comme Martian / OpenRouter).

Data Scientist — focus sur la modélisation statistique + les tests A/B + la formulation des problèmes métier. Stack : pandas + sklearn + XGBoost + Jupyter + SQL + Tableau. Voir Data Scientist. ML Engineer — focus sur les pipelines ML en production + le déploiement + la mise à l'échelle. Stack : PyTorch + sklearn + Kubernetes + MLflow + ML managé dans le cloud. Généraliste — travaille sur les systèmes de recommandation / la fraude / le ranking / le ML classique. Voir ML Engineer. AI Engineer (cette page) — focus sur l'intégration de LLM dans le produit. N'entraîne PAS de modèles de fondation (c'est la Recherche), ne construit PAS de pipelines ML classiques (c'est l'ML Engineer). Stack : Python + fournisseurs de LLM + LangChain / LlamaIndex + bases vectorielles + serving vLLM + patterns RAG + fine-tuning LoRA + outils d'évaluation de LLM. Distinction clé 2026 : l'AI Engineer réutilise des LLM préentraînés, l'ML Engineer entraîne souvent des modèles à partir de zéro. L'AI Engineer travaille avec les API/prompts/RAG ; l'ML Engineer — avec des boucles d'entraînement + du feature engineering. Reconversions : Backend Senior → AI Engineer Junior — 2-4 mois (montée en compétence rapide grâce au travail basé sur des API + LangChain facile à apprendre). ML Engineer Senior → AI Engineer Senior — 1-3 mois (connaît déjà les bases de la stack, doit approfondir le spécifique LLM). DS Senior → AI Engineer Middle — 3-6 mois. AI Engineer Senior → Recherche — nécessite des mathématiques plus poussées + une expérience de rédaction d'articles + 6-12 mois de préparation.

Arbre de décision pour la personnalisation des LLM 2026 : 1) Prompt Engineering — premier essai. Cas d'usage : le zero-shot ou few-shot SUFFIT pour la tâche. Avantages : coût nul (pas d'entraînement), itération instantanée, indépendant du modèle. Inconvénients : contrôle limité, fragilité des prompts, pression sur la fenêtre de contexte. 2) RAG (Retrieval-Augmented Generation) — idéal pour les tâches fondées sur des connaissances. Cas d'usage : chatbot, Q&A, recherche documentaire, support client, documentation de code, bases de connaissances internes. Architecture : requête → embedding → recherche vectorielle → top-k documents → enrichissement du prompt avec le contexte récupéré → le LLM génère la réponse. Avantages : ancrage factuel (anti-hallucination), à jour (il suffit de mettre à jour l'index, sans réentraînement), citation des sources possible, moins cher que le fine-tuning. Inconvénients : la qualité de la récupération est un goulot d'étranglement, la taille du prompt augmente. Stack RAG 2026 : ingestion (document loaders LlamaIndex / LangChain) → stratégie de découpage (sémantique, taille fixe ou récursif) → embeddings → base vectorielle (Pinecone / Qdrant / Weaviate / pgvector) → récupération (similarité + reranking via Cohere Rerank / BGE Reranker) → enrichissement du prompt → génération par le LLM. RAG avancé : recherche hybride (vecteur + BM25), HyDE (Hypothetical Document Embeddings), réécriture de requêtes, récupération multi-sauts, auto-réflexion (CRAG / Self-RAG). 3) Fine-tuning — à utiliser quand le prompt engineering + le RAG ne suffisent pas. Cas d'usage : a) style / format propre à un domaine (médical / juridique — formulations spécifiques), b) réduction du coût en tokens (un petit modèle fine-tuné remplace un grand modèle généraliste), c) tâches exigeant des connaissances spécialisées approfondies (où la fenêtre de contexte du RAG n'aide pas). Fine-tuning moderne : LoRA / QLoRA (PEFT) — entraîner un petit adaptateur (~1 % des poids), le fine-tuning complet est rare. Stack : Hugging Face Transformers + PEFT + TRL + Unsloth (plus rapide) + Axolotl (piloté par configuration). Matériel : GPU de 24 Go (RTX 4090 / A6000) pour les modèles de 7-13B, 80 Go+ (A100/H100) pour 70B+. Réalité des coûts 2026 : prompt engineering — quelques minutes, $0. Mise en place d'un RAG — 1-2 semaines d'ingénierie, $100-1 000/mois de coûts d'API. 4) Combinaison : les fonctionnalités IA réelles en production utilisent généralement les TROIS. Prompt engineering d'abord (prompts système + exemples few-shot) → RAG pour l'ancrage → fine-tuning LoRA optionnel pour le style/format. 5) Patterns agentiques (en essor 2025–2026) — LLM + utilisation d'outils + raisonnement multi-étapes. Utiliser LangGraph / AutoGen / CrewAI / DSPy. Par défaut 2026 : RAG pour 80 % des cas d'usage en production + prompt engineering pour le prototypage + fine-tuning LoRA uniquement si le RAG est explicitement insuffisant + agents pour les workflows complexes multi-étapes.

Oui, 33 % des offres d'AI Engineer sont entièrement à distance ou hybrides. Le travail d'AI Engineer est entièrement dans le cloud (API de LLM + bases vectorielles + GPU cloud — tout est accessible à distance). Les sociétés d'outsourcing (EPAM AI / Luxoft AI / Andersen AI / DataArt AI) — presque toujours à distance sur des projets IA américains. Banques russes — hybride/bureau pour des raisons de conformité des données d'IA. Laboratoires d'IA de pointe internationaux — tout à distance standard pour les candidats exceptionnels. IA des Big Tech — hybride standard. Startups IA de Y Combinator — tout à distance premium. L'anglais pour le télétravail international en IA — indispensable (prime de +40-60 %, et la communauté IA / les articles / la documentation sont entièrement en anglais).

Feuille de route : 1) Python en profondeur + bases du backend — async / typage / FastAPI / pytest. Sans compétence backend — pas d'AI Engineer (juste un « prompt jockey »). Livre : « Fluent Python » de Ramalho. 2) Compréhension des fondamentaux des LLM — bases de l'architecture transformer (attention + tokenisation + stratégies de décodage + fenêtres de contexte), mais pas besoin de l'implémenter à partir de zéro. Cours : « Building LLMs from scratch » de Karpathy sur YouTube (gratuit — le meilleur pour l'intuition). Livre : « Hands-On Large Language Models » de Jay Alammar / Maarten Grootendorst (2024 — à lire absolument). 3) Maîtrise de l'API OpenAI — chat completions + function calling + structured outputs + streaming + assistants. Construire au minimum 3 vraies applications. Crédits gratuits + expérimentation bon marché. 4) Maîtrise de l'API Anthropic Claude — la meilleure pour le code + les cas d'usage à long contexte. Tool use + prompt caching + computer use (si la filière agents IA vous intéresse). 5) Maîtrise de LangChain — l'exigence la plus fréquente sur le marché de l'emploi. LCEL (LangChain Expression Language), chaînes, agents, retrievers, callbacks. Cours : « LangChain & Vector Databases in Production » de DeepLearning.AI (gratuit). 6) Architecture RAG en profondeur — chargeurs de documents + stratégies de découpage (sémantique / fixe / récursif) + choix des embeddings + choix de la base vectorielle + algorithmes de recherche + reranking. Construire une application RAG de production avec des patterns avancés (recherche hybride + reranking + HyDE). 7) Maîtrise des bases vectorielles — au moins une en profondeur (Qdrant — la meilleure pour apprendre en auto-hébergé) + une managée (Pinecone). Comprendre les bases des algorithmes HNSW / IVF / PQ. 8) Pratique du fine-tuning — LoRA / QLoRA via la bibliothèque PEFT + Unsloth (plus rapide). Faire le fine-tuning de Llama 3.x 8B sur votre propre jeu de données. Matériel : Google Colab Pro+ ($50/mois) ou RunPod / Vast.ai (location de GPU bon marché). 9) Service avec vLLM — déployer un modèle ouvert avec vLLM + mesurer le débit + comparer avec l'API OpenAI. 10) Maîtrise de l'évaluation — RAGAS + DeepEval + suite d'évaluation sur mesure. Construire un test de non-régression pour les prompts. 11) Observabilité avec LangSmith / Langfuse — instrumenter une application de production + analyser les traces + identifier les goulots d'étranglement. 12) Frameworks d'agents — bases de LangGraph + AutoGen + CrewAI + DSPy. Construire une démo multi-agents (agent de recherche + agent de rédaction + agent critique). 13) Portfolio de projets personnels : une fonctionnalité IA de niveau production (par ex. questions-réponses sur les documents d'un jeu de données ouvert) avec RAG + évaluation + observabilité + suivi des coûts. Documenter comme portfolio (GitHub + article de blog + vidéo de démo). Formations russes : filière « AI Engineer » de Karpov.Courses, Otus « LLM Engineering », École d'IA de la HSE, filière AI Engineer de School21 (Sber). Livres à lire absolument : « AI Engineering » de Chip Huyen (2024), « Hands-On Large Language Models » d'Alammar / Grootendorst, « Building LLMs for Production » de Bouchard / Peng. Backend Senior + intérêt pour les LLM → AI Engineer Junior — 2-4 mois (l'entrée la plus rapide dans le monde du ML). ML Engineer Senior → AI Engineer Senior — 1-3 mois. Data Scientist → AI Engineer Middle — 3-6 mois.

72 postes ouverts actifs d'AI Engineer dans notre échantillon — une niche jeune (apparue en 2023 après le boom de ChatGPT). Le marché réel est bien plus large — la plupart des rôles d'AI Engineer sont classés par notre matcher comme ML Engineer ou Backend généralistes (car les intitulés sont souvent « Senior Backend Engineer (AI focus) » ou « ML Engineer — LLM »). Le vivier réel des postes de développement axés IA dans la CEI + l'Europe est estimé à 500-2 000 postes actifs à tout moment en 2026 (en tenant compte de ceux classés de façon floue). Géographie : États-Unis, Pologne, Royaume-Uni. Délai pour pourvoir un poste de Senior AI Engineer — 4-10 semaines en Russie, 6-12 semaines à l'international (prime pour compétences rares). Tendance 2026 : le vivier d'AI Engineers croît le plus vite parmi toutes les catégories IT — nous observons une croissance de 3-5× sur un an des offres mentionnant les LLM.

Un AI Engineer Senior prend en charge le cycle complet d'ingénierie des produits LLM + l'optimisation des coûts + le leadership technique. Python en profondeur + niveau Backend Senior : maîtrise d'async / typing / FastAPI / pytest. Connaissance des LLM ouverts : Llama 3.x / Mistral / Qwen 2.5 / DeepSeek V3 + R1 / Phi 3 / Gemma 2 — arbitrages performance / coût, quand utiliser lequel. Maîtrise de LangChain : LCEL en profondeur, callbacks, agents, retrievers, écriture de chaînes personnalisées, débogage via LangSmith. Ou l'équivalent dans LlamaIndex / Haystack / Semantic Kernel. Maîtrise de l'architecture RAG : patterns avancés (recherche hybride BM25 + vecteurs, reranking, HyDE, réécriture de requêtes, récupération multi-sauts, patterns d'auto-réflexion CRAG / Self-RAG), stratégies de découpage (sémantique + récursif + hiérarchique), choix du modèle d'embedding. Maîtrise approfondie des bases vectorielles : l'une de Pinecone / Qdrant / Weaviate / Milvus / pgvector en profondeur — réglage des index, sharding, réplication, implémentation de la recherche hybride. Maîtrise du fine-tuning : LoRA / QLoRA via PEFT + Unsloth + Axolotl, préparation des jeux de données (instruction tuning + données DPO), choix des hyperparamètres, méthodologie d'évaluation. Bases de RLHF / DPO / KTO : bibliothèque TRL pour l'optimisation des préférences. Maîtrise du serving : vLLM avancé (PagedAttention + continuous batching + speculative decoding + optimisation du KV cache), TGI, SGLang. Architectures d'agents : maîtrise de LangGraph + AutoGen + CrewAI + DSPy, implémentation de MCP (Model Context Protocol), patterns de conception de l'usage d'outils, orchestration multi-agents. Maîtrise de l'évaluation : RAGAS + DeepEval + conception de suites d'évaluation personnalisées, méthodologie LLM-as-judge, tests de régression des prompts, tests A/B des fonctionnalités LLM. Observabilité + traçage : maîtrise de LangSmith + Langfuse + Helicone + Arize Phoenix + Datadog LLM Observability. Maîtrise de l'optimisation des coûts : stratégies de prompt caching (natif + Redis personnalisé), compression de prompts (LLMLingua), routage de modèles (petit pour le simple / grand pour le complexe via OpenRouter / Martian), API batch pour le non temps réel. Mission typique d'un Senior : réduction de 50-70 % des coûts d'API LLM. Sécurité / garde-fous : NeMo Guardrails, Llama Guard, intégration de l'API OpenAI Moderation, défense contre l'injection de prompts, filtrage des sorties. Conception de systèmes pour les produits LLM : concevoir au tableau blanc un produit RAG à l'échelle de 100 M+ requêtes/jour, considérations multi-régions, budgets de latence (cible P95 < 2 s pour le chat). Soft skills : rédaction d'ADR pour les décisions d'architecture LLM, rédaction technique (documents de conception de fonctionnalités LLM), collaboration inter-équipes (équipes Produit / Backend / DS / Recherche), mentorat d'AI Engineers Middle, discipline de lecture d'articles (NeurIPS / ICLR / EMNLP — à suivre absolument). Anglais INDISPENSABLE pour Senior+ — la communauté IA / la documentation / les articles / les conférences sont entièrement en anglais. Bonus facultatif : contributions open source à LangChain / LlamaIndex / vLLM / Hugging Face — augmentent fortement la valeur sur le marché pour le recrutement dans les laboratoires d'IA de pointe. Présence IA sur Twitter (publications régulières sur des expériences LLM) — importante pour le recrutement via les contacts de la communauté.