Usamos cookies técnicos e o registro de visitas anonimizado do Zorky. O Yandex Metrica (dados armazenados em servidores na Rússia) só funciona com o seu consentimento. Nunca vendemos dados. Mais sobre cookies e estatísticas.
O Zorky está em modo de teste — tudo é gratuito. As vagas e as páginas das empresas são abertas a todos; os links dos anúncios e sua seleção pessoal abrem após o cadastro. Cadastre-se →
← Todas as vagas

Senior Machine Learning Engineer (vLLM)

Seniorremote~$15.5K /moBoston, US →há 5 d
Análises de mercado
📊 AI / ML / Data Science: salários e demanda no mercado
Stack
c++cloudkuberneteslinuxllmpythonpytorchtritonvllm
Detalhes
Formação
Mestrado
Mostrar empresa e link
Grátis, depois de entrar.
Candidatar-se
Envie seu currículo: empregadores e recrutadores de vários países que procuram o seu perfil poderão falar com você diretamente.
Enviar seu currículo →

Descrição

  • Telecommuting permitted: work may be performed within normal commuting distance from the Red Hat, LLC office in Boston, MA.

Lead the design and implementation of high-performance Python, C++, CUDA, and Triton code for vLLM-based inference systems, GPU kernels, and numerical computing components in production-scale LLM serving environments.

Responsabilidades

What You Will Do:

  • Architect, develop, and optimize advanced LLM inference algorithms, including quantization, sparsification, speculative decoding, paged attention, KV cache optimization, batching, scheduling, and memory management, to significantly improve latency, throughput, scalability, and cost efficiency.
  • Drive deep performance profiling, benchmarking, and modeling on NVIDIA GPUs, using tools such as Nsight Systems, Nsight Compute, CUPTI, PyTorch Profiler, CUDA, Triton, and CUTLASS to identify bottlenecks and deliver measurable system-level improvements.
  • Own the end-to-end optimization of vLLM-based inference pipelines, including kernel-level tuning, runtime optimization, distributed inference, multi-GPU serving, tensor/pipeline parallelism, and large-scale deployment performance.
  • Evaluate, prototype, and integrate state-of-the-art LLM serving techniques from cutting-edge research and open-source communities, including quantization, sparsity, speculative decoding, continuous batching, prefix caching, attention optimization, and model compression.
  • Set engineering standards for performance-critical code, conduct rigorous peer reviews
Descrição completa, empresa e link para se candidatar: depois de entrar. Entrar
Os contatos do empregador (e-mail/telefone/telegram) ficam ocultos na prévia pública. Envie seu currículo para que os empregadores possam falar com você diretamente.
Pergunta urgente? Escreva para @termdocs