СберРуководитель направления Pretrain Efficiency
Москва
Руководить направлением RL Efficiency в команде GigaChat: ускорять и стабилизировать online RL/RLHF обучение, улучшать утилизацию кластера и сокращать time-to-feedback для экспериментов, внедряя оптимизации в продакшн-пайплайн обучения
ГрейдLead
Стек
PythonPyTorchKubernetesSlurmvLLMSGLangCUDATritonNCCLRay
Задачи
- •развитие направления эффективности RL от идеи до внедрения
- •ускорение цикла online RL: rollout, сбор reward, обновление весов
- •оптимизация взаимодействия обучающего контура и инференса
- •повышение стабильности и воспроизводимости RL-экспериментов
- •профилирование и устранение узких мест в пайплайне и коммуникациях
Обязательно
- •отличное владение Python и PyTorch (DDP/FSDP, distributed training)
- •практический опыт обучения LLM и механик post-training (RLHF, RLVR, PPO/GRPO/DPO)
- •опыт оптимизации обучения и инференса LLM: профилирование, параллелизм, mixed precision
- •понимание архитектуры LLM (Transformer, attention, MoE) и влияния на rollout
- •умение вести направление от постановки задач до внедрения в продакшн-RL
- •опыт руководства технической командой и готовность писать критичный код самостоятельно
Будет плюсом
- •опыт с современными RL-стэками (verl, TRL или собственные решения)
- •опыт с large-scale inference (vLLM, SGLang, TRT-LLM) и оптимизацией генерации
- •навыки написания CUDA / Triton ядер и понимание NVIDIA GPU
- •знание коммуникационного стека NCCL, NVSHMEM, RDMA/IB
- •опыт с кластерными системами: Slurm, Kubernetes, Ray
- •публикации или сильный research / open-source вклад
