ЯндексML-разработчик в команду оптимизации архитектур и обучений модели планирования движения
Команда развивает модель планирования движения для автономного автомобиля; вы будете оптимизировать вычисления и строить инфраструктуру для масштабных обучений и экспериментов, чтобы ускорить исследовательские итерации и повысить качество модели
ГрейдSenior
Стек
PythonPyTorchCUDAFSDPC++TransformersFlashAttention
Задачи
- •Профилирование и оптимизация PyTorch/CUDA-ядр и узких мест пайплайна
- •Интеграция эффективных техник обучения и инференса трансформеров (например, flash attention, speculative decoding)
- •Разработка и улучшение инфраструктуры для запуска масштабных обучений и экспериментов
- •Оптимизация распределённых обучений и параллелизма (pipeline parallelism, FSDP)
- •Разработка и ускорение среды для обучения через reinforcement learning
Обязательно
- •Программирование на Python и опыт работы с PyTorch
- •Опыт обучения ML-моделей и понимание полного пайплайна обучения
- •Глубокая вовлечённость в ML, чтение научных статей и способность быстро изучать новые методы
- •Хорошее понимание области deep learning и умение разбираться в новых подходах
Будет плюсом
- •Разработка CUDA-ядер и знание архитектуры видеокарт
- •Опыт распределённых обучений (FSDP, pipeline parallelism)
- •Опыт обучения и оптимизации больших трансформеров
- •Умение читать код на C++
- •Интерес к автономным автомобилям или робототехнике
