ЯндексРуководитель команды CUDA-инференса в Автономный транспорт
Руководство направлением ускорения инференса моделей для автономного вождения: разработка и оптимизация CUDA‑ядер и реализация end-to-end ускорений на целевых платформах. Работа важна для снижения latency и повышения throughput и эффективности использования памяти в автомобилях.
ГрейдLead
Стек
C++CUDATensorRTPyTorchONNXCUTLASSTritonNsight
Задачи
- •Руководство командой и формирование технического вектора направления
- •Проектирование и оптимизация CUDA‑ядер для ключевых блоков моделей (matmul, conv, attention)
- •Снижение memory traffic и launch overhead для устойчивого ускорения в end-to-end сценариях
- •Профилирование и системный анализ bottleneck на целевом железе
- •Формирование и контроль метрик latency, throughput и эффективности использования памяти
Обязательно
- •Сильный опыт CUDA performance engineering
- •Опыт разработки и оптимизации kernel для matmul/conv/attention
- •Хорошее знание C++
- •Понимание memory hierarchy GPU и cost model вычислительных операций
- •Умение находить bottleneck через профилирование и добиваться измеримого ускорения
- •Способность к техническому лидерству или управлению командой
- •Умение аргументировать performance‑решения и работать в кросс‑командной среде
Будет плюсом
- •Опыт с CUTLASS, Triton или кастомными inference‑движками
- •Оптимизация моделей под конкретные GPU‑архитектуры
- •Опыт с quantization и mixed precision
- •Построение roofline‑моделей и latency/bandwidth‑оценок
- •Знание fusion‑подходов и graph‑level оптимизаций
- •Опыт работы с Nsight и другими профилировщиками
