Wildberries & RussMLOps Engeneer (MLE)
Работа в команде MLE над построением CI/CD пайплайнов обучения и reproducible model registry, развёртыванием и оптимизацией инференс-контуров на GPU. Задача — обеспечить стабильный, масштабируемый и наблюдаемый inference для DS-команд отдела Trust & Safety.
ГрейдMiddle/Senior
Стек
PythonFastAPIONNXKubernetesNVIDIA TritonTensorRTClearMLPyTorchgRPCKafkaGitLab CIHelm
Задачи
- •Строить и автоматизировать пайплайны обучения в ClearML и model registry
- •Автоматизировать деплой моделей в Triton с конвертацией в ONNX и TensorRT
- •Развивать Python-сервисы вокруг inference gateway, gRPC, батчинг и очереди
- •Ускорять инференс через профилирование, dynamic batching, ensemble и TensorRT-оптимизации
- •Поддерживать SLA: метрики, алертинг, разбор инцидентов и дежурства
- •Проектировать размещение моделей на GPU-кластере и стандартизировать контур для отдела
Обязательно
- •Уверенный Python и опыт асинхронных сервисов (FastAPI, asyncio)
- •Опыт с Triton или другим model serving и конвертацией моделей (ONNX, TensorRT)
- •Опыт работы с MLOps-платформой (ClearML, Kubeflow, MLflow) — пайплайны, трекинг, registry
- •Инженерное понимание ML-стека и GPU-инференса (PyTorch, упаковка моделей)
- •Kubernetes на уровне разработки сервисов, включая деплой, Helm, HPA и отладку подов
- •Опыт с GitLab CI, инфраструктурой как код, мониторингом и логами
- •Умение взаимодействовать с DS-командами и доводить решения до продакшна
