Главный MLOps (Платформа ИИ)
удалёнка, гибрид, Нижний Новгород
Команда платформы ИИ отвечает за проектирование и развитие гибридной инфраструктуры для ML и LLM — от on‑prem Kubernetes‑кластеров с GPU до облачных интеграций. Роль важна для стабильного production‑infereнса, мониторинга моделей и быстрой доставки ML‑сервисов клиентам
ГрейдSenior
Опытот 5 лет
Стек
KubernetesStorageCI/CDGPUDockerLinuxvLLMTritonONNX RuntimeHugging FaceKubeflowMLflowAirflowArgo WorkflowsPrometheus
Задачи
- •Проектирование и развёртывание инфраструктуры платформы ИИ (on‑prem и облако)
- •Построение и поддержка CI/CD/CT‑пайплайнов для ML‑моделей и сервисов
- •Упаковка моделей в сервисы, настройка autoscaling, SLA и observability
- •Настройка мониторинга и алертинга по инфраструктуре и моделям, участие в инцидент‑реакции и post‑mortem
- •Автоматизация ML‑пайплайнов: подготовка данных, обучение, регистрация моделей и управление версиями
- •Поддержка внедрений у клиентов: тиражирование компонентов и оптимизация производительности и стоимости
Обязательно
- •Опыт проектирования и развёртывания платформы ИИ с Kubernetes, storage, сетями и безопасностью
- •Уверенный Linux и понимание сетевых основ и security
- •Опыт работы с контейнерами и оркестраторами (Docker, Kubernetes)
- •Опыт построения CI/CD‑пайплайнов для сервисов и ML‑артефактов
- •Знание мониторинга моделей: метрики качества, дрейф данных, latency/throughput и alerting
- •Опыт работы в гибридной инфраструктуре (on‑prem + публичные облака)
Будет плюсом
- •Высшее техническое или математическое образование
- •Коммерческий опыт в роли от 5 лет
- •Опыт с LLM/GenAI‑платформами (vLLM, TGI, Hugging Face) и оптимизацией инференса (Triton, ONNX Runtime)
- •Опыт с feature store, model registry и ML pipelines (Kubeflow, MLflow, Airflow, Argo Workflows)
- •Опыт FinOps и оптимизации затрат GPU/CPU
- •Опыт интеграции и тиражирования платформных решений у клиентов