Т1Главный MLOps (Платформа ИИ)
гибрид, Нижний Новгород
Работа в команде платформы ИИ: проектирование и развитие инфраструктуры on‑prem и в облаке для запуска ML/LLM‑моделей, CI/CD и мониторинга. Роль обеспечивает надёжный продакшн‑инференс, observability и тиражирование решений для внутренних команд и клиентов
ГрейдLead
Опыт3–6 лет
Стек
KubernetesDockerGPUCI/CDKubeflowMLflowAirflowArgo WorkflowsvLLMTGIHugging FaceTritonONNX RuntimeLinuxMonitoringT1 CloudYandex CloudVK Cloud
Задачи
- •Проектирование, развёртывание и развитие инфраструктуры платформы ИИ (k8s, GPU‑ноды, storage, сети, безопасность)
- •Построение и поддержка CI/CD/CT‑пайплайнов для ML‑моделей и сервисов с канареечными релизами и откатами
- •Интеграция и эксплуатация LLM/ML‑сервисов: упаковка моделей в сервисы, конфигурация autoscaling, SLA и observability
- •Настройка мониторинга и алертинга по инфраструктуре и моделям, отслеживание дрейфа данных, реагирование на инциденты и участие в post‑mortem
- •Автоматизация ML‑пайплайнов: подготовка данных, обучение, регистрация моделей, управление версиями и переобучением
- •Поддержка внедрений у клиентов: тиражирование платформенных компонентов и оптимизация производительности и затрат
Обязательно
- •Коммерческий опыт в роли от 5 лет
- •Опыт проектирования и развёртывания платформы ИИ и Kubernetes‑кластеров под LLM/ML‑нагрузки
- •Опыт построения CI/CD‑пайплайнов для сервисов и ML‑артефактов
- •Знание Linux, сетевых основ и вопросов безопасности
- •Опыт настройки мониторинга моделей, метрик качества, отслеживания дрейфа данных и observability
- •Умение обеспечивать автоскейлинг, SLA, канареечные релизы и быстрые откаты
- •Опыт работы с гибридной инфраструктурой: on‑prem + публичные облака
Будет плюсом
- •Опыт с LLM/GenAI‑платформами (vLLM, TGI, Hugging Face) и оптимизацией инференса (Triton, ONNX Runtime)
- •Опыт построения feature store, model registry и ML pipelines
- •Опыт с Kubeflow, MLflow, Airflow, Argo Workflows
- •Понимание FinOps и оптимизации затрат GPU/CPU
- •Высшее техническое или математическое образование
