СберSenior ML Platform Engineer
Москва
Команда развивает ML‑платформу: сервисы и пайплайны для обучения и инференса моделей, включая LLM. Роль важна для надежности и масштабируемости ML‑функционала и ускорения вывода моделей в прод
ГрейдSenior
Опытот 5 лет
Стек
PythonFastAPIQdrantKubernetesAsyncIODockerCI/CDPrometheusGrafanaSentryLangChainvLLMMilvuspgvectorMLflowClearmlAirflowFeature StoreDjangoFlask
Задачи
- •Проектирование и разработка сервисной архитектуры и компонентов (БД, очереди, кэши, векторные хранилища)
- •Написание высоконагруженного и отказоустойчивого кода на Python
- •Создание внутренних библиотек и фреймворков для работы с обучением моделей
- •Разработка пайплайнов инференса и управление контекстом для LLM, интеграция с внешними и локальными моделями
- •Траблшутинг на стыке инфраструктуры и ML, настройка мониторинга, логирования и алертинга
- •Сбор требований от стейкхолдеров и превращение их в технические решения, проведение code review
Обязательно
- •Коммерческая разработка на Python от 5 лет, минимум 1 год в ML
- •Опыт проектирования распределённых, отказоустойчивых архитектур (микросервисы, event-driven)
- •Глубокое понимание GIL, async/await, работы с памятью и многопоточности
- •Умение писать чистый, тестируемый и переиспользуемый код (библиотеки)
- •Опыт с Docker, Kubernetes и CI/CD
- •Понимание и настройка мониторинга и логирования (Prometheus, Grafana, Sentry)
Будет плюсом
- •Опыт с векторными базами данных (Qdrant, Milvus, pgvector)
- •Знание MLOps инструментов и практик (MLflow, Clearml, Airflow, Feature Store)
- •Опыт работы с инструментами для LLM и управления контекстом (LangChain, vLLM)
