Старший Go-разработчик, ML-платформа
удалёнка, гибрид, Москва
Команда платформы инференса Ozon разрабатывает отказоустойчивую высокопроизводительную инфраструктуру для запуска ML-моделей в продуктах — ранжирование, рекомендации и CV; роль важна для стабильности и скорости инференса при пиковых нагрузках
ГрейдSenior
Опытот 4 лет
Стек
GoJavaPostgreSQLKubernetesDockerTriton Inference ServerKafka
Задачи
- •Проектировать и разрабатывать высоконагруженные сервисы для инференса ML-моделей
- •Интегрировать ML-рантаймы в платформенную инфраструктуру на Java и Go
- •Разрабатывать унифицированный API инференса для команд Data Science
- •Реализовывать автоскейлинг и эффективное распределение нагрузки в Kubernetes
- •Оптимизировать выполнение моделей на GPU: batching, управление памятью, снижение latency
- •Обеспечивать SLA платформы и участвовать в разборе инцидентов
Обязательно
- •Коммерческий опыт разработки на Go или Java/Kotlin от 4 лет
- •Опыт проектирования микросервисной архитектуры и работы с распределёнными системами
- •Знание многопоточности и конкурентного программирования
- •Умение писать чистый, тестируемый и поддерживаемый код
- •Опыт работы с облачной инфраструктурой (желательно Kubernetes)
Будет плюсом
- •Опыт работы с ML-инфраструктурой и GPU (CUDA, Triton, KServe)
- •Понимание MLOps-практик
- •Опыт работы с Kafka или другими системами очередей
- •Опыт оптимизации высоконагруженных систем