OzonOzon

Старший Go-разработчик, ML-платформа

удалёнка, гибрид, Москва

Команда платформы инференса Ozon разрабатывает отказоустойчивую высокопроизводительную инфраструктуру для запуска ML-моделей в продуктах — ранжирование, рекомендации и CV; роль важна для стабильности и скорости инференса при пиковых нагрузках

ГрейдSenior
Опытот 4 лет

Стек

GoJavaPostgreSQLKubernetesDockerTriton Inference ServerKafka

Задачи

  • •Проектировать и разрабатывать высоконагруженные сервисы для инференса ML-моделей
  • •Интегрировать ML-рантаймы в платформенную инфраструктуру на Java и Go
  • •Разрабатывать унифицированный API инференса для команд Data Science
  • •Реализовывать автоскейлинг и эффективное распределение нагрузки в Kubernetes
  • •Оптимизировать выполнение моделей на GPU: batching, управление памятью, снижение latency
  • •Обеспечивать SLA платформы и участвовать в разборе инцидентов

Обязательно

  • •Коммерческий опыт разработки на Go или Java/Kotlin от 4 лет
  • •Опыт проектирования микросервисной архитектуры и работы с распределёнными системами
  • •Знание многопоточности и конкурентного программирования
  • •Умение писать чистый, тестируемый и поддерживаемый код
  • •Опыт работы с облачной инфраструктурой (желательно Kubernetes)

Будет плюсом

  • •Опыт работы с ML-инфраструктурой и GPU (CUDA, Triton, KServe)
  • •Понимание MLOps-практик
  • •Опыт работы с Kafka или другими системами очередей
  • •Опыт оптимизации высоконагруженных систем
Откликнуться на сайте компании

Похожие вакансии

МТСМТС

Ведущий инженер по машинному обучению [Секретарь, МТС Веб Сервисы]

PythonPyTorchHugging FaceASR

Сервисы синтеза и обработки голоса для диалоговой платформы

офис, Москва
SimpleSimple

Разработчик AI

AI-агентыAI-инструментыAI-harnessпрототипирование

Инструменты и платформа для агентской AI-разработки

Опыт: от 3 лет
гибрид, Москва
АвитоАвито

Старший DS-инженер в команду Аuction Efficiency

PythonPyTorchSQLPandas

Сервисы DL и SOTA‑моделей для монетизации объявлений

Опыт: от 1 года
офис, удалёнка, Москва
МТСМТС

Стажер Специалист по исследованию данных (Data Science) [RecSys платформа, Big Data, МТС Веб Сервисы]

PythonSklearnNumPyCatBoost

Рекомендательные сервисы для Мой МТС и магазина

гибрид, Москва
OzonOzon

Руководитель группы разработки ИИ-агентов (ERP)

PythonFastAPIPostgreSQLgRPC

Агенты для автоматизации учётных процессов и закрытия периода

Опыт: 6+ лет
удалёнка, гибрид, Москва
АвитоАвито

Руководитель разработки юнита LLM Tech

LLMGPUQuantizationSpeculative decoding

Платформа и пайплайн для обучения и инференса LLM

офис, удалёнка, Москва

Смотреть ещё

JobsWave
Найти работу в IT