АвитоData Scientist в команду LLM Core
офис, удалёнка, гибрид, Москва
Команда LLM Core развивает собственные базовые языковые модели и масштабируемые пайплайны претрейна, дообучения и инференса для продуктов Авито. Роль включает исследования моделей, оптимизацию инференса и внедрение результатов в продакшен для снижения стоимости и повышения качества ответов.
ГрейдSenior
Стек
PythonPyTorchDeepSpeedvLLMTensorRT-LLMWeights & BiasesMLflowDVC
Задачи
- •Формулировать и проверять исследовательские гипотезы по претрейну, посттрейну и RL
- •Проводить эксперименты: дизайн, выбор метрик, реализация и анализ результатов
- •Писать и встраивать продакшен-код для обучения и инференса моделей
- •Масштабировать и оптимизировать распределённое обучение и инференс, работать с квантованием и speculative decoding
- •Строить процедуры оценки качества, анализ ошибок и проектировать датасеты и метрики
- •Менторить коллег и участвовать в архитектурных обсуждениях
Обязательно
- •Глубокое понимание ML-алгоритмов и архитектуры Transformer
- •Практический опыт обучения, адаптации или внедрения NLP/LLM-моделей
- •Уверенное программирование на Python
- •Опыт работы с PyTorch и инженерными практиками разработки
- •Умение оформлять эксперименты: метрики, дизайн и анализ результатов
- •Понимание компромиссов между качеством, latency, throughput и стоимостью
Будет плюсом
- •Опыт continual pre-training и работы с токенизаторами
- •Опыт SFT, LoRA или RL-подходов к post-training
- •Опыт распределённого обучения и оптимизации инференса (DeepSpeed, vLLM, TensorRT-LLM)
- •Опыт построения пайплайнов оценки качества и синтетических датасетов
- •Знание MLOps-инструментов для трекинга и версионирования (Weights & Biases, MLflow, DVC)
- •Публикации, вклад в open source или топ-результаты в ML-соревнованиях
