СберMiddle/ Senior Researcher (Центр исследований)
офис, Москва
Команда Центра исследований развивает SoTA мультимодальные модели для анализа финансовых данных и поддержки решений блока Риски. Вы будете генерировать и очищать синтетические данные, тренировать и валидационно оценивать LLM, повышая качество reasoning на реальных данных
ГрейдMiddle/Senior
Опытот 3 лет
Стек
PythonPyTorchSparkHadooptransformerspeftRL methodsDistributed training
Задачи
- •Генерация и очистка синтетических данных с использованием LLM и LLM-as-a-Judge
- •Обучение большой мультимодальной LLM (текст + цифровые следы клиентов)
- •Применение RL-подходов для улучшения reasoning модели
- •Валидация модели на современных бенчмарках по точности и корректности рассуждений
- •Оценка решений на real-world данных
Обязательно
- •опыт работы от 3 лет
- •глубокие знания ML/DL, в частности трансформеров и больших языковых моделей
- •уверенный опыт обучения LLM моделей
- •уверенные знания Python и PyTorch
- •опыт работы с библиотекой transformers и peft
- •опыт работы с Spark/Hadoop
- •английский уровень B2+
Будет плюсом
- •опыт работы с мультимодальными моделями
- •знание методов RL для LLM (RLHF, DPO и др.)
- •опыт распределенного обучения больших моделей (FSDP, ZeRO, mixed-precision, tensor/pipeline parallelism)
- •публикации в топовых журналах или конференциях
