СберLLM Engineer / Inference Engineer (Центр Практического ИИ)
офис, гибрид, Москва
Команда Центра практического ИИ строит и дообучает LLM для банковских сценариев и запускает их в production в закрытых контурах с жёсткими SLA. Роль охватывает подготовку данных, дообучение моделей, оценку качества, оптимизацию инференса, нагрузочное тестирование и внедрение.
ГрейдSenior
Опытот 3 лет
Стек
PythonGPU-кластеры
Задачи
- •Готовить и очищать датасеты для pre-training и fine-tuning
- •Дообучать и экспериментировать с LLM на GPU-кластерах
- •Анализировать результаты экспериментов и улучшать качество моделей по метрикам
- •Оптимизировать инференс и проводить нагрузочное тестирование
- •Внедрять модели в production в закрытых контурах и поддерживать пайплайны
Обязательно
- •практический опыт обучения LLM (pre-training, fine-tuning, alignment)
- •глубокое понимание архитектуры LLM, токенизации, пайплайнов, batching и mixed precision
- •опыт распределённого обучения и отладки неудачных итераций
- •опыт разработки на Python от 3 лет, чистый поддерживаемый код
- •внимание к деталям и коммуникативные навыки
Будет плюсом
- •опыт разработки AI‑агентов и агентных фреймворков
- •знание инструментов логирования экспериментов (Weights & Biases, MLflow, Langfuse)
- •опыт оптимизации инференса и хостинга моделей в production
- •дизайн и поддержка eval‑пайплайнов с метриками и регресс‑проверками
