СберSenior LLM Engineer
Москва
Команда разрабатывает AI‑агентов и интеграции LLM для департамента ключевых клиентов. Вы проектируете агентные архитектуры, реализуете RAG и промпты, интегрируете решения через API/MCP, запускаете и поддерживаете сервисы в продакшене для бизнес‑клиентов
ГрейдSenior
Опыт3–6 лет
Стек
PythonLangChainQdrantFastAPILlamaIndexOpenAIMilvuspgvectorPydanticCI/CD
Задачи
- •Проектирование агентных архитектур: ReAct, планы‑действия, мультиагентные схемы и маршрутизация между моделями и сценариями
- •Реализация tool calling и разработка/версионирование промптов (few‑shot, CoT, structured output)
- •Внедрение RAG: чанкинг, эмбеддинги, векторный и гибридный поиск, реранжирование и работа с метаданными
- •Интеграция LLM с корпоративными системами через API и MCP, написание и поддержка own tools, обработка ошибок и таймаутов
- •Построение evals и автоматических прогонов для контроля качества моделей
- •Защита от галлюцинаций и prompt injection, контроль grounding на источниках, мониторинг качества и стоимости в продакшене
Обязательно
- •5+ лет в разработке ПО
- •2+ года практической работы с LLM и агентными системами
- •уверенный Python и промышленная разработка: тесты, code review, CI/CD
- •практика с фреймворками агентов/LLM‑стеком: LangChain, LlamaIndex, OpenAI/локальные API
- •глубокое понимание RAG, эмбеддингов и векторных БД (Qdrant/Milvus/pgvector)
- •опыт вывода LLM‑решений в продакшн и их эксплуатации
- •опыт построения evals и оценки качества LLM‑систем
Будет плюсом
- •опыт fine‑tuning (LoRA/QLoRA, SFT/DPO) и работы с моделями на собственных мощностях
- •опыт сервинга и оптимизации inference (vLLM, TGI) и GPU‑инфраструктуры
- •опыт интеграций с enterprise‑ландшафтом: очереди, ESB, MCP, внутренние сервисы банка
- •публикации, доклады, вклад в open‑source, опыт наставничества
