Senior Data Scientist LLM (AI-ассистент)
гибрид, Москва
Команда строит виртуального сотрудника для департамента клиентов — LLM‑ассистента, интегрируемого во все каналы взаимодействия сотрудников банка. Роль фокусируется на разработке RAG‑решений, интеграции с внутренними системами и выборе оптимальных LLM для бизнес‑задач.
ГрейдSenior
Стек
PythonLangChainSQLPySparkOpenAI GPTLlama (Meta)Claude (Anthropic)MistralLlamaIndexHaystackAutoGenPandasNumPyPySparkn8nlangflowvector databasesDatabricks
Задачи
- •разработка и оптимизация LLM-решений
- •сравнительный анализ и бенчмаркинг LLM и фреймворков
- •создание кастомных RAG-архитектур с учётом банковских данных
- •интеграция LLM с внутрибанковскими API и системами управления данными
- •коммуникация с бизнес-заказчиками и трансформация требований в технические решения
Обязательно
- •экспертиза в работе с LLM (OpenAI GPT, Llama, Claude, Mistral и др.)
- •понимание архитектуры LLM, механизмов внимания и токенизации
- •опыт работы с LangChain, LlamaIndex, Haystack, AutoGen
- •практический опыт разработки и оценки RAG-систем, retrieval strategies и работу с векторными БД
- •коммерческая разработка на Python
- •знание SQL и NoSQL и опыт с big data инструментами (Spark/Databricks) и инструментами анализа данных (Pandas, NumPy, PySpark)
Будет плюсом
- •опыт CI/CD (GitLab CI, GitHub Actions, Jenkins)
- •опыт оптимизации и fine-tuning LLM (LoRA, QLoRA, PEFT, vLLM)
- •знание основ машинного обучения и статистики
- •опыт в финансовой индустрии и понимание банковских продуктов
- •понимание регуляторных требований (ФЗ-152, GDPR, PSD2) и принципов data governance
- •опыт мониторинга LLM в продакшене
- •публикации в области NLP/LLM