LLM Backend Engineer
Москва
Команда AI HUB развивает AI-агентов и инструменты для HR-процессов, интегрируя их в внутреннюю платформу Пульс. Вы будете разрабатывать backend оркестрации агентных графов, RAG-пайплайны и продовые сервисы, повышающие точность и эффективность решений для сотрудников банка.
ГрейдMiddle/Senior
Стек
PythonLangGraphClickHouseKubernetesDockerLangChainLlamaIndexKafka
Задачи
- •разработка и сопровождение backend оркестрации агентных графов на LangGraph
- •интеграция инструментов агентов с внутренними системами через REST/gRPC/MCP/A2A
- •настройка RAG-пайплайнов и работа со сложными промптами
- •упаковка сервисов в Docker и деплой в промышленный Kubernetes
- •проектирование и проведение экспериментов и A/B-тестирования моделей и промптов
- •развитие системы eval: метрики, автоматизация прогонов и анализ результатов
Обязательно
- •практический опыт с LLM: промпт-инжиниринг, пайплайны и интеграция моделей
- •опыт разработки агентных графов на LangGraph и вывод их в прод
- •опыт работы с Docker и оптимизацией образов
- •реальный опыт эксплуатации сервисов в Kubernetes
- •глубокие знания Python: asyncio/multithreading/multiprocessing
- •продвинутые знания SQL и оптимизация запросов
- •опыт A/B-тестирования и понимание метрик качества
Будет плюсом
- •вывод в прод бизнес-критичных ML/AI-приложений
- •адаптация, дообучение и развёртывание open-source моделей в on-premise
- •опыт работы с MCP и разработка MCP-серверов
- •мультиагентные архитектуры и общая память между агентами
- •опыт с Redis и ClickHouse, очередями (Kafka/Celery)
- •портфолио pet-проектов или вклад в open-source
- •опыт работы в регулируемом домене (банк/финтех)