Лемана ПРОРуководитель направления разработки LLM
Москва
Руководитель направления будет формировать стратегию и архитектуру центральной LLM и платформы вокруг неё: обучение и деплой моделей, логирование, мониторинг, биллинг и безопасность. Роль критична для внутренних интеллектуальных сервисов и автоматизации рабочих процессов.
ГрейдLead
Опытот 3 лет
Стек
PythonFastAPIKubernetesHuggingFaceLangChainvLLMRay ServeMLflowPrometheusGrafanaDockergRPCCI/CDOpenAI APILlamaIndex
Задачи
- •спроектировать и построить центральную корпоративную LLM (fine-tuning, оптимизация)
- •выбрать стек и интегрировать open‑source решения (LangChain, HuggingFace, vLLM и др.)
- •организовать инфраструктуру для обучения, деплоя и масштабирования моделей
- •создать платформу управления модельным зоопарком, логирования, мониторинга и биллинга
- •обеспечить безопасность, контроль доступа и соответствие комплаенсу
- •руководить командой инженеров и взаимодействовать с бизнесом для формулировки требований
Обязательно
- •опыт в роли AI Architect / ML Platform Engineer / Technical Lead от 3 лет
- •практический опыт обучения и кастомизации LLM (fine-tuning, LoRA, RAG, quantization)
- •знание экосистемы LLM/GenAI (HuggingFace, LangChain, OpenAI API и др.)
- •опыт проектирования и эксплуатации AI/ML-платформ в продакшне
- •владение MLOps/DevOps практиками (Docker, Kubernetes, CI/CD)
- •опыт работы с системами логирования и мониторинга (Prometheus, Grafana, MLflow)
- •уверенное знание Python и современных бэкенд‑фреймворков (FastAPI, gRPC)
Будет плюсом
- •опыт построения и оптимизации корпоративных или доменных LLM
- •опыт работы с GPU‑кластерами (on‑prem и облачные AWS/GCP/Azure)
- •опыт внедрения внутренних биллинговых систем для IT/ML‑сервисов
