АвитоРуководитель разработки юнита LLM Tech
офис, удалёнка, Москва
Руководство командой, которая разрабатывает масштабируемые пайплайны претрейна и дообучения LLM, оптимизирует инференс и развивает LLM Gateway — чтобы обеспечивать продукты Авито моделями с нужным качеством и стоимостью применения
ГрейдLead
Стек
LLMGPUQuantizationSpeculative decodingLLM GatewayDatasets
Задачи
- •Организация и руководство несколькими командами через лидов
- •Развитие масштабируемого пайплайна претрейна и дообучения LLM
- •Оптимизация инференса: квантование, ускорение и интеграция движков
- •Развитие и поддержка LLM Gateway как единой точки входа
- •Взаимодействие со стейкхолдерами и перевод технических решений в бизнес-цели
Обязательно
- •Экспертиза в работе с GPU
- •Опыт в разработке/интеграции LLM и оптимизации инференса
- •Понимание архитектуры LLM, инфрастуктуры вокруг них и оценки качества моделей
- •Опыт управления несколькими командами и работы через лидов
- •Опыт ведения проектов для стейкхолдеров уровня кластер-лидов и CEO
- •Умение переводить сложные технические темы на понятный язык
- •Проактивное принятие решений и предотвращение рисков
