ЯндексРазработчик на C++ в RuntimeNodes
офис, гибрид, Москва
Команда RuntimeNodes развивает платформу описания и выполнения ML-пайплайнов для интеграции LLM в продукты Яндекса. Вы будете улучшать рантайм, DSL и оптимизировать пропускную способность и инференс моделей, чтобы обеспечить быстрые и надёжные прототипы и продакшен-сервисы
ГрейдMiddle/Senior
Стек
C++DSLGPULLMмногопоточностьсетевая оптимизация
Задачи
- •Максимизация пропускной способности батч-контура
- •Развитие DSL описания пайплайнов и сервиса выполнения
- •Оптимизация низкоуровневых взаимодействий и объёма передаваемых данных
- •Настройка взаимодействия компонентов с LLM и управление аллокацией ресурсов
- •Поддержка надёжного многопоточного исполнения
Обязательно
- •Опыт разработки большого сервиса в команде
- •Знание базовых алгоритмов и структур данных
- •Хорошее знание C++
- •Знакомство с паттернами и идиомами C++
- •Умение писать надёжный и читаемый многопоточный код
