СберЭксперт по безопасности GenAI-моделей (LLM/MLM) и приложений
офис, Москва
Команда занимается исследованием уязвимостей и защитой генеративных моделей и приложений на их основе. Вы будете создавать PoC-атаки, улучшать инструменты тестирования моделей и оценивать защищённость решений банка для снижения рисков и повышения надёжности сервисов
ГрейдMiddle
Опыт1–3 года
Стек
PythonPyTorchHugging Facetransformerslangchain
Задачи
- •анализ инцидентов и новых методов атак на GenAI-модели
- •разработка PoC-атак и эксплуатационных примеров уязвимостей
- •улучшение и разработка инструментов тестирования моделей и AI-агентов
- •оценка защищённости существующих моделей и предложение мер по устранению рисков
- •участие и презентации результатов на внутренних и внешних мероприятиях
Обязательно
- •высшее образование в ИБ, компьютерных науках или эквивалентный опыт
- •программирование на Python и знание основных библиотек для ML
- •опыт работы с PyTorch, transformers, huggingface и/или langchain
- •понимание задач ML и архитектуры LLM/MLM, знание метрик качества
- •знание принципов информационной безопасности и методов атак/защиты LLM и AI-агентов
- •технический английский для чтения профильных статей
- •2+ лет релевантного опыта
Будет плюсом
- •участие в соревнованиях по атакам на модели/агентов GenAI
- •публичные выступления, публикации или открытые репозитории (git, kaggle)
