БастионСпециалист по анализу защищенности LLM- и ML-систем
удалёнка
Работа в команде по анализу защищённости LLM/ML-систем и агентных сценариев: тестирование моделей и интеграций с внешними инструментами, выявление уязвимостей и подготовка рекомендаций для их устранения. Роль важна для защиты данных и предотвращения злоупотреблений с ИИ-сервисами
ГрейдMiddle/Senior
Опытот 3 лет
Задачи
- •Тестирование ИИ-приложений на инъекции в промпт
- •Проверка обхода ограничений модели и jailbreak-атак
- •Поиск утечек данных и системных инструкций
- •Анализ агентных систем и интеграций модели с внешними инструментами и источниками данных
- •Выявление и эксплуатация уязвимостей в исследуемых системах
- •Составление рекомендаций по устранению выявленных уязвимостей и взаимодействие с заказчиками
Обязательно
- •Опыт работы от 3 лет
- •Понимание методологий анализа защищённости и тестирования на проникновение
- •Понимание устройства и жизненного цикла LLM/ML-систем (обучение, инференс, RAG, агентные сценарии)
- •Знание классов атак на LLM и ML: инъекции в промпт, jailbreak, утечка системного промпта, отравление данных, уклонение, извлечение модели
- •Углублённое знание сетевых технологий и операционных систем
- •Отличное знание и опыт выявления уязвимостей веб-приложений и API
Будет плюсом
- •Высшее образование в сфере ИТ/ИБ
- •Опыт в кибербезопасности или ML-разработке
- •Профильные сертификаты (OSCP, OSWE, OSAI, Certified AI/ML Pentester и др.)
- •Знакомство с OWASP Top-10 for LLM и практиками red teaming ИИ-систем
- •Участие в CTF (в том числе AI/ML)
- •Участие в Bug Bounty и выступления на конференциях
