СберData Scientist (AI Safety)
удалёнка, гибрид
Команда строит платформу безопасности для агентного ИИ в экосистеме Сбера. Вы будете разрабатывать и внедрять гардрейлы, дообучать LLM и формировать инженерную культуру в небольшой команде, повышая надёжность и безопасность продакшн‑моделей банка.
ГрейдLead
Опытот 2 лет
Стек
PythonPyTorch LightningTransformersvLLMollamallama.cppLangChainGuardrails AINeMo GuardrailsMLflow
Задачи
- •Разрабатывать системы защиты для AI‑агентов (защита от prompt‑инъекций, фильтры токсичности, контроль галлюцинаций)
- •Адаптировать и дообучать LLM (Prompt Tuning, LoRA, SFT, RL/PO и др.) для устойчивости к атакам
- •Проектировать архитектуру безопасного ИИ и гардрейлов
- •Вести команду DS, развивать людей и инженерную культуру
- •Внедрять гардрейлы в продакшн на выделенном железе
Обязательно
- •опыт в DS/ML от 2 лет
- •высшее техническое образование и сильная математическая база
- •опыт обучения нейросетей, включая трансформеры
- •понимание уязвимостей LLM (prompt‑инъекции, джейлбрейки, data poisoning, галлюцинации)
- •опыт построения гардрейлов или участия в red teaming LLM
- •написание поддерживаемого кода: Clean Architecture, SOLID, Git Flow
Будет плюсом
- •опыт в соревнованиях (Kaggle Expert+ или похожие достижения)
- •участие в open‑source проектах по AI Safety
- •публикации или доклады по теме
