СберMiddle AI Guardrails Developer (Platform V AI Guardrails)
Москва
Команда разрабатывает guardrails для LLM и генеративных моделей — фильтры контента, детекторы токсичности и механизмы отказа. Вы будете проектировать и реализовывать защитные механизмы, оценивать их эффективность и снижать риски для пользователей и бизнеса
ГрейдMiddle
Опыт1–3 года
Стек
PythonPyTorchHugging Face TransformersDockerLangChainLlamaIndexLoRAOpenAIAnthropicLlamaMistralQwenCI/CDKubernetesFastAPI
Задачи
- •Разрабатывать фильтры контента и системы детекции токсичности, PII, bias и jailbreak-рисков
- •Интегрировать и дообучать модели классификации/модерации
- •Проектировать пайплайны pre-/post-processing для input/output filtering и refusal mechanisms
- •Создавать evaluation-фреймворки: бенчмарки, red-teaming и adversarial testing
- •Оптимизировать latency и качество guardrails при работе с LLM API и open-source моделями
- •Анализировать инциденты и уменьшать false positive/negative
Обязательно
- •коммерческий опыт в ML/AI-разработке с Python (2–4+ года)
- •опыт работы с LLM (OpenAI, Anthropic, open-source модели)
- •практический опыт систем модерации / content safety / guardrails
- •хорошее знание NLP: классификация, embeddings, fine-tuning (LoRA/QLoRA)
- •опыт с PyTorch и Hugging Face Transformers
- •умение писать чистый тестируемый код, работать с CI/CD и Docker
Будет плюсом
- •опыт red-teaming, adversarial ML и safety evaluation
- •знание техник alignment (RLHF, DPO, constitutional AI) и safety benchmarks
- •опыт с vector DB и RAG-пайплайнами
- •знание multi-modal guardrails
- •опыт production-deployment ML-систем (FastAPI, Kubernetes, мониторинг)
- •английский для чтения документации
