Эксперт по оценке защищенности приложений на GenAI-моделях (LLM)

Обязанности

В нашу команду RedTeam AI ищем Эксперта по оценке защищенности приложений, основанных на GenAI-моделях (LLM) Обязанности Обеспечивать безопасность GenAI-моделей и приложений с их использованием, используемых миллионами пользователей Анализировать приложения, основанные на GenAI-моделях, выявлять угрозы и уязвимости с учетом появления новых методов атак Имитировать реальные атаки (например, через эксплуатацию уязвимостей API, внедрение вредоносных данных через пользовательский ввод или RAG). Разрабатывать рекомендации и требования безопасности для приложений, основанных на GenAI-моделях, с учетом появления новых методов защиты Выполнять подготовку заключений и рекомендаций по повышению защищенности Взаимодействовать с разработчиками для улучшения безопасности приложений Участвовать и выступать на ключевых внешних и внутренних ИТ-мероприятиях, публиковать статьи и технические отчеты Отслеживать современные тренды в области безопасности GenAI Разрабатывать собственные инструменты и скрипты для поиска уязвимостей в GenAI-приложениях Требования Мы ожидаем, что Вы: Имеете высшее образование в области информационной безопасности или компьютерных наук, либо эквивалентный практический опыт Понимаете процессы, связанные с разработкой приложений Ориентируетесь и можете анализировать архитектуры приложений на наличие узких мест и потенциальных уязвимостей и недостатков Понимаете и владеете методами пентеста и редтиминга Знаете основы безопасности GenAI и основные угрозы для GenAI (OWASP Top 10 for LLM, MITRE ATLAS) Владеете методиками создания моделей угроз Владеете математической статистикой и теорией вероятности Понимаете основы работы современных LLM/MLLM, а также трудности с safety/security LLM/MLLM моделей и (мульти-)агентных систем на их основе Владеете навыками деловой переписки, формирования отчетной документации, интерпретации результатов работы как бизнес-результатов Имеете 2+ лет релевантного опыта работы (в том числе пентеста), включая опыт в академической среде или CTF-командах Будет плюсом: Участие в CTF или соревнованиях по атакам на GenAI-модели Вклад в исследования в области безопасности искусственного интеллекта (CVES, выступления на конференциях). Владение Python, опыт работы с PyTorch, transformers, LangChain, rigging, TransformerLens или аналогичными библиотеками Опыт представления результатов своей работы широкой аудитории Условия ДМС с первого дня, cпециальные условия страхования для ближайших родственников; Льготные условия кредитования, ипотеки; Cпортзал (фитнес, йога, кроссфит); Возможность посещения (как в качестве слушателя, так и в качестве выступающего) IT-конференций; Работа в команде профессионалов, возможность разрабатывать уникальные и крупные проекты масштаба всей страны; Высокие премии по итогам успешной работы