Ведущий эксперт по безопасности ML

Обязанности

Наша команда занимается оценкой защищенности всего процесса создания моделей искусственного интеллекта, от сбора датасетов до эксплуатации. В нашем фокусе прежде всего большие языковые модели (LLM) и биометрические технологии (CV) Если такие словосочетания как атаки на предъявления , промпт-атаки , состязательные атаки , отравление данных и многие другие уязвимости машинного обучения вызывают у тебя интерес и желание развиваться в данной области, присоединяйся к нам! Мы будем вместе исследовать и развивать безопасное машинное обучение. Обязанности анализ результатов тестирования и оценка защищенности в технологиях машинного обучения (ML) разработка метрик и анализ оценки уровня защищенности технологий ML постоянный анализ трендов, инноваций и разработок в области ML участие в регулярном тестировании LLM и оценка достоверности полученных результатов прототипирование автоматизированных средств тестирования для оценки устойчивости LLM к различным видам промпт-атак разработка, согласование и утверждение нормативных документов к качеству и тестированию ML-моделей кросс-функциональное взаимодействие с подразделениями Банка (Архитектура ИТ, ИТ разработка, Бизнес владельцы, руководство) для обеспечения защищенности ML-моделей, а также консультирование по вопросам безопасности разработки и эксплуатации ML. Требования высшее техническое образование. Предпочтительно в области информационной безопасности, компьютерных наук или смежных дисциплин глубокое понимание принципов машинного обучения, используемых метрик оценки качества работы моделей, требований к обучающим и контрольным наборам данных программирование на Python и знания в области математической статистики опыт работы с ML-моделями. Фокусные направления: CV и LLM умение работать с научной литературой, поиск научных статей, анализ и разработка предложений на основе проведенного поиска подготовка отчетных материалов по результатам оценки защищенности моделей ML коммуникабельность, нацеленность на результат будет плюсом опыт работы с PyTorch, TensorFlow. Условия ДМС с первого дня, cпециальные условия страхования для ближайших родственников гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ спортзал (фитнес, йога, кроссфит) возможность посещения (как в качестве слушателя, так и в качестве выступающего) IT-конференций работа в команде профессионалов, возможность разрабатывать уникальные и крупные проекты масштаба всей страны высокие премии по итогам успешной работы.