AI Security Meetup LLAMATOR

6 декабря пройдет AI Security Meetup от сообщества LLAMATOR! Эксперты и исследователи представят доклады по самым актуальным векторам атак и свежим кейсам из мира AI Security. Вас ждет живая дискуссия о том, как строить надежную защиту.

Спикеры и доклады:

➔ Никита Барсуков, MLSecOps в Альфа-Банке
Тема: Look at my Pickle: под капотом сканеров ML-моделей.

• О чем: Реальная история борьбы с уязвимостями в Pickle: для чего он задумывался, где встречается, как устроены сканеры и real-world примеры атак. Практические советы: что делать с Pickle в вашей компании.

➔ Тимур Низамов, магистрант AI Talent Hub ИТМО и разработчик LLAMATOR
Тема: From Fuzzing to Adversarial Agents: the Evolution of AI Threats.

• О чем: Какие вызовы ставит перед классической ИБ появление ИИ-ассистентов и как эволюционируют атаки на LLM — от простого фаззинга до сложных адверсариальных агентов.

➔ Рудольф Стасилович, магистрант AI Talent Hub ИТМО.
Тема: Новый вид джейлбрейка через абстрактные представления.

• О чем: Разбор новой недавно обнаруженной атаки на LLM. Обсудим, как бороться с уязвимостями, вызванными манипуляцией контекста и фреймингом.

Локация: Letters and Numbers, 35G Tumanyan St
Время: 14:00-17:00
Присоединяйтесь, чтобы получить практические инсайты, познакомиться с комьюнити и вместе найти ответы на главные вопросы безопасности ИИ!