Безопасность ИИ-агентов в автономной разработке: атаки и новые методы защиты

Автономные ИИ-агенты стали полноправными участниками цикла разработки — они пишут код, запускают пайплайны и взаимодействуют с внешними сервисами и контекстом. Вместе с этим в агентной разработке возник новый класс угроз: prompt-инъекции, компрометация MCP-серверов, атаки на межагентное доверие. В докладе мы разберём архитектуру агентных систем в контексте ADLC, покажем реальные векторы атак на каждый компонент и представим защитный подход на основе gateway, guardrail и процессов red teaming. Покажем инструменты и сценарии их использования, а также поделимся актуальной методикой защиты ИИ-агентов в жизненном цикле разработки.

Разработчикам и AI-инженерам, специалистам по ИБ, DevSecOps-инженерам, архитекторам и техлидам.