Gartner выделяет шесть трендов, которые существенно повлияют на управление, защиту новых цифровых пространств и массовое внедрение ИИ.
Агентный ИИ требует усиленного контроля и это тренд №1.
Агентный ИИ (автономные ИИ-агенты) всё активнее используется сотрудниками и разработчиками, создавая новые поверхности атак. No-code/low-code платформы и так называемый «vibe coding» ускоряют распространение неуправляемых ИИ-агентов, небезопасного кода и рисков нарушения регуляторных требований.
В «Группе Астра», крупнейшем разработчике ИИ-решений и вендоре B2B-решений, прокомментировали отчет Gartner.
«Отсутствие контроля над агентным ИИ наблюдается последние 1-1,5 года во многих российских компаниях и госсекторе. Что такое агентный ИИ без контроля все понимают — это бомба замедленного действия. Не секрет, что часто возникают и дополнительные киберриски, например, бесконтрольные low-code агенты создают прямые дыры в IT-инфраструктуре. Доверенная платформа «Тессеракт» с аудитом каждого действия агента снижает риски примерно на 70%. Важно понимать, что для российских компаний особенно критична суверенная архитектура: контроль на уровне ОС, СУБД и ИИ-моделей одновременно. Vibe coding — это хороший инструмент, но в критичной инфраструктуре нужен «железный» контроль, иначе один агент с правами может обрушить целый контур», — говорит Станислав Ежов, директор по ИИ «Группы Астра».
