На этой неделе две группы исследователей представили результаты своих работ, в которых продемонстрировали, что популярный саморазмещаемый AI-агент OpenClaw может быть обманут для выполнения кода, контролируемого злоумышленниками, или передачи конфиденциальных данных через обычные, на первый взгляд, вводимые данные. Исследователи из компании Imperva смогли встроить вредоносные инструкции в общие контакты, vCards и метки местоположения, которые агент исполнял, не подозревая о наличии угрозы.

Второй исследовательский коллектив, Varonis, создал тестовый агент, который также оказался уязвим к подобным атакам. Оба исследования подчеркивают серьезные проблемы с безопасностью, связанные с использованием AI-агентов, которые могут обрабатывать и выполнять команды, основанные на вводимых данных от пользователей.

Уязвимость OpenClaw ставит под угрозу защиту данных и конфиденциальность пользователей, так как злоумышленники могут манипулировать агентом для получения доступа к личной информации и другим критически важным данным. Эти открытия вызывают озабоченность среди специалистов по кибербезопасности и подчеркивают необходимость более строгих мер защиты для AI-систем.

Исследователи настоятельно рекомендуют пользователям и организациям, использующим OpenClaw, пересмотреть свои подходы к безопасности и внедрить дополнительные меры защиты, такие как фильтрация входящих данных и постоянный мониторинг активности агентов.

Данные исследования служат важным напоминанием о том, что, несмотря на все преимущества, которые предлагают AI-технологии, они также могут быть уязвимы для различных атак. Эксперты призывают к повышению осведомленности о потенциальных рисках и необходимости разработки более безопасных решений для защиты от таких угроз.

Источник новости:
The Hacker News

Читать полностью