Исследователи в области кибербезопасности описали новый класс атак, способный обмануть агентам искусственного интеллекта (ИИ), занимающимся программированием, и заставить их выполнять произвольный код на машинах разработчиков. Данная атака, получившая название Agentjacking, была представлена компанией Tenet Security. Основным механизмом атаки является использование поддельного отчета об ошибках, созданного с помощью платформы Sentry, предназначенной для отслеживания ошибок и мониторинга производительности.

Суть атаки заключается в том, что злоумышленники могут создать убедительное сообщение об ошибке, которое будет выглядеть как легитимное уведомление от системы. Если разработчик или кодирующий агент ИИ попытается обработать это сообщение, он может случайно запустить вредоносный код, внедренный в отчет.

Tenet Security подчеркивает, что данная уязвимость может быть использована не только для выполнения вредоносного кода, но и для получения доступа к конфиденциальной информации, находящейся на компьютере разработчика. Это может привести к утечке данных, повреждению программного обеспечения и другим серьезным последствиям.

Эксперты рекомендуют разработчикам быть особенно внимательными к сообщениям об ошибках и проверять их источники, прежде чем принимать какие-либо меры. Также важно обновлять системы и инструменты разработки, чтобы минимизировать риски, связанные с подобными атаками.

На фоне растущей популярности ИИ в разработке ПО, подобные уязвимости становятся все более актуальными. Специалисты по кибербезопасности призывают к повышению осведомленности среди разработчиков и внедрению дополнительных мер защиты, чтобы предотвратить возможные атаки, направленные на использование ИИ в негативных целях.

Источник новости:
The Hacker News

Читать полностью