В последние годы концепция Shadow AI, которая ранее означала, что сотрудники вставляют нежелательную информацию в ChatGPT, значительно расширилась. Теперь это понятие охватывает создание полноценного программного обеспечения с использованием искусственного интеллекта, интеграцию таких приложений в производственные системы и их публикацию в открытом доступе, без участия специалистов по безопасности или IT. Таким образом, риски, связанные с безопасностью, значительно возросли.

В новом отчете "Shadow Builders" рассматривается, как сотрудники организаций создают и внедряют приложения, используя возможности AI, что ставит под угрозу безопасность корпоративных данных. Авторы отчета подчеркивают, что подобные действия могут привести к множественным уязвимостям, если не контролируются должным образом.

Отчет содержит анализ 2000 открытых приложений, созданных с использованием технологии Vibe-Coded. Эти приложения могли быть разработаны без надлежащего понимания принципов безопасности, что создает потенциальные угрозы для организаций. Важно отметить, что многие из этих приложений могут быть использованы злоумышленниками для доступа к конфиденциальным данным.

Ситуация усугубляется тем, что многие компании не имеют четкой стратегии по управлению рисками, связанными с использованием AI в разработке программного обеспечения. Это подчеркивает необходимость в обучении сотрудников и внедрении правил, касающихся использования AI в рабочих процессах.

Эксперты рекомендуют организациям пересмотреть свои политики безопасности и интегрировать проверки на этапе разработки, чтобы минимизировать риски, связанные с Shadow AI. Важно внедрять системы мониторинга и реагирования, которые смогут обнаруживать и предотвращать угрозы на ранних стадиях.

В заключение, отчет "Shadow Builders" акцентирует внимание на необходимости более строгого контроля за использованием AI в корпоративной среде. Без этого компании рискуют столкнуться с серьезными последствиями, связанными с утечками данных и кибератаками.

Источник новости:
The Hacker News

Читать полностью