Исследователи в области кибербезопасности раскрыли детали уязвимости в OpenAI ChatGPT, которая использует доверие искусственного интеллекта к ссылкам и изображениям в формате Markdown для осуществления атак через инъекции команд и создания возможностей для фишинга. Данная техника получила кодовое название ChatGPhish и была разработана компанией Permiso Security.

Согласно исследованиям, рендерер ответов на сайте chatgpt.com доверяет Markdown-ссылкам и изображениям, что создает уязвимость для злоумышленников. Они могут использовать это доверие, чтобы внедрять вредоносные команды в диалоги, что открывает двери для последующего фишинга.

Эксперты предупреждают, что потенциальные атаки могут быть направлены на пользователей ChatGPT, которые могут не осознавать, что взаимодействуют с поддельными ссылками и контентом. Злоумышленники могут создавать фальшивые страницы, которые выглядят как легитимные, но на самом деле предназначены для кражи личной информации.

Permiso Security рекомендует пользователям быть особенно бдительными при взаимодействии с ссылками, предоставляемыми AI-ассистентами. Даже если источник кажется надежным, важно проверять URL и не переходить по подозрительным ссылкам, чтобы избежать возможных атак.

Разработчики OpenAI уже уведомлены о данной уязвимости, и ожидается, что в ближайшее время будут предприняты меры по ее устранению. Важно отметить, что подобные уязвимости подчеркивают необходимость повышенного внимания к безопасности при использовании AI-технологий, особенно в контексте фишинга и других киберугроз.

Источник новости:
The Hacker News

Читать полностью