ИИ придумал более тысячи несуществующих и влияющих на лечение пациентов цитат
ИИ изменяет реальные медицинские исследования при добавлении фальшивых ссылок


На Западе врач может назначить лечение, опираясь на исследование, которого никогда не существовало. Это может произойти из-за ИИ, который сгенерировал более 4 тысяч ссылок на фиктивные статьи. Сообщается, что за три года число таких фальшивок выросло в 12 раз. Исследователи бьют тревогу: ни одна из обнаруженных ссылок не была исправлена или отозвана, и они продолжают влиять на клинические рекомендации, по которым работают врачи по всему миру.


Исследователи выяснили, что искусственный интеллект создаёт ссылки на биомедицинские исследования, которых не существует. Согласно недавней проверке, среди миллионов биомедицинских работ было обнаружено более четырех тысяч ссылок на несуществующие исследования.

«Такие сфабрикованные цитаты могут подорвать клинические рекомендации, на которые опираются медицинские работники при оказании медицинской помощи», — заявил автор исследования Максим Топаз. Он пояснил, что когда эти фальшивые ссылки попадают в литературу, они станут «вылезать» в рекомендации, и именно так врачи решают, как оказывать медицинскую помощь на основе исследований, которых никогда не существовало.

Также вызывает беспокойство тот факт, что ни одна из выявленных Топазом и его командой ошибок не была исправлена или от них не отказались, и они всё ещё могут влиять на уход за пациентами, причём количество поддельных ссылок в опубликованной медицинской литературе растёт. Согласно данным, за последние три года число таких ошибочных ссылок выросло в 12 раз, охватив почти 3 тысячи научных работ.

Собственный опыт Топаза побудил его исследовать проблему. Он рассказал, в приложение с искусственным интеллектом, которое он использовал для доработки одной из своих научных работ, была вставлена поддельная цитата, и затем текст прошёл несколько уровней рецензирования, прежде чем один редактор заметил фальшивую ссылку. Топаз признался, что был подавлен, потому что последние 15 лет изучал искусственный интеллект, и если это случилось с ним, то может случиться с кем угодно.

«Подобные неудачи возникают, когда автор утверждает факт и просит ИИ привести его в качестве цитаты, и в некоторых случаях ИИ вставляет их непреднамеренно, и вы надеетесь, что факты точны, но если они подкрепляются сфабрикованными цитатами, вы не знаете, точны ли сами факты, — поясняют специалисты. — В некоторых случаях инструмент искусственного интеллекта ссылается на реального автора, придумывая исследование и приписывая его этому человеку, а в других случаях цитаты были полностью сфабрикованы».

Топаз отмечает, что это только верхушка айсберга, поскольку исследования в других областях также могут быть подвержены тем же проблемам, и искусственные научные цитаты, сгенерированные с помощью ИИ, могут выглядеть совершенно реальными.

Источник https://www.mk.ru/social/2026/05/14/...tov-citat.html