Интересно, если такую нейросеть "атаковать", очень интенсивно, то в какой момент она начнет думать, что это нормально?)))

нейросеть это и есть ии

система вроде для этого и создана, применение эксплоитов слишком отличаются от обычного использования сайтов, например при xss вводятся много всяких символов (кавычки скобки операторы), которые обычный пользователь не вводит, в sql инъекциях в параметрах тоже необычные данные

скорее всего там обучение с учителем, подозрения на атаки будут выводится оператору, он принимает решение атака это или нет, и нейросеть на основе этого учится,

но атаковать нейросеть это хорошая мысль, можно сделать программу посылающие тысячи запросов похожих на атаку, чтобы парализовать работу оператора, тогда им придётся фильтровать фейковые атаки от настоящих, чем это закончится не знаю, новый виток развития щита и меча