По ответу хоста на несоответствующие RFC пакеты (например TCP фреймы с флагами SYN, ACK,FIN,RST,URG,PUSH - взаимоисключающими)

А для тебя есть вариант простой и нехитрый - твой скрипт пошлет письмо админу и спросит "здрасьте, какая ОС у вас стоит"