вообщем алго таков:
после 4 циклов симметри4еского шифрования (ну или хэширования, если это так можно назвать)сериала модифицируется EAX и мы прыгаем
00401155 FFD0 CALL EAX
если клю4 будет верным (в EAX будет константный опкод), то мы прыгнем на .00401140, на котором с либы вызовется MessageBox с сообщением о правильном серийнике. Влом было брутить и расшифровывать, я просто сделал пат4 тут:

00401140 -E9 BB00D8FF JMP MYUTILS.00181200
00401145 90 NOP
00401146 90 NOP
00401147 90 NOP
00401148 90 NOP

в принципе, тут и есть логи4еское окон4ание защиты...