Вот имхо классная книга: http://www.rsdn.ru/res/book/security/hackart.xml (Искусство взлома и защиты систем) на английском зовётся "The Shellcoder's Handbook: Discovering and Exploiting Security Holes" у меня бумажная версия (дорогая блин, но всё же купил) , электронную не нашёл.