Упаковщик сжимает программу и дописывает в нее свой код. При запуске этот код распаковывает все на место, проделывает все, что должна была бы проделать операционная система и передает управление программе.

Самое лучше, что есть на русском языке на эту тему (по моему мнению):
http://wasm.ru/article.php?article=packlast01
http://wasm.ru/article.php?article=packers2