> SetWindowLong( Application->Handle, GWL_EXSTYLE, WS_EX_TOOLWINDOW);

так ты сделаешь окну стиль toolwindow, т.е. маленькую полоску
скрыть можно например, если окно делать диалагом (DialogBox) или через COM в task-bar'е, см /fasm/examples/usecom/usecom.asm с дистра fasm - flatassembler.net