Мне кажеться если ты уже всетаки определился с железом то самый лучший вариант
Ставить ОС из семейства линухов
Лично я Юзал для этих целей мандриву2008, остался даволен

если во фряхе шариш, ставь её

смотря какое железо и какие цели сервера.
я выбираю freebsd.

Ваше предпочтение *.nix в качестве сервера?

Ваше предпочтение win в качестве сервера

2 темы на ачате. Почитай и определись с системой.

От себя:
Если для web советую ставить, винду. т.к. поддержка всего. Включая .net который сейчас так популярен.
Если для файл хранилища или какие либо вычислительные ресурсы типа рендеринга, то советую фряху.

Безопасней ОС симейства *.nix. Но выходить нужно из того что тебе нужно на сервере.

FreeBSD

мне нужно для торрент тракер`а

железо:

RAM - DDR2 2Gb OCZ Value Series PC2-6400 [5-6-6-18] (OCZ2V8002G) (две штуки)

MOTHERBOARD - MB Biostar TA780G M2+ , Socket AM2+, AMD 780G+SB700,FSB1000, 4xDD2-1066, VGA ATI HD3200,2xPCI, 1xPCI-Ex1, 1xPCI-Ex4, 1xPCI-Ex16, 1xIDE, 6xSATA-II/RAID, ALC662-6ch sound, GBLan, mATX

CPU - CPU AMD Phenom 64 X3 8450 [AM2+] 2.1GHz/3.6GHz/1.5+2Mb

HDD - HDD 320Gb Seagate Barracuda 7200.10 [SATA] 16Mb (ST3320613AS)

Case - ATX Gembird CX-32KKK, 400W USB, Audio

незнаю если материнка нармалиное

Что лучше знаешь,то и ставь,чтоб проблем с установкой и настройкой в последующем не было.