Тс, unix обязательно. Не потому что я фанат лини и всем советую. Нет.
Большинство серваков unixовые. А чтобы захватить такой сервер надо скомпалить эксплоит. (эксплоиты часто порченые.надо исправить их => надо знать язык на котором написан сплоит. например с++) и допустим ты порутал сервак. и что дальше? замести следы надо, посмореть что хранится на нем, посмореть можбть сревак в корпаративной сети стоит. залезть в сеть. итд.

1. Знать ОСы
2. PHP/С++/SQL/UNIX
3. Сети
4. Мозги