учитывая то, что опыта в никсах у вас мало
а критерии:
то советую - FreeBSD
сам начинал с линукса, перепробовал разные варианты, но таки на фре нашел надежный, безопасный и понятный сервер.

в интернетах полно русских мануалов по настройке разных служб, сервисов во фре, так что у вас не будет никаких проблем с эксплуатацией. если железо у вас не экзотическое, то и с первоначальной настройкой проблем не будет. фря уже давно по простоте установки стала как винда.