1.а)Sendmail или Postfix. Плюсы Postfix: простота, лёгкое конфигурирование, в конфигах есть комментарии, чтобы поставить сервер- нужно всего лишь поменять 3 строчки конфига. Sendmail же -это стандарт MTA, но файлы конфигурации сложны, можно также изменить случайно строчку и sendmail работать не будет.
б)Procmail -фильтрация сообений.
в)Spam assassin -антиспам фильтр.
2. Можно использовать пакет qmailrocks -там есть всё (MTA, вэб-интерфейс, антивирус, спам-фильтр)