1) шифрование мне нужно.
2) ничего странного в том что сервер работал "без настроек" нет, т.к. он работал с дефолтными настройками, в которых отключено шифрование и еще много чего... что какраз таки и показывает почему он отвергал соединение, на это были 2 причины:

1) настройки клиента не соответствовали дефолтным настройкам сервера
2) файл с юзерами на сервере был пуст => никто не смог бы подключится

2gibson
спс за ссылку и за помощь.