Если хотите "шарить" в криптографии, на уровне адового матана, то забейте на комп и идите в универ на физмат. А если хотите писать софт для шифрования/расшифровки чего-либо, вам нужно базовое понимание алгоритмов шифрования, комп, компилятор/интерпретатор и нормальная библиотека вроде OpenSSL.