вот есть ссылка на книгу "Теоретико-числовые алгоритмы в криптографии" http://www.ict.edu.ru/ft/002416/book.pdf