ТС, советую тебе сначала ознакомится с основами блочного шифрования (aes в частности), хешированием и алгоритмом сжатия/шифрования в раре, после этого у тебя будет хоть какое-то понимание, как защиту теоретически можно обойти, а то что ты написал выше - бред сивой кобылы, извините за выражение.

Ps: В Rar используется Aes-128 и Sha-1 (160 бит), которые сами по себе достаточно надежны, если не считать, что в Aes с сокращенным числом раундов замечена слабость, а Sha-1 неустойчив к коллизиям.