"С версии WinRAR 3.x.x для шифрования пароля используется алгоритм шифрования AES..." Взято с сайта очередного брута архивов.
Вот ссылка на статью об этом алгоритме шифрования, там же есть код расшифровки http://ru.wikipedia.org/wiki/Advanced_Encryption_Standard#.D0.A0.D0.B0.D1.81.D1 .88.D0.B8.D1.84.D1.80.D0.BE.D0.B2.D0.B0.D0.BD.D0.B 8.D0.B5