Начну свою мысль:
Мы знаем что файл шифруется в архиве паролем(ключом), так же в архиве есть первоначальное мизерное основание этого файла т.е. какая-та контрольная масса этого фыйла. Если бы его не было, то при распаковки неправильным ключом, мы получили бы файл произвольной шифровкой. Что бы получить инфу про этоту контрольную массу, необходимо проанализировать как происходит сравнение его с распакованным файлом и по каким параметрам? Для этого нужен исходник Винрара выше 3-ей версии. Получив инфу про контрольную массу, наверное можно зашифрованный файл в архиве, преобразовать в соответствии с контрольной массой в исходное состояние т.е. распаковать архив.
Может теоретически эта мысль реальна, но на практике ее реализовать очень трудно. Нужны сильные знания в програмухе.