Ну если эта прога открывает его ВинРаром, что очень сомнительно, то заменяй его или unrar.exe, а вообще поищи названия файлов в каталоге с этой программой, тайла .exe или .dll имена которых связаны с распаковкой типа Кстати, если даже она пользуется консольным архиватором, не факт что она передаёт пароль через командную строку, может быть и через STDIN, код получится не на много сложнее.