Будет легче понять что за кодировка если знать пароль. Создай акк с пассом например 123 и пробуй декодировать его хеш по разным алгоритмам(с символами 0-9 сответствено). Я на джаве линейджевской так делал получил Sha-1(в PasswordPro есть).