x-treem, вы хотите изобрести новый велосипед?)
Почему бы не воспользоваться одной из имеющихся библиотек?
Или не посмотреть в них, как организована шифровка пароля?

http://www.jabber.org/software/libraries.shtml