Так вам нужен новый формат, или программы по шифровке/дешифровке файлов?
Просто разрабатывать именно формат изображений смысла нет, если сторонние просмотрщики (например IE) не будут его понимать.