хз, я баловался с .utx и .u файлами - причитав заголовок (узнав что за крипт) - после этого просто читал значения в разных местах без полного чтения файла

Ещё раз

Открыли файл

Создали буфер в стеке для считывания заголовка длиной первых 28 байт и потом прочитали эти 28 байт...

Проверили соответствует ли заголовок 111 кодировки или нет, если нет, просто вышли и всё. Закомментирован вывод в командной строке и указано отобразить сообщением или ещё как или просто ничего не выводить, потому что не содержится указание на крипт.

Что ещё надо? Какие оптимизации, для другой и других кодировок можно сделать по другому, это лишь пример быстрой работы с созданием минимальных аллокаций. А делать тоже самое с выделением байтов и определять кодировку файла, какой смысл?

Спасибо ребята я разобрался там оказалось не все так страшно эти файл можно декодировать в несколько строк кода!

Алгоритм такой как вы описали выше!