Можно и в середину. Но дело в том, что как и людой другой файл, картинка любого формата имеет четкую структуру. И к примеру если в HEX редакторе вбить в заголовках описывающих файл, то случится то что и в предыдущем случае - картинка запорется. Можно в те-же exif теги вставлять, те в те участки которые не отвечают за саму структуру файла. Но, как и было сказано, любой ресайз уберет внесенную информацию.
jpg вообще вроде, плевать на все что в файле дальше картинки идет... я помню даже целые мегабайты прикреплял к картинке 128х128 и норм, на сайты грузилась, там где ресайз принудительно производился, происходило все в точности как описал Cennarios.
P.s. что за беда то у вас с кодировками там, всю жизнь блокнотом такое делал...