Залей просто картинку, посмотри отправляемые пакеты. Смотрим что-то вроде Content-type: image/gif. Потом залей файл shell.gif.php (сам шелл или нужный файл), перехвати пакеты через Temper Data. Найди строку с Content-type: textили как-то так будет и замени на Content-type: image/gif