>1)Как перевести ответ в читабельные вид (в норм кодировку)?

Вместо:
curl_slist_append(slist1, "Accept-Encoding: gzip,deflate");
попробуй:
curl_easy_setopt(curl, CURLOPT_ENCODING, "gzip,deflate");
если curl собран с zlib, то он сам будет распаковывать ответ.

>2)И почему не создается файл с кукисами в папке с программой?

потому в argv[0] содержится имя исполняемого файла, в результате путь получается: "aaa.exe/cookiefile.1"

Если тебе реально НЕ нужно хранить куки в файле, то лучше использовать:
curl_easy_setopt(curl, CURLOPT_COOKIELIST, "");
в этом случае курл будет сам с ними управляться.