Ну да...
Ну если это твой код, то ты должен понимать наверное что он просит HEX строку, ведь ты сам записал Enter hex data:, а это алфавит 0123456789ABCDF. Ты же и поцепил исключение на не верный символ throw std::invalid_argument("Invalid input string");, при этом его сам же не обрабатываешь...

Если речь о буквах, которые прям все буквы, то замена "throw std::invalid_argument("Invalid input string");" на "return (int)input" решит проблему твоего кода, я думаю твой код после этого заработает(пусть и не правильно будут выводиться результаты скорее всего)