мне кажется Вам сначала добавить в управлении DNS запись типа A, указывающую ваш субдомен и его ip, потом в iis добавить его как ещё один домен.