Я уже разобрался в чем причина, пришлось переводить зарубежные форумы. Оказывается все элементарно, для этого дела не подходит стандартный rdc клиент, я поставил team viewer и все пошло. Нужно с самого team viewer ставить cuda, причем я ставил 7-й. Потом с того же team viewer запускать hashcat, а после этого можно подключатся стандартным rdc, кстате стандартный клиент дает лучшее качество и быстроту работы. Я запустил g2.8xlarge с 4-ю видеокартами nvidia grid k520, общая скорость получилась - 163,7 kH/s