Тебе нужен фронтенд для Keras с поддержкой OpenCL

Какой-нибудь PlaidML наверное

У AMD нет проприетарной технологии Nvidia CUDA, а Tensorflow заточен именно под нее и x86 SIMD. В то же время, tensorflow - фронт для keras(читай обертка).

Но у AMD есть открытая технология OpenCL, которая по сути выполняет функции Cuda, но при этом она чуть менее заточена напрямую под особенности архитектуры видеокарт AMD. И тебе нужен фронт для Keras, который будет заточен под OpenCL - PlaidML вроде как то что тебе нужно, и вроде как поддерживает интерфейс tensorflow. Правда не знаю насколько ты далеко уедешь, т.к. Tensorflow втащили Keras прямо к себе в библиотеку и теперь изменяют ее вид под свои нужды. А поддерживать сторонний фреймворк(PlaidML), не зная что там в планах у tensorflow довольно сложно. Можешь также попробовать делать это все под Ubuntu, там у AMD тоже своя технология есть ROCm.

Короче краткую справку я тебе предоставил, дальше сам.