Поставь мониторинг температуры, есть ли радиатор на обратной стороне под чипы памяти ?
Что за кулер покупал, есть ли в нем серийная поддержка данной карты ?
Термопасту лучше замени на КПТ-8.