Тогда стоит прогнать видеокарту с помощью nvidia MODS. MATS - не даст результата, т.к. обрыва между GPU и RAM нет, есть проблема в работе этой карты на 3D частотах GPU и памяти.
Но сложность в том, что MODS недоступен не для сервисных центров. Если Вы в Украине, можете прислать карту на диагностику, тогда уже определимся что с ней не так. Если не в Украине, то можете попробовать снизить powerlimit на максимум, до 50% и тестировать видеокарту если при таких условиях она будет стабильная, - поднимать powerlimit. НА пример если видеокарта будет работать стабильно на powerlimit 90% - особой разницы в производительности вы не заметите, ну и карта будет меньше потреблять и греться.