Intenta instalar los últimos drivers de la Web de Nvidia, y mejor que no sean los Beta, pues éstos pueden provocar fallos como el que te ocurre a ti (de echo es uno de los motivos mas comunes).
Otra opción es que la tarjeta esté empezando a fallar (que no tiene que ver con que se caliente) y de ahí el error.
Salu2