Lo primero es estar seguro que no es cosa del entorno de software.
Pásale el OCCT, (cortapega de otro sitio)
Aclarar que, aunque saque error o se reinicie el equipo, el OCCT siempre guarda los resultados en C:\Usuarios\(nombredeusuario)\Mis Documentos\OCCT\ de modo que los puedes revisar a posteriori.
Así tirando de benchmarks concretaremos si falla la fuente o (con pruebas como el Unigine o el Fumark) la gráfica (o puede que ambas
),
Si no sale nada concluyente, recomendaría instalar el SO anterior que tuvieses, ya sea W7 o W8, y probaras a reproducir el error.
Sólo entonces, si tampoco se saca nada en claro y sigue ocurriendo, tiraría de garantía.
Resumiendo, agota todos los recursos concernientes al software antes de meterte en harina con el hardware.
Por cierto, ¿la gráfica y su toma de energía están correctamente instaladas? y ¿cuales son las temperaturas de CPU y GPU en carga?