Dices que las temperaturas son correctas, pero podías poner algún volcado de pantalla con los valores, p.ej. con HWiNFO, etc... a ver si crees que son buenas y no lo son tanto, aunque de todos modos, no tendría por qué reiniciarse el equipo, en caso de que las temperaturas fueran altas debería hacer throttling, pero no reiniciarse el equipo.
Si las temperaturas están bien, puede ser fallo de la gráfica o de la fuente lo más probable, aunque tampoco estaría de más que mirases en la web del fabricante si tiene alguna actualización del firmware (BIOS) de la gráfica. También es preferible que los conectores PCIe los instalases del siguiente modo:
Otra cosa que tampoco sabemos es si la instalación de Windows es nueva, o has aprovechado una instalación anterior y has actualizado sobre ella, la has clonado, etc...
Para descartar problemas del S.O. sería bueno que hicieras un formateo e instalaras Windows desde cero, formateando e instalando todos los drivers de la placa base (LAN, chipset, audio, etc...) y como no, de la gráfica también, claro.
Saludos.