pues como programas que te digan la temperatura... el GPU-Z (para la tarjeta grafica), el speedfan, el cpuid hardware monitor, el everest.. hay a saco (y tambien la puedes mirar en la bios la del procesador)
y para saber si es estable pues puedes pasarte horas jugando y si va bien pues es estable, aunque si quieres hacerlo con programas (para asegurarte 100%) pues solo conozco el FurMark (para grafica) y el OCCT
para subir la tarjeta grafica no basta con subir el Vcore, si subes el vcore puedes subir el reloj de la GPU (engine), pero si quieres subir las memorias tambien tienes que subir el voltaje de las memorias, que va aparte, aunque eso supongo que ya lo sabes xD
y cuando subas bastante la frecuencia de algo subele el voltaje y prueba a ver si es estable, y si no es estable pues lo subes mas, y asi... y si ves que no puedes subir el voltaje por la temperatura pues bajas la frecuencia
cuando subas el procesador ves con cuidado porque si subes el bus overclockeas el chipset y la memoria ram tambien(aunque eso tambien puede ser bueno si no te pasas), para overclockear unicamente el procesador hay q subir el multiplicador