Pues el oc es subir las frecuencias para que un cpu, grafica, o memoria rindan mas. El problema es que al subir la frecuencia el aparato en cuestion se calienta mas. En tu caso la grafica, necesita que este nien ventilada y que el disipador sea de calidad.
De utilidades puedes usar el rivatuner para medir la temperatura y subir las frecuencias (subelas poco a poco y evita subir mas de un 10% cada componente (gpu, memoria y shader)). y un programa para extresar la grafica para ver que tal va el oc como el furmark.