Los programas que puedes utilizar son msi afterburner, evga precision, hay mas pero estos son los mas famosos.
Una vez tengas el programa veras esto
Ves subiendo el gpu clock +10Mhz, cada vez que subas pasa un test para estresar la grafica(heaven, 3dmark, vantage, valley, etc.) ves repitiendo el proceso hasta que te de error, entonces bajas 10Mhz y ahi estara el limite de oc de la gpu.
Ahora hay que hacer lo mismo pero con las memorias sube +100Mhz y pasa test y lo mismo que antes, cuando te de error y no lo pase bajas 100Mhz, y ya tendras el limite de oc para las memorias.