para no complicarte demasiado te voy a resumir un poco...
sube poco a poco el gpu y las memos y le vas pasando algun bench, controla las temps que no se te valla a freir la grafica...
Seria bueno que leyeras alguna guia para que te fueras familiarizando con algunos conceptos basicos.
El rivatuner es un buen programa para hacer OC a la grafica, sin duda para mi es el mejor pero yo te recomiendo que para empezar utilices el atitool, es mas sencillo e intuitivo. Cuando ya te veas preparado pasate al rivatuner..
saludos