Es que el overclock no funciona así... cada chip es diferente, que a un tío en Honolulú su 960 le funcione con esos valores sin tocar voltaje no quiere decir que la tuya vaya a ir exactamente igual. Si fuera así de fácil te venderían las gráficas con esa frecuencia ya sumada y listo.
Es como si ves que un tío corre una maratón en 2:30 horas y tu dices "bueno, poco más o menos, yo me pongo a correr ese tiempo y haré los mismos 40km"
Lo primero, sube primero una cosa y luego otra. Si subes memoria y gpu a la vez, cuando se cuelgue no vas a saber qué te está causando la inestabilidad. De entrada prueba con el power limit a tope, la memoria de stock, y el core clock en +100. Si se cuelga otra vez, ve bajando (+90, luego +80...). Cuando encuentres que es estable, sube la memoria a ver. Si a +400 falla, +350, luego +300, etc.
Saludos