Pues mira, lo que tienes que hacer es ir subiendo progresivamente cada uno de los parámetros hasta su máximo estable.
En tu tarjeta el principal "limitador" lo tienes en la memoria, que al ser "ddr2 800" está limitando bastante su ancho de banda. Así que vete subiendo progresivamente en tramos de 5 en 5 y haz una prueba en cada ocasión para ver que no te aparecen "artefactos" ni cosas raras en la pantalla (para ello prueba con algún juego exigente, o utiliza algún programa específico para comprobar la estabilidad de tu tarjeta, como "furmark").
Una vez hallas alcanzado el tope de la memoria haz lo mismo con el core y los shaders. Son estos últimos los que más aumento de rendimiento te van a proporcionar. Al menos deberían funcionarte a 1400 MHz.
Por último asegúrate que la tarjeta esté bien fresca, aumentando las revoluciones del ventilador (sobre un 60% aprox.)
Un saludo