Vamos por partes, la resolución óptima es la nativa del monitor, vamos en tu caso es 1280x1024, así verás la mayoria de juegos con franjas negras, algunos los verás a pantalla completa y otros como puedan ser PGR3 y Oblivion los verás estirados (poniendo la consola a 1024x768 lo ves sin estirar y con franjas).
Otra cosa, pon la consola a 60hz antes de poner el cable vga, que luego no te aparece la opción.