Umm, no creo que el cable vga impida poner mas de 1024x768. Mejor te cuento el problema que tuve yo, que parece que fué el mismo que tienes tú.
Mi lcd, según el manual, soportaba hasta 1360x768 por la entrada vga, y yo lo quería conectar a un portátil a través de la salida dvi de éste (del portátil). Pues bien, conecté el portátil al lcd a través de un conversor dvi->vga + cable vga. Hasta ahí bien. Pero el problema surgió cuando extendía el escritorio (el lcd actuando como segundo monitor), pues intentaba ponerlo a 1360x768, y la única respuesta era un pantallazo negro acompañado de un "Señal no aceptada". Solo me aceptaba 1024x768 y 1280x768 (quedando bandas negras bien hermosas a ambos lados). Pues bien, después de mucho buscar por internet, al final resultó que lo único que tenía que hacer era poner el lcd como monitor principal. Una vez puesto como monitor principal, ya aceptó los 1360x768 sin rechistar.
Y lo más raro es que ahora, sin venir a cuento, ya no me hace falta poner el lcd como monitor principal. Me basta con expandir el escritorio, estando seleccionada la resolcuión 1360x768.
Resumiendo, que me enrollo demasiado xD: trata de poner el lcd como monitor principal. Estoy convencido de que así funcionará.
PD: el adaptador dvi->vga que uso es uno que venía con el portátil, y el cable vga creo que es Belkin, comprado en Media Markt. La tarjeta gráfica es una ATI X700 y el lcd un Sony 32V2000.
Suerte!!