La explicación corta: La PS3 no tiene salida nativa VGA por culpa del firmware.
La explicación larga: La PS3 permite transmitir señal RGB con sincronismo en verde a una frecuencia horizontal a partir de 30kHz, suficiente para que un monitor de PC que soporte sincronismo en verde permita mostrar imagen en pantalla.
Ahora bien, nuestor amigos de Sony nos han hecho una señora putada, que yo llamo La Putada (con mayúsculas de nombre propio): Si seleccionas salida de vídeo RGB, el sistema sólo te deja escoger unas resoluciones de 480i/p para NTSC y 576i/p para PAL. Nada de resoluciones mayores en plan 720p o 1080i/p. Por conector analógico sólo la señal por componentes YPrPb permite seleccionar 720p y 1080i/p (en función de la pantalla, claro).
La solución de esos "cables VGA" es convertir la señal componentes a VGA, y como eso implica de cierta circuitería, a mejor circuito conversor, mejor calidad.
Os están vendiendo "cables VGA" más malos que el hambre, y éste parece ser uno de ellos. Si no hay un buen circuito convertidor, poco se puede hacer.
Sobre la frecuencia de la PS3, como ya digo, tiene máximo 480i/p ó 576i/p, 720p y 1080i/p. No hay más en plan 1360x738 ni 1280x1024, etc...