Mira, yo no soy un experto en la parte técnica, pero sí te puedo decir que para los juegos en 3d lo mejor va a ser siempre conectar la consola por VGA. Esa es la calidad máxima de imagen que te va a dar tu DC en una tele plana. Los juegos 2d se verán, pero en una tele moderna se notará mucho que no tienen una resolución "moderna", es decir, se notará mucho la pixelación. Por otro lado, el cable RGB tiene la ventaja (la única ventaja, en mi humilde opinión) de que funciona con todos los juegos, mientras que algunos no son compatibles con VGA (para eso el VGAbox tiene la opción de VGA o vídeo compuesto).
Yo tengo mi DC conectada a una tele de tubo de 27" y es una gozada, pero las veces que la he puesto en mi Bravia (HD de 40"), lo he hecho por VGA, y en juegos como Sonic Adventure se nota. Mi tele me da la opción de dejar la imagen en su resolución original (640x480) o estirarla hacia los lados para ocupar toda la pantalla.