La cosa es más sencilla que eso: si vas a jugar en una tele de tubo como Dios manda, usa RGB. Si vas a jugar en monitor, o en una tele plana (plasma, LCD, LED), usa VGA siempre que puedas, por que se nota (no me cansaré de decir lo maravillosamente que se ven los shooters como Under Defeat en mi LED de 40" por VGA).
Ahora bien, hay juegos (poquitos, pero los hay) que por VGA no tiran y tendrías que usar el RGB (o el RCA/compuesto que es el que viene con la consola) para esos casos contados.