El VGA suele verse mejor en monitores antiguos (CRT sobre todo de pocas pulgadas, sobre 15) debido a la resolución; el cable VGA saca resolución nativa de 640x480 píxeles, por lo que en uno de estos monitores la imagen se reescala mucho menos, ya que solían tener una resolución nativa de 640x480 u 800x600.
En un Plasma o TFT de los nuevos, la resolución nativa del panel suele ser HD Ready (1280x720 o un pelín más) o FULL HD (1920x1080), por lo cuál el reescalado que sufre la imagen que sale de nuestro VGA de Dreamcast es brutal, con la consiguiente "sensación" de ver más pixelado el juego. Pero aquí también influye la calidad del televisor, ya que, si hace un buen reescalado, esta pixelación apenas se nota.
También influye el hecho de configurar el televisor a 16:9, ya que fuerza aun más la imagen; si se dispone de un modo 4:3 mucho mejor aunque se vean bandas negras en los laterales. En cualquier caso, el cable VGA va a darte la mejor imagen posible que puedes sacar de Dreamcast, todo dependerá de dónde la visiones. El cable RGB también da un excelente resultado, y a algunos gusta más que VGA debido a su compatibilidad y a la sensación que produce de "fundir" los píxeles, pero eso es debido a que tiene menos resolución y se pierde en nitidez de imagen. Saludos!!