Jax0: Convertidores de HDMI a VGA o viceversa, que sean de CALIDAD, son carísimos. Quizá sea yo demasiado maniático, pero jamás he visto una conversión entre señales lo suficientemente decente con dispositivos de incluso entre 100 y 200 €. Y si encima hablamos de digital a analógico o al revés, menos aún. Si eres exigente, no merece la pena.
En cuanto al hecho de que Saturn con Eurconector se vea "mejor" que Dreamcast con VGA, puede tener una muy posible razón. Muchas TVs actuales implementan circuitería especializada para que las señales analógicas no informáticas (la señal VGA queda fuera por tanto), experimenten un escalado más o menos de calidad, con el fin de que el resultado en pantallas planas de tanta resolución no sea un espanto.
El ejemplo más conocido es el DCDi de Faroudja. Éste filtra las señales RF, de vídeo compuesto, etc. (en general, las de que serían convertidas a muy baja resolución) y aplica una serie de algoritmos de suavizado de bastante calidad que dan como resultados imágenes no tan dentadas. NO hace milagros, está claro, pero mejora un poco dicho aspecto.
Sea por los motivos que sea (diseño y coste seguramente), muchas TVs dejan fuera de ese filtrado ciertos conectores (y señales). Por ejemplo, RGBHV (VGA) mediante conector D-Sub o DVI. ¿Razón? Pues porque son señales que ya en origen pueden alcanzar altas resoluciones y que teóricamente no necesitan filtrados intensos.
Por lo tanto, y resumiendo...
A - Si conectas una Dreamcast mediante una VGA Box, ésta emite a 640 × 480 o menos (puros y duros, sin suavizar), y la TV aplica simplemente un escalado rápido y muy "cerdo". Verás dientes de sierra bastante "majos". Algo semejante sucederá si la conectas mediante componentes pero usando RGB (tu caso).
B - Si conectas una Saturn mediante Euroconector, verás que la imagen está muchísimo más suavizada (a costa de perder definición), porque la circuitería específica de la TV se ha encargado de ello. Pero sólo por eso. Si el escalado no usara filtrado, prepárate para asustarte y ver dientes de sierra como puños de gordos.
C - Y en el caso de conectar PS2, Xbox o GC mediante componentes, observa que las 3 pueden con los 480p (720 × 480) o incluso 720p (1280 × 720) en el caso de Xbox, y que además, si no recuerdo mal, emplean filtrados en la posproducción de la imagen. Es decir, que aunque no se usaran los 480p, se aplica suavizado (cosa que en Dreamcast jamás, es una señal en "crudo").