Vídeo compuesto, s-vídeo, rgb, componentes, vga, DVI-A ... todas son señales analógicas.
En que se diferencian la calidad entonces? Fácil: en la separación de señales, en el tipo de codificación, compresión de vídeo, y luego depende de factores como la calidad del cable.
Por ejemplo un cable RF mezcla todas las señales de audio y vídeo por un par de hilos. Un vídeo compuesto utiliza un cable + masa para vídeo y y otro + masa por cada canal de audio, S-vídeo separa croma y luma de masa, y RGB tiene tres cables + masa por cada uno de los valores rojo verde azul, Vga añade sincronización vertical y/o horizontal...
La calidad va de menos a mas según la lista que he puesto (aunque las tres últimas son discutibles). Las señales digitales no hace mucho que se llevan utilizando para la transmisión de vídeo a nivel domestico, y de momento los estandares más extendidos para ello son HDMI y DVI-D
Saludos!