No sólo necesitarás digitalizar en tiempo real la señal, sino que además debes usar el modo de máxima calidad de que dispongas, porque si pasas el vídeo al ordenador a través de un cable de vídeo compuesto, y fijases una calidad media o baja, te va a salir la imagen muy pixelada.
Intenta pasar el vídeo al PC con un cable de vídeo por componentes, o al menos S-Vídeo. Evita usar vídeo compuesto, ya que es el nivel más bajo de calidad y tendrías problemas para digitalizarlo con una buena calidad.