Estás partiendo de una base erronea
@PENECKVHS es analógico y, como tal, "no tiene" unas dimensiones específicas equivalentes en digital.
No voy a entrar en detalles (que ni me acuerdo, y hasta se me escapan), pero los "píxels" en analógico, no tienen forma "cuadrada" ni tamaño en sí. Es señal, y esa señal podrá ser traducida en más o menos píxeles dependiendo de la calidad de la capturadora.
Evidentemente, siempre hay un límite "máximo", pues de donde no hay no se puede sacar. Ya de por sí VHS no es el 100% de calidad original.
Es decir, pretender obtener las dimensiones originales, suponiendo estas como más calidad, es un absurdo.
La calidad estará en el límite máximo de obtención de datos traspuestos en una imagen digital y que no duplique píxeles cercanos absurdamente.
Luego, hay otra cosa cosa que desconoces de YouTube. YouTube no ofrece para visionar un vídeo a mayores dimensiones del original. Es decir, si yo subo un vídeo a 320x240, youtube no ofrecerá la resolución 480x360 ni superiores. (Por cierto, Google guarda en sus servidores los vídeos originales que los puede descargar sólo el que los subió.)
Y, por supuesto, ese vídeo no tiene la calidad original ( atendiendo a SNR (de esto saben mucho en doom9)). Está recomprimido para esas dimensiones concretas.
Así que, si te bajas un vídeo a 640x480, asume que es la mejor calidad posible, sin tener el original.
Si reduces las dimensiones, vas a perder calidad, más de la que el vídeo original ya no tiene. Eso sin mencionar que lo tienes que volver a comprimir, y te estás cargando la poca calidad que tenga.
Ahora, que si quieres unos números, y eso te hace sentir mejor, y suponiendo que el vídeo VHS estaba diseñado para una salida en PAL o NTSC concretas (acabo de decir un absurdo, al ser analógico), tus dimensiones objetivo serían 768x576 para PAL y 648x486 en NTSC (640x480).
Pero no tomes estos números como reales, porque no son reales.
Confórmate con la calidad que has obtenido o intenta encontrar otra mejor, pero no hagas experimentos que, a la postre, van a ser peor todavía.