Te recomiendo usar programas de captura de video que compriman en tiempo real en MPEG2, los cuales solucionan un puñado de problemas con los drivers de captura de video WDM de forma eficaz, dan calidad al grabar, también comprimen el audio en tiempo real, y en 4gb puedes grabar en tamaño DVD (720x576 de resolucion) alrededor de 2 horas y soportan bien el grabar imagen de video entrelazado (por ejemplo al grabar de VHS a mas de 240 pixel de alto ya es entrelazado) y con CPUs de 1.5ghz se sobra para hacer la tarea.
Te menciono todo esto por que he pasado un puñado de VHS hasta hace un par de años.
Si aun insistes en grabar en AVI, virtualdub sigue sin ser buena opcion (por que es obsoleto, es mas usa VFW para capturar y necesita de una emulacion desde los drivers WDM y te limita en capacidades la tarjeta), VirtualVCR estaba dedicado a captura de video en AVI y es mas actual. Eso si, si se te desincroniza el audio o tienes problemas, saltos de frames al grabar desde el VHS, los videos ocupan demasiado o la calidad es pésima, eso es lo que hay en AVI, muchos codecs no están preparados para grabar vídeo en tiempo real (Divx por ejemplo no sirve) y muchos ni soportan correctamente video entrelazado (mas de 240 pixels de alto), y no se recomienda comprimir el audio en tiempo real (eso en calidad CD supone 600mb solo de audio por cada hora de video), si no hacerlo después.