Con el VirtualDub "a secas" no te vale, tienes que utilizar el VirtualDubMod, que te reconocerá sin problemas el .mpg. Lo unico que tienes que recomprimir toda el video, paciencia.
En cuanto al tema de pasar VCD a .avi, la verdad no lo se por que el VCD nunca me ha gustado, pero supongo que en paginas de VCD sera relativamente facil conseguir la información.