Si vas a estar mnetiedo en el muno del video digital hay algunas cosas que debes investigar y estudiar.
Por ejemplo, NO EXISTE formato MOV, MP4 o AVI, lo que SI EXISTE ES CONTENEDOR DE VIDEO MOV, AVI, MKV, FLV; MP4, M4V, MPG por citar algunos de los contenedores de video mas poppulares.
FORMATOS DE VIDEO son el MPEG-4 SP/ASP como el DivX/XviD o el MPEG-4 AVC [aka h264] o el MPEG-4 HEVC [aka h265] o el AV1, por mencionar alguno de los mas populares.
Los videos quicktime suelen estar en contenedor MOV y video en formato h264 y audio en formato AAC.
Debes usar algun FILTRO DECODIFICADOR EXTERNO y que el VEGAS reconozca el contenedor de video MOV para que pueda abrirlo correctamente y encontrar el stream de video [que seguramente estara en formato h264 como decia antes].
Como decodificador de video y audio puedes usar el multifiltro LAVFilter o el multifiltro FFDS-TryOut, ambos decodifican mas de 20 fromatos de audio mas otros mas de 20 de video.
https://github.com/Nevcairiel/LAVFilters/releases

y despues en windows 7 u 8 usas "Win7 DS Filter Tweaker" para indicarle a windows que le de prioridad a usar LAVFilters en lugar de los filtros de microsoft -estos ultimos no son malos, pero tampoco son muy buenos-.
http://www.codecguide.com/windows7_pref ... weaker.htmVentana Principal.

Abres PREFERRED DECODERS y marcas los copntenedores de video [AVI, MP4, MKV, etc.] que quieres LAVFilters decodifique audio y video.

Opcionalmente puedes ir al boton TWEAKS y deshabilitar los filtros decodifiacdores Media Foundation, que son los filtros de audio y video integrados en windows. DISABLE MEDIA FOUNDATION

Si sigue sin abrir es seguro que VEGAS no puede abrir apropiadamente el archivo de video MOV, asi que podrias usar un programa que abra el video mOV y envie el audio y video al VEGAS, y este podria ser AVISYNTH, debes seguir teniendo los filtros de audio y video instalados en windows, instalar el PLUGIN AVISYNTH de VEGAS, y crear un archivo AVS que basicamente es un archivo de texto donde indicas la ubicacion del archivo MOV, en VEGAS abres el archivo AVS y avisynth decodificara el archivo de video enviando los datos de audio y video a VEGAS. A esto se le llama FRAMESERVING dondeun programa envia los datos de audio y video a otro.
https://www.vegascreativesoftware.info/ ... gas--98461https://www.creativecow.net/interstitia ... e%3DT&id=0.