Yo si he probado Windows Vista, varias veces, y tardo pocos minutos en volver a XP o Linux. Desde Windows 98 no habia visto un Sistema Operativo tan horrible.
Prueba a entrar con una cuenta de Administrador con todo tipo de privilegios (si es que existe) y prueba a ejecutarlo. En caso contrario, es porque el Transcode, como tantas y tantas aplicaciones, no funciona en Windows Vista.