Es que precisamente esa opción es para ello...no comprime los vídeos. Desgraciadamente no comprimir los vídeos hace que la ISO no se comprima tanto, teniendo en cuenta que los vídeos es normalmente lo que más ocupa.
En el caso del GTA a veces también es recomendable activar la opción de No Compress Audio Files, aunque a mí me va fenomenal con dax, incluso a 222mhz.
Pero vamos, todo eso está en el readme xD