La cosa es que no hay un sólo formato de vídeo. Hay juegos de PS2 que usan .bik, como ya se ha dicho, otros usan .pss y .m2v, que ambos son streams de vídeo de mpeg2, pero sin audio, y luego ya empiezan a salir ficheros raros con vídeos codificados con codecs propios de las compañías, o bien adapatados. También se puede dar el caso que estén todos dentro de un fichero contenedor, o que estén ocultos (no del atributo de windows, sino ocultos de verdad, como final fantasy X por ejemplo, que en la TOC del DVD no figura la ubicación de los mismos pero sí que están localizables por LBA.).
La cosa es invertigar cada juego a ver qué sistema usa, porque por mucha capturadora que uses, estás pasando un vídeo digital a una señal analógica, capturando esa señal analógica y volviéndola a pasar a digital, demasiados pasos con pérdidas si lo que quieres es una calidad óptima.