Depende, a más calidad más tiempo se necesita para el postprocesado y si el vídeo que reproduces lleva un bitrate muy alto o utiliza características que consuman mucha CPU puedes tener parones, saltos y demás. Si cambias de calidad puedes dedicar más tiempo al procesado y reproducción del vídeo pudiendo en algunos casos mejorar lo de los parones y saltitos.
Algo parecido pasa con el modo 16bits y el 32bits, el segundo es el mejor, pero también el que mayor potencia de proceso necesita.
Si el vídeo que tienes está comprimido a un bitrate muy bajo o tiene una resolución muy baja seguirás viendo esos "pixels" hagas lo que hagas.