Muchas veces nos empecinamos en que el problema está en el codec de video y no nos da por mirar cómo está el audio. No sería la primera vez que mis problemas con algún avi se han arreglado gracias a manipular el audio.
Por la imagen que has puesto de gspot, fíjate en la zona de audio. Te dice: 22000hz, 48kbps, joint stereo.
Yo demultiplexaría el audio (con virtualdub), lo convertiría a 44100hz, 128kbps, stereo, y lo volvería a multiplexar (con virtualdub y desactivando el audio original). Probaría y vería qué pasa entonces.
Si así tampoco te funciona, te recomiendo usar el programa Autogk (codificando en xvid). Ya llevo muchos videos convertidos con dicho programa y el resultado se lo traga mi ps3, firmware 3.01, sin la más mínima queja
Salu2
Nota: Por si te sirve de ayuda, codifico mis dvd's a xvid con Autogk y me tarda 1 hora por película (1400mb dejando el audio en ac3; en un quadcore), con una calidad muy, muy buena.