Bueno, pues por si alguien tiene el mismo problema que yo aquí explico como conseguí hacerlo funcionar, aunque la mayor parte del mérito es de DSC que fue el que me guió.
1º Instalar la última versión estable de ffmpeg desde las fuentes por el procedimiento habitual pero dando soporte a52 en el configure.
http://ffmpeg.sourceforge.net/
./configure --enable-a52
make
#make install
Este paso es necesario ya que al menos en mi caso sucedía que si no instalaba esta última versión no me compilaba el paso 2 (instalar el mplayer CVS)
2º Bajarse la versión Mplayer del CVS:
cvs -d:pserver:anonymous@mplayerhq.hu:/cvsroot/mplayer login
cvs -z3 -d:pserver:anonymous@mplayerhq.hu:/cvsroot/mplayer co -P main
EDITO: Donde aparecen esos smilies ponemos un : y una p
Nos creará un directorio main con casi todo lo necesario para compilar.
3º descargar la versión CVS de FFmpeg libavcodec
cvs -d:pserver:anonymous@mplayerhq.hu:/cvsroot/ffmpeg login
cvs -z3 -d:pserver:anonymous@mplayerhq.hu:/cvsroot/ffmpeg co ffmpeg/libavcodec
EDITO: Donde aparecen esos smilies ponemos un : y una p
Una vez haya descargado nos creará un directorio ffmpeg con otro directorio libavcodec en su interior, debemos coger ese directrio libavcodec y copiarlo al interior del directorio main (donde están los sources del mplayer que descargamos del cvs).
4º Entramos en el directorio main y hacemos el ./configure y el make (en mi caso no hice el make install para mantener la versión que tenía instalada del mplayer.
5º Copiamos del directorio main/etc de las fuentes del mplayer todos los archivos al directorio .mplayer de nuestro usuario, si no existe será necesario crearlo (o simplemente ejecutar ./mplayer en consola desde el interior del directorio main).
6º Nos descargamos el script encode2kvcd-improved-mencoder de esta dirección:
http://dvdripping-guid.berlios.de/forum/viewtopic.php?t=171
le damos permiso de ejecucuón con un chmod 755 encode2kvc-imroved-mencoder
modificamos ls líneas 3 y 4 del script borando la ruta que viene por defecto y poniendo la ruta a la carpeta main donde hemos compilado el mplayer.
7º Ejecutar el scripr con un avi cualquiera ( a ser posible que estén en el mismo directorio y que no tenga nombres con espacios el avi)
./encode2kvcd-improved-mencoder pelicula.avi
Y a flipar que en media ora más o menos estará pasada a Kvcd con una más que aceptable calidad.
Un saludo y gracias a los que me han ayudado para hacerlo funcionar, en especial a DSC que no ha querido en nigún momento que abandonase en el intento.
Un saludo.
PD: A mi lo del buffer overflow me lo hace tan sólo una vez en todo el proceso, luego está con lo de los minutor que va a durar (salvo alguna peli con la ue he probado que da algún error por el medio pero debe ser culpa de la pelicula en xvid o divx)