Hola Jonagladiator,
A mi me pasaba lo mismo con el streaming del Sopcast, para poder ver los canales de TV vía internet, y lo solventé este puente cambiando otro "motor de transcodificación" en el PS3 media Server. Esto lo puedes cambiar en la pestaña "Ajustes de transcodificación" y en los "motores de archivos de video" mira de seleccionar otro que no tengas ya en "negrita" (es el primero de la lista), y con las flechas azules de abajo ves subiendolo de posición hasta tenerlo el primero de la lista, de este modo te cogerá predeterminado el primero transcodec que tengas en la lista.
Yo no he tenido tiempo aún para probar el tema de streaming de archivos de video, y sólo lo he probado con el streaming de video web, por tanto ves probando a ver si éncuentras uno que te vaya bien con la mayoría de archivos.
Saludos.