lo primero de todo me imagino que tiens un decodificador 5.1 conectado a la xbox mediante un cable optico no? Sino es asi olvidate jeje...segundo en el xbmc para tener sonido 5.1 real en aquellas pelis que lo tengan tienes que ir a configuracion, videos, y alli buscar las opciones de audio, entre ellas hay una que pone sonido analogico o sonido digital..pon sonido digital y listo....
Si necesitas que te lo explique mas detalladamente o algo dimelo. saludos.
