No a ver, cuidado!. La salida de auriculares de la tele es una mala solución porque el sonido te va a salir por dos canales únicamente, por tanto no vas a sacarle partido a tus 5.1
Lo ideal es conectarla a través de la salida óptica de la PS3 a una entrada óptica de audio de tus 5.1
Si no tienes entrada óptica de audio en tus 5.1 debes conectarla como te he dicho anteriormente. Busca la salida de audio de tu tele, no la de auriculares, sino la de RCA (espero que tenga... debe tenerla)
Tú tienes salida de audio en la XBox y la tienes conectada así, como la PS3 la salida de audio es digital y tus 5.1 supongo que no tienen entrada digital, no tienes más remedio que sacar el audio de la TV, en definitiva es lo mismo que tienes hecho con XBox
EDITO: Dices que no tienes salida de audio en la TV, me extraña mucho. Toda televisión debe de tener salida de audio, porque ¿qué pasa si quieres conectarla a un 5.1?. A las malas mira a ver si tu TV tiene salida de audio y video por componentes y coges el audio de ahí.