A ver si te lo puedo hacer más simple.
Para escuchar en 5.1
Conectas este cable (spdif, o lo que común mente se llama de fibra optica)

a la parte trasera de la PS3 donde dice (digital Out) Optical

----------------------------------------------------------------------------
El equipo de audio o altavoces que compres necesita tener una entrada (spdif) igual a la de ps3


-----------------------------------------------------------------------------.
Para el caso de que no encuentres parlantes 5.1 con conexión (spdif) Optica,
puedes recurrir a alguno que tenga entrada coaxial
conector coaxial:

y lo enchufas con un adaptador spdif a coaxial


para este caso la conexión sería así:
Conectas el cable optico a la PS3/out, el otro extremo al Adaptador/in y luego un cable coaxial a la salida/out del adaptador y de ahí a la entrada de los parlantes.
-----------------------------------------------------------------------------
Para el caso de que los parlantes solo cuenten con una conexión estéreo como los del estilo 2.1.

solo tienes que enchufar el cable que trae de fábrica la PS3

conectas el de color rojo y el blanco a la entrada de los parlantes 2.1

-----------------------------------------------------------------------------
Ahora bien, marcas y modelos hay un montón y lo más recomendable sería que en la medida que puedas los fueras escuchando y veas cual es el que más te agrada.
saludos y espero que te quede algo más claro.