Exacto, si no tienes estrada coaxial, optica, o HDMI no es posible reproducir sonido envolvente. Con entrada RCA, solo podrias reproducir, como mucho, pro logic II. Pero se tiene que dar la circunstancia de que tu receptor lo admita, y luego, que la PS3 lo reproduzca es este formato, cosa que desconozco.
Por cierto "optico" es el tipo de cable, no el sonido.
Un saludo.