conectar 360 a home cinema por RCA?

Si, pero solo sacarás Stereo, o DolBy Pro Logic II como mucho.

No tienes más que irte al subwoofer y conectarle los RCA, no es tan dificil.

gracias pero eso lo sabia, me referia a sacar 5.1 por rca.
no he visto ningun aparatillo

Creo que necesitas un decodificador.
De todos modos dudo de que el cable de la 360 emita 5.1 por esos dos RCA, ya que son Stereo.
La única forma es hacerlo con la salida optica de dicho cable, pero si lo tienes jodido... lo mejor sera cambiar de cable.

Si me he enterado bien de lo que quieres decir,lo que quieres hacer es posible:

Segun he entendido se te ha roto la entrada optica al equipo 5.1 pero la RCA (Coaxial) te funciona correctamente, ¿no?

Bien, para esto necesitas un conversor optico - coaxial.

Este es el que he encontrado en internet y abuen precio:

Link conversor

Aunque la tienda esta en USA, no se si en España podras encontrarlo a tan buen precio.

Un saludo y espero haberte ayudado

Acabo de verlo en una web española, aunqeu no se si venden al por menor:

Link