Para sacar el sonido 5.1 de forma digital no necesitas 6 vias, eso es solo para sacarlo de forma analógica.
La única opción para sacarle a la xbox sonido 5.1 es mediante la entrada óptica, por lo tanto si el decodificador no tiene este tipo de entrada no lo podrás conectar. Si es un modelo nuevo me extraña que no tenga.
Para conectar el pc no tendrás problema con una tarjeta 5.1, según la tarjeta usarás una salida jack que conectarás a tu deco mediante la entrada roja-blanca que comentas. Solo tienes que ir a una tienda de electronica donde vendas cables y no tendrás problemas.