Hola,
Intentare ayudarte por lo que recuerdo de redes de ordenadores :P, almenos la intencion es buena..
Bien supondre que el modem esta conectado al router via ethernet, y como tu has dicho la Xbox "conectada" via wifi con el router, entonces un posible mapa de direcciones serian:
192.168.0.1 --> router
192.168.0.2 --> modem
192.168.0.3 --> xbox
esta ultima nose si xbox te lo pone directamente o la pones tu mismo.
Por supuesto esto es un ejemplo...
entonces has de fijarte que la mascara de subneting sea igual para todos es decir si es:
255.255.255.0 el rango de direcciones posibles seran de 192.168.0.2 hasta 192.168.0.254.
Despues como servidor de DNS pondremos la IP del modem, en nuestro ejemplo 192.168.0.2 i como puerta de enlace tmb la IP del modem.
Luego solo seria poner bien la contraseña de la red inalambrica utilizado.
No se si es muy entendible :/... xo bien creo q asi deberia funcionar.
Hasta otra!