Un apunte, no he mirado las conexiones del adaptador VGA-DVI (tengo 2 que venian con mi grafica), pero creo y por logica deben serlo, son DVI-I/A. Tienes que mirar primero si tu monitor es DVI-D o DVI-I. Para saberlo, mira las especificaciones de tu monitor o mira esto:
[IMG=]http://upload.wikimedia.org/wikipedia/commons/thumb/5/59/Dvi_types.png/180px-Dvi_types.png[/IMG]
DVI-D = Conexion Digital
DVI-I = Conexion Digital y Analogica
DVI-A = Conexion Analogica
Basandome en tu explicacion, deduzco que tu monitor tiene conexion DVI-D, o sea, solo Digital, por lo que no podras conectar la Xbox 360 por DVI.
Si lo que quieres es tener PC y Xbox 360 en el monitor, te recomiendo que sea al reves. La Xbox 360 por VGA y el PC por DVI, puesto que la grafica casi con total seguridad (salvo que sea muy vieja) tendra DVI-D, ademas, tus ojos agradeceran leer los foros a traves de una conexion digital.