Un proyector funciona solamente con las señales RGB, pero un monitor no. Necesita las señales de sincronismo.
Aunque sea un monitor TFT, la señal RGB es analogica, por lo que te quedas en las mismas.
He estado mirando por ahi y hay un esquema para conectar la xbox a un monitor que utiliza la señar RGB que tu quieres usar y ademas añade las señales de sincronismo sacadas directamente de las patas 9 y 13 del conector A/V de la consola.
Tampoco me fio mucho de esto, pero como esto es bastante barato de montar, lo probare con la mia y si funciona avisare.
Creo que la forma mas barata (aunque no la de mejor calidad) de hacer lo que tu quieres es, ademas de conectar el cable RGB, conseguir las señales v-sync y h-sync con un separador de señales de sincronismo (un LM1881 por ejemplo). Esto es un circuito integrado que cuesta unos 4 o 5 euros y que separa estas señales a partir de la señal de video de la xbox, claro que para esto ya tentienes que meterte en soldaduras y un poco de paciencia. :/
En fin, lo dicho. Un saludo, gentes.