En principio y usando la logica no, la consola se configura para un tipo de salida de video u otro.
Cosa diferente es usar HDMI para el video y sacar el audio por RCA, eso si se puede (hay un conector para ello). Es debido a que la conversion de los componentes graficos y de audio van por separado dentro de la XBOX, mientras el audio se puede montar en paralelo para ambas salidas (HDMI y RCA), el video no ya que requiere una conversion grafica (HDMI o RCA).
Nada mas se me ocurre una cosa que puedas hacer para conseguir lo que dices, jugar por HDMI y grabar con tu capturadora por RCA. Deberias comprar un splitter duplicador HDMI y un cable convertidor de HDMI a RCA para tu capturadora.
