Si no me equivoco, el problema está en la forma de conectar la VGA Box al monitor. Esa VGA Box tiene una ENTRADA de señal VGA (la indicada como VGA Card) y una SALIDA de señal VGA (la indicada como Monitor), no son dos salidas. La gracia está en poder conmutar la señal VGA de PC con la señal componentes de cualquier otro aparato (en este caso PS3) y así usar un sólo monitor para las dos cosas; de ahí que tenga el conmutador en medio que pone PC - Component.
La solución es que conectes el monitor a la salida Monitor. Si dices que el cable no te conecta porque es un macho cuando debería ser hembra (o al revés), puedes comprar un cable adecuado o bien un módulo cambiador de género (de macho a hembra o de hembra a macho según sea el caso). El módulo cambiador de género debería constar un par de euros máximo, ya que son más simples que el mecanismo de un chupete, y un cable de monitor VGA en plan 2 metros no cuesta más de 7 u 8 €.
Saludos.