En una palabra: No.
Para ejecutar un juego la PS3 cierra el programa que esté corriendo. Habría que modificar demasiadas cosas del firmware como para convertirse en un proyecto viable. Para GNU/Linux sería bastante más sencillo, pero sólo podrías capturar lo que estuvieras haciendo en Linux.
Me parece mucho más sencillo capturar desde un ordenador la salida de video de la PS3.