Suerte con el proyecto. Está visto que en el Linux de PS3 no queda otra, o se pasa por los SPEs o es imposible lograr un rendimiento ni medianamente decente. Los 4 FPS que acabas de mencionar ya lo dicen todo.
Tal vez si desactivas alguna cosilla que siempre se ha llevado mal con los renderers por software, como por ejemplo el filtrado de texturas, logres alguna mejora en el rendimiento, pero para sacar el verdadero potencial hay que pasar por los SPEs.