Tienes el mismo problema que yo, pero he encontrado una solución.
El problema son los drivers de ATI, que son una puta mierda. También probé a instalar el flrxg (o como se escriba) y el xgl, y este último me daba más problemas que remedios. Como habrás visto, el XGL NO te activa la acelaración 3D, pero si te permite usar Beryl aunque LENTISIMO!!!.
He hecho varias pruebas y al final, me he quedado con los drivers que instala por defecto el Ubuntu Edgy, los que te marca como "ati" cuando entras en el xorg.conf.
Te recomiendo que hagas eso, te quedes con los de por defecto y luego instales simplemente el Beryl y el Emerald..
vamos, que en los manuales que hayas visto, hagas solo lo de:
sudo apt-get install beryl-manager emerald......
ya verás como funciona (a mi me da el glxgears unos 1800 FPS, lo puedes ver si ejecutas "glxgears -printfps"), no es ninguna maravilla pero no da problemas.