[OFFTOPIC]¿Con el ubuntu64, los driver de ati y el compiz no te petardean todas las aplicaciones 3d como algunos salvapantallas o juegos?[/OFFTOPIC]
Respecto a tu problema yo soy muy novatón pero intentaría toquetear los efectos avanzados del compiz (si no lo has intentado ya) a ver si desactivando algo se soluciona.