Lo mas normal es que Linux no te deje cambiar la resolucion del monitor porque no lo ha detectado y ha puesto las caracteristicas standard.
Prueba lo siguiente:
1) Haz una copia de seguridad del xorg.conf
sudo cp /etc/X11/xorg.conf /etc/X11/xorgbk.conf
2)Abres el xorg.conf
sudo nano /etc/X11/xorg.conf
3)Buscas en el manual o por internet las caracteristicas tecnicas de tu monitor.
4) Dentro del xorg.conf añades al principio de donde estan las resoluciones entre comillas las nuevas que soporte y que quieras poner (por ejemplo "1280x800") y SOBRETODO cambia los valores de HorizSync y VertRefresh en el apartado de tu monitor segun los datos que has encontrado.
5)Guarda los cambios y reinicia.
Ahora en la opcion que tiene Ubuntu para establecer la resolucion y el refresco ya deberia de poder dejarte cambiar los valores.
Este metodo me ha funcionado a mi con una ATI GTO. Espero que te sirva
Saludos