Tienes opciones de instalación
Tiger, que irá más o menos bien o Leopard que igual va un poco justo, pero por probar... LA única pega, la RAM, que tu equipo no soporta más, tienes el tope.
Leopard oficialmente no se puede instalar en equipos inferiores a G4 867Mhz, pero con Leopardassist podrás...
EL DVD de Leopard es DL, y no creo que la unidad que viene en tu equipo originalmente lo pueda leer, o lo haces desde un HD externo montando la imagen, o con una unidad Externa que los lea, o cambias la del equipo directamente.