Con Wordpress puedes conseguir webs muy rápidas, existe un módulo, que creo que se llama WP-Supercache, que acelera notablemente la carga de la página. Para versiones viejas existía uno de Gallir (fundador de Menéame), wpcache, pero no tiene soporte para las versiones nuevas. Creo que WP-Supercache sí que es válido para las últimas versiones.
Por otro lado, en Drupal también existe un módulo llamado Boost que también acelera sensiblemente la carga de la página. También es más recomendable Drupal que Joomla.
WP-Supercache es muy fácil de usar (como Wordpress en general), pero Boost de Drupal requiere algunos cambios en .htaccess (el propio módulo indica las líneas a copiar y pegar), y en general tiene muchas más opciones.
Échale un ojo a esos módulos de caché, convierten ambos CMS en balas.