Te recomiendo NeoGenesis, es el mejor emulador de MD/MCD/32X para Xbox.
Para formatear el cartucho, en la pantalla de presentación del Mega CD en vez de pulsar Start (que iniciaría el juego) pulsa el botón A (del mando de MD se entiende) y te llevará al menu. Una vez allí, vete a "Memory" y podrás formatear la RAM interna y el cartucho del Mega CD.