No se cual es el límite de archivos, pero el mame solo reconoce unos 2.000 por carpeta. En la carpeta SYSTEM del emulador hay un archivo que se llama mame.ini, ábrelo y verás que hay unas entradas donde pone RomsPath0, RomsPath1, RomsPath2, RomsPath3 y RomsPath4, cambia el valor por el que quieras. Ten en cuenta que "game:\" equivale al directorio donde está el ejecutable del emulador, por lo que si pones game:\roms2 y el emulador está en hdd:\emulators\mame 0.72 R2\mame.xex, equivaldrá a hdd:\emulators\mame 0.72 R2\roms2
Ah, la versión del mame para la 360 es la 0.72 y solo soporta unos 4.000 juegos, deberías conseguir el romset adecuado o no te funcionará prácticamente ningún juego.
