Con tiempo, paciencia y conocimientos suficientes, yo creo que hacer funcionar alguno de los juegos de 8 megas, se podría llegar a hacer.
Al fin y al cabo, sería cuestión de realizar un emulador optimizado para un determinado juego, de forma que se pudieran usar trucos para imitar determinadas funciones de la máquina.
Pero, ¿a quién le apetece a estas alturas hacer un emulador de N64 desde cero con ensamblador? Creo que hay proyectos mucho más factibles y prácticos a desarrollar, partiendo de los cores de las cpu 68000 y z80. Anda que no hay sistemas y juegos interesantes a partir de ese material...
Saludos