Me apunto a investigar, me interesa mucho lo del guitar hero custom de DS...
En cuanto tenga respuestas a lo que preguntas las posteo.
EDITO: Creo que te equivocas. He mirado un rato lo que dices y la conclusión es clara:
Carpeta data->TracksFIGS:
xxxx_guitar.ogg, archivo del sonido de la guitarra.
xxxx_rhythm.ogg, archivo de sonido del bajo (recuerda que puedes tocar el bajo en el juego).
xxxx_song.hwas, archivo de sonido del resto de la canción, en un formato posiblemente optimizado para DS.
"xxxx" es el nombre de la canción.
Tanto el "guitar.ogg" como el "rhythm.ogg" están en mono. Presumiblemente el .hwas debería de estar en una calidad aceptable, ya que el tamaño medio del archivo es de entre 1.5mb y 2mb, tamaño suficiente para un AAC "decentito" en estéreo. Sin embargo durante el juego da la sensación de que todo está en mono.
Las partituras están claramente en la carpeta principal "data", y sus nombres son xxx_gems_yyy.qgm, donde yyy puede ser:
easy
med
hard
expert
bass_easy
bass_med
bass_hard
bass_expert
Por tanto, necesitamos conocer dos cosas:
-El formato de audio hwas.
-La estructura interna de los archivos qgm.
No creo que llegue a resultar difícil estudiar el qgm. El hwas sí me parece más complicado.
EDITO2: hwas utiliza un códec llamado VOX ADPCM. El problema es que cuando se decodifica dicho audio a mp3 por ejemplo, se escuchan imperfecciones raras. Posiblemente sea una versión especial del códec. Hay muchos códecs de VOX, así que será cuestión de encontrar el adecuado, si es que han usado uno estándar, lo cual es muy provable, ya que no creo que hayan hecho un códec específico para el juego teniendo en cuenta que es claramente un Vox.