En Retroarch sólo funcionan los mandos automáticos que ellos tienen preconfigurados, aunque eso lo van a cambiar en la próxima versión oficial. Es el punto donde más flaquea Retroarch, el manejo de los controles. Yo les pasé en su momento las config de todas las consolas GPD para que las pusieran en sus preconfigurados, pero no lo han hecho.
Lo del gamesome ni idea porque no lo he usado nunca, supongo que el frontend simplemente arranca retroarch con la config por defecto y no con la q tu tengas guardada de mandos u otros ajustes, lo cual es una cagada de gamesome. Prueba a comentárselo a su autor por si lo puede cambiar.