Un programa es independiente de otro. No puedes ejecutar un homebrew y dejarlo residente en memoria para ejecutar cualquier otra cosa.
La solución está en añadir esta posibilidad en el firmware de la consola (Cosa inutil ya que no hay lugar en el que guardar las capturas), o dentro del firmware del M3, por ejemplo (Cosa más lógica y posible))
Lo siento... No creo que llegue a salir nada parecido.