"Instalar" un Backup Loader es tan sencillo como bajarlo, descomprimirlo y copiarlo en la SD en la ruta /apps/nombre del launcher.
Se me ocurre que puedes haber brickeado la Wii si en tu caso bajaste un .wad con el programa e igual el wad no era correcto. Lo mejor es probar a bajar primero el .dol, descomprimirlo y usar el Homebrew Channel para ejecutarlo.
Sobre lo del BootMii en Boot2 o IOS, lo mejor es instalarlo como Boot2, pero si la Wii no lo soporta, no queda otra que instalarlo como IOS, algo hace... Si quieres ampliar la posible protección de la Wii, podrías ponerle Preloader, pero ahi ya hay que andarse con ojo, que no es para novatos.