A ver lo primero es saber si los archivos que sacaste del lector eran correctos o si eran corruptos, tendrias que verificar con los codigos de barras y numero de serie del lector que los archivos están bien. Lo segundo es el tema de la key, esperemos que la sacases correctamente porque si no ya tienes un problema gordo, poreso la recomendación de probar con otro lector anten de borrar los datos del original, eso creo que es muy importante.
Por lo demás, supongo que estarás creando tu firmware a partir del Ixtreme correspondiente, supongo que ya sabes que hay un ixtreme especifico para ese lector y que no te vale el del antiguo Liteon. Otra cosa es que flashees correctamente al igual te está fallando algo a la hora de flashear y no te das cuenta, no se...
Por cierto, ya lo comento en el hilo del tuto de extraer la información pero lo repito, si quieres tener el archivo Key.bin aparte, carga con el Jungleflasher tu archivo Dummy.bin en la pestaña FirmwareTools 32 y dale al botón de Guardar Llave o Save Key "según el idioma que tengas" y te guardará la Key en formato .bin.
Un saludo.
P.D Estos casos es mejor que los expongas en los hilos de los tutos que as seguido y así la gente te podrá ayudar mejor, y no abrir uno nuevo.