Todo parece que tengas un problema con las keys, yo tuve el mismo problema en una con jtag, y con mucha experiencia flaheando era incapaz de hacer esta funcionar, al final descubrí que el respaldo de keys estaba mal realizado, por suerte pude sacar las keys del xell, en tu caso lo tienes más complicado.
¿Ese lector nunca te ha funcionado con otro custom firmware? Te lo comento por descartar si es problema de keys.Ya sabrás que hay ocasiones en que el lector extrae keys erroneas.