un custom firmware basicamente optimiza el sistema/firmware por defecto, agregando funcionalidades, mejoras y opciones que no necessariamente los fabricantes incluirán en algún momento en su firmware
y sobre las instrucciones y todo eso, vienen explicado en el propio firmware
si tienes mas dudas, utiliza alguno de los hilos existentes, para no ir duplicando temas en el foro.
Zalu2!