Sin entrar en pormenorizaciones, una UEFI es la evolución y el sustituto de la obtusa BIOS. Sigue una especificación (EFI) para el sistema de arranque que es radicalmente distinta a la especificación de arranque una BIOS.
Para que cualquier dispositivo pueda iniciar en una UEFI, es imperativo que use binarios de arranque EFI, de la misma arquitectura que soporte la UEFI y siguiendo un sistema de particiones compatible.
En tu caso, necesitarás formatear el pendrive en FAT32, instalar en él un sistema operativo de 64 bits con sus binarios de arranque EFI de 64 bits también. Cualquier otra configuración, tendrá que pasar por usar el módulo de compatibilidad BIOS (Legacy BIOS o CSM) de tenerlo la UEFI.
Prueba a usar el Rufus o el Media Creaton Tool para preparar así el pendrive. Por otra parte, para decirle a la UEFI que debe iniciar por el mismo, desde Windows, mantén presionada la tecla SHIFT mientras seleccionas reiniciar o ejecuta shutdown -r -o