Lo que te ha ocurrido es un caso muy común, a mi en concreto me ha pasado 2 veces, la primera vez fue cuando me inicié en mac y no tuve cojones de solucionarlo de otra forma que no fuera formateándo el disco.
La segunda vez que me pasó fue al instalar la beta de High sierra, en este caso de forma extraña y casi milagrosa, conseguí usar el asistente de Boot Camp con un disco conectado por Thunderbolt que tenía, cual fue mi sorpresa que al crear la partición y posteriormente formatearla la partición que reservé para mac en formato APFS se jodió todo y ahora no me arrancaba ni el asistente de Boot Camp. Resultado, formatear todo, rompiendo estructura del disco y creándola de nuevo.
En fin, un majao del que si no eliminas directamente el disco y creas de nuevo, aunque solo formatees, ni el propio recovery te dejará hacerlo.
PD: Tuve que usar el recovery desde USB precisamente para hacer esta operación por que ni desde el que estaba en el disco se podía, por que obviamente es donde estaba instalado este.