Eso de retroactivo no tiene base jurídica, me suena más a habladuría en el barullo para echar mierda. Algo así sencillamente no se puede aplicar contractualmente salvo que ambas partes estén de acuerdo.
Que quieran cobrar regalías me parece lícito, lo hacen todos, cualquier "expositor" del que te aproveches para llegar al público lo tiene, no es distinto de si usaras una "Store" o similar. Porque si no quieres pagar, pues publica por tu cuenta, a ver a cuánto público llegas.
No veo tan difícil el simplemente publicar el contenido para sistema d20, sólo nombrando a las criaturas (que yo sepa salvo quizás unas pocas el nombre común no es propiedad de nadie), y ya búscate tú la vida para obtener las fichas de éstas (los manuales de D&D vamos). Ah claro pero es que así si no digo que es de D&D no tengo tanto público, vale OK leamos de nuevo mi párrafo anterior.
Si ganas visibilidad y por lo tanto mayores ventas por ser para un sistema muy conocido, pues normal que sus dueños quieran su parte por darte esa ventana.
La cuestión ya se reduciría a que sean unas regalías aceptables.