Puedes "saltarte" lo de la clave creando (si no existe) un archivo de texto en la carpeta /doom3/base llamado doomkey y escribiendo dentro una sola línea con el key (todo seguido, sin guiones ni nada).
Lo del texto raro ese que aparece, asegúrate de que has copiado todos los archivos necesarios, y que además estén bien copiados (md5sum por ejemplo). A mi con el doom3 no me ha pasado, pero con el quake4 me salían cosas así y era porque me faltaba copiar algunos archivos.
Tienes que tener de pak000.pk4 a pak007.pk4 (aunque creo que los 3 últimos te los pone el instalador). Además tiene que haber game01.pk4, game02.pk4 y game03.pk4, estos 3 creados por el instalador.