Si ya tienes instalado ubuntu (sino desde un live cd lo puedes hacer), en "sistema=>administración=>crear disco de inicio" puedes crear un "live pendrive" e indicarle cuanto espacio quieres para que se guarden los ficheros y creo que tambien la configuracion, es decir, como un live cd pero que te mantenga los ficheros aunque reinicies o te lo lleves a otro equipo.