Gracias Ferdy. Esto ya va. Solo me falta conseguir compilar el ffmpeg pero es un fallo habitual por los foros así que supongo que no tendré demasiados problemas.
La verdad es que no me gusta mucho la idea de generer archivos flash cuando ni siquiera tengo plugin para amd64.
Editar: de todos modos ¿se puede poner pantalla completa en vnc2swf?
Edito2: Na, soy un gañán. Es con -fullscreen. Lo que pasa es que no funcion con x11vnc