Usa algun codec de baja compresion, tipo huffyuv o mjpeg, esto te permitira capturar a gran velocidad y el tamaño aun siendo grande no es el de un video sin compresion, despues ya puedes recomprimir el video en DIVX+mp3 u otro formato de bajo peso, y otra cosa al capturar en AVI el comprimir el audio en tiempo real suele dar problemas.
Otra opcion es usar algun programa de captura en tiempo real a MPEG2, la calidad suele ser buena y el espacio es bastante reducido, recuerdo que habia uno muy bueno de la gente de Ulead, pero claro es de pago. Despues el MPEG2 puedes o bien usarlo asi o pasarlo a otro formato aunque ya en este paso la calidad que se pierde es algo mayor.