Hola Sergio.
Bueno, primero, si estás usando EZFLAR desde Flex, al lanzar el proyecto te abre el navegador (a menos que le hayas dicho en las opciones del proyecto que no lo hagas) y el SWF se escala de acuerdo a las dimensiones de tu pantalla, para ello es preferible que le des click derecho a la carpeta en Flex en donde está EZFLAR, luego Properties y en ActionScript Compiler desmarcas Generate HTML wrapper file, con esto lo que harás al correr el proyecto es abrir directamente el SWF y no el navegador.
Si lo estás haciendo desde Flash el tema del navegador queda descartado porque siembre obtendrás un SWF compilando el FLA. Si es así, puedes ir a EZFLAR → src → com → tchatcho → EZFLAR.as. En la línea 74 encuentras
Actionscript:
downSampleRatio:Number = 0.5,
Entre más pequeño es el número más pixelado podría verse, si lo llevas a 0.1 verás que la imagen se pixela bastante porque el tamaño de la captura de la cámara es mucho mayor. Puedes llevar ese número a uno más alto pero podrías experimentar lentitud e incluso errores.
Por otro lado habría que ver la resolución de tu cámara. En ese mismo archivo, en la línea 40 verás las dimensiones del SWF resultante, por defecto 640 x 480, resolución que usualmente tienen las cámaras web, sin bajaras ese tamaño es probable que se vea mucho mejor, sin embargo influye el que tu cámara web no tenga una buena calidad de imagen.