Я что то не вьехал вообще. Тебе не нравиться что ли качество сжатия видео в CamStudio с разрешением 800х600? Или качество изображения?
Вот я лично записывал тут одну вещь. Записал на 1024, получился большой размер. Сделал 800, записал 5 минут, получилось гдето 500 кб.