[Kvazar]

чтобы 5 минут фильма не сьедало несколько сот мегов?

Использовать маложмущие кодеки при захвате. Например HuffYUV.
При захвате он немного сжимает видео, качество не теряется. Но и размер файла не будет таким гигантским.