incubb,
http://forum.doom9.org/archive/index.php/t-115058.html
http://forums.animesuki.com/showthread.php?t=30757
- пара ссылок на английском о том, как это может быть сделано. Там упоминаются утилиты, с которыми надо работать. Надеюсь, это вам поможет.
А вообще есть подфорум "Кодирование видео", вполне возможно, что там этот вопрос уже задавался и даже решен - поищите фильтром.