[ruslandh]

Нет - программы только вызывают нужные кодеки, с помощью которых и происходит обработка.

Вот, говорю по дистрибутиву, который у меня стоит (ALT Linux).
Для обработки x264 нужен пакет с кодеками x264 (возможно не все):
$ apt-cache search x264
....
libquicktime111-x264 - Libquicktime plugin supporting the x264 codec
libx264.65 - Разделяемая библиотека кодека H.264
libx264 - H.264 codec shared library
x264 - CLI H.264 encoder
x264-utils - H.264 encoder utils

Для vp6 не нашёл у себя кодека, а вот для vp8 - есть. Насколько он совместим с vp6 я не в курсе.

$ apt-cache search vp8
libvpx - VP8 video codec

Вот ссылки по теме
http://flv-mp3.com/ru/talk_7
http://www.opennet.ru/opennews/art.shtml?num=27126