[WildNP]

x.264 - довольно неплохой по качеству кодек стандарта MPEG4 Part10 (H.264/AVC).
Есть версии VFW - для программ типа VirtualDub и CLI (командная строка).
Но, судя по Вашим ответам, настроить сами Вы его не сможете.
Для этого можно воспользоваться программами-оболочками типа MeGUI.

можно базовые настройки для хорошего качетва??

Нет там базовых настроек. Выбирайте Low Compression.
Всё-таки для простоты понимания процесса пока воспользуйтесь VirtualDub - там фильтрами сделайте обрезку, фильтрацию шумов и т.д.. Почитайте соответствующие ветки форумов здесь, воспользуйтесь поиском.
---
Для наиболее качественного кодирования используйте CLI версию X.264, скрипты AVISinth (для деинтерлейса - фильтр SmoothDeinterlacer).
---
Что не поняли - ищите поиском - www.google.ru
Всего сразу не рассказать, да и слишком общие вопросы задаёте, помучиться и попробовать самому всё равно придётся.