[Igor_D]

Что бы получить хорошее качество в х264, забудьте про virtual dub
Выжать можно со след. настройками в 3 прохода

1-й проход
x264 harry.avs -o x362d_1.mp4 --pass 1 --bframes 3 --ref 16 --filter -1:-1 --bitrate 700 --stats --qcomp 0.75 --analyse all --weightb --me umh --subme 7 --b-rdo --mixed-refs --8x8dct --trellis 2 --progress

2-й проход
x264 harry.avs -o x362d_1.mp4 --pass 3 --bframes 3 --ref 16 --filter -1:-1 --bitrate 700 --stats --qcomp 0.75 --analyse all --weightb --me umh --subme 7 --b-rdo --mixed-refs --8x8dct --trellis 2 --progress

3-й проход
x264 harry.avs -o x362d_1.mp4 --pass 3 --bframes 3 --ref 16 --filter -1:-1 --bitrate 700 --stats --qcomp 0.75 --analyse all --weightb --me umh --subme 7 --b-rdo --mixed-refs --8x8dct --trellis 2 --progress

Можно ещё поиграться с --merange 32 (очень медленно).
Только Sharktooth билд содержит в себе последние патчи по улучшению качества, которых нет ещё в виртуал дабе но уже есть в cli http://forum.doom9.org/showthread.php?t=89979