DVD пока вовсе не умирающий формат. Я уверен, что до момента его окончательной смены чем-нибудь другим пройдёт лет 10, не меньше. Пережатием в новомодный формат ситуацию с качеством всё равно не улучшить, в этом нет смысла, тем более, что под этот формат надо покупать новый плеер, на котором
Если совместимость с плеерами не нужна, то, конечно, лучше жать в x264. Но как бы потом не пришлось об этом пожалеть.