[RBF]

MMrrTT

то хочется кодировать в нем, но без заморочек с mp4.

А какие ты видишь заморочки с mp4? Для его проигрывания на компе нужен ИДЕНТИЧНЫЙ с матрешкой комплект из сплиттера и декодера. Но при этом mp4 в мире более распространен, чем mkv и к нему существует большее колличество сплиттеров. Например для mkv есть практически только один сплиттер под винду, а для mp4, по крайней мере 3 полноценных и еще много с поддержкой только ASP.
x264vfw277-sse2.zip не содержит декодер. Для проигрывания, что mkv, что mp4 можно поставить один и тот же сплиттер http://haali.cs.msu.ru/mkv/MatroskaSplitter.exe . Для mp4 также есть альтернативные сплиттера. А что в ffdshow не нравится, размер? Есть небольшой пакет декодеров из nero, но только для mp4/h.264.
И еще, любой у кого на компе установлен Nero Burning ROM любой версии 2005 года (обыкновенный для записи дисков) сможет посмотреть твой фильм в H.264 на любом плеере, но только если этот фильм в mp4. Согласись это удобнее, т.к. очень у многих на компе установлен Nero Burning ROM.