SilentSpider

DJ Mogarych, вообще для x.264 - 2000 - это жирный битрейт. Очень жирный. Может видео - HD, тогда можно и выше. В принципе - похоже на нехватку битрейта. Возможно стоит увеличить верхний диапазон. Можно попробовать AFAIR увеличить Maximum Quantizer и Maximum Quantizer delta, Bitrate Variance. Макроблоки в Insanу вроде и так по максимуму.
Ну и сам скрипт стоит посмотреть - возможно там в исходнике эти квадраты есть.