[DJ Mogarych]

Повышением битрейта, например.

DJ Mogarych, вообще для x.264 - 2000 - это жирный битрейт. Очень жирный. Может видео - HD, тогда можно и выше. В принципе - похоже на нехватку битрейта. Возможно стоит увеличить верхний диапазон. Можно попробовать AFAIR увеличить Maximum Quantizer и Maximum Quantizer delta, Bitrate Variance. Макроблоки в Insanу вроде и так по максимуму.
Ну и сам скрипт стоит посмотреть - возможно там в исходнике эти квадраты есть.

[Andrew Placid]

Вообщем то дело совсем не в блоках было, а в недостаточности цветового разрешения.
На одном форуме вычитал что помогает след. строка параметров: --aq-strength 0.5 --aq-sensitivity 15.0
Действительно, плавность градиента увеличилась.