У vidstabtransform имеются настройки. Например, можно запретить крутить кадр
Код:
-vf vidstabtransform=interpol=bicubic:maxangle=0:input="$trf"
К тому же, непонятно, зачем вам стабилизировать профессионально снятое видео? Это же не школьный выпускной, снятый с рук. Всё равно эта стабилизация получается хуже оригинала в любом случае.