[DJ Mogarych]

сильное повышение »

Ну я же не говорил про сильное повышение. Поставьте битрейт 500 или 600 для начала. Поэкспериментируйте.

А что мешает делать ролики в более приличном формате, например, в mp4?

Формат 3gp вообще не подразумевает хорошего качества, это примерно то же самое, что flv, который был раньше на Ютубе.
Ради интереса я закодировал видео отличного качества 1920x1080 в этот формат, дал битрейт 600k.

Код:

ffmpeg -i .\12345.mp4 -s 704x576 -b 600k -ar 8000 -ac 1 .\12345.3gp

В результате качество всё равно похабное, больше того - формат 3gp поддерживает только звук моно и 8000 Гц.
Также, 3GP понимает только фиксированные соотношения сторон кадра:

The specified picture size of 1920x1080 is not valid for the H.263 codec. Valid sizes are 128x96, 176x144, 352x288, 704x576, and 1408x1152.

Финальное видео 16:9 получилось сплюснутым с боков.