[Avatar-Lion]

Ютуб ограничил разрешение скачивания видео »

Кто вам такую чушь сказал?

захватывать видео с экрана »

Очень неудобно, но дело ваше.

Купил на али устройство захвата видео Ezcap HD capture card »

ОМГ...

в результате записано не видео, а изображение рабочего стола... »

Дублирование экрана (Win+P) включите, сейчас у вас потому что, судя по всему, просто растянулся рабочий стол на второй монитор (таковым видеокарта посчитала вашу железку), а браузер с Ютубом остался на первом рабочем столе.

P.S. Мой вам совет: просто воспользуйтесь нормальным софтом для скачивания роликов с Ютуба, например, 4K Video Downloader. Он там какие-то лимиты имеет в бесплатной версии по количеству скачиваемых роликов в день, но лично мне это никогда не мешало. Также есть различные плагины для браузеров, но это все уже тема для отдельного обсуждения.