SilentSpider

В общем и целом - какова цель захвата, т.е. что будет делаться с файлом, на чем смотреться. Дальше - какое есть оборудование.
Зависит от оборудования и конечной цели. Идеал - uncompressed RGB, но объем он занимает астрономический. В общем случае оптимальным выбором является вариант MPEG (1, 2), MJPEG. Потом его можно перекодировать куда надо.
Различимо. И если мне склероз не изменяет, то первое - чистый аналог, а вот второе - цифра, и методы захвата - абсолютно разные.
Кхм. А за счет чего, по вашему так сильно уменьшается объем при кодировании. Хинт - все видеокодеки - lossy, т.е. жмут с потерями. А улучшить - это если у вас зашумленный источник или что-то подобное, то можно его фильтрами почистить, а улучшить качество захвата - увы - никак.