[greg zakharov]

настроил синхронизацию локальной папки с фтп через ftp.exe

Да ну?!

В папке висит недозакачанный файл. Можно ли как-то задетектить такое поведение и, например, закрыть ftp.exe?

Средствами командной строки сделать сие затруднительно, плюс ко всему прочему нужно заведомо знать размер загружаемого файла, чего не умеет ни одна штатная утилита комстроки Windows. Если обратиться к PowerShell, задача бы сводилась к:
1) запросу на ftp на существование файла с возвратом размера последнего в случае его существования
2) созданием экземпляра объекта наблюдателя файловой системы с лимитом на простой загрузки файла
3) разрывом соединения в случае, если наблюдатель не отрапортовал об окончании загрузки по окончании последней операции или истечением отведенного времени на загрузку
Другой вариант, при условии, что система Win10 Pro, можно установить подсистему Linux и установить из магазина приложений, скажем, Ubuntu, благо та всего в сотню с небольшим лишком мегабайт, и использовать Bash.
Ну и третий вариант, собрать из исходников curl и все запросы к ftp гнать через него, ибо ftp.exe в Windows это двольно гнусная вещь, которую следует блокировать на уровне групповых политик Windows.