Именно через ключ реестра. У меня была похожая проблема с STDU, я спросил разрабочика - оказалось через секцию Uninstal в реестре путь ищется
Т.е. когда программа установилась - она пишет путь к своей папке для удаления. Может и здесь так?
Вообще используйте ProcessMonitor и точно найдете куда ображается программа по нажатию кнопки.