Похоже что основная проблема не в операционке ,а в программе.
Возможно данная программа не окончательно тестировалась под 64 битные платформы
Могу предположить ,что при установкеInstallShield запускает программу (модуль) для регистрации компоннтов или ещё чего-нить...
Возможно нужно смотреть в сторону обновления библиотек до 64 битных
How to obtain the 64-bit version of the Visual C++ 7.1 libraries and build tools 