В XP работы некоторых DOS Protected mode приложений добиться практически невозможно встроенными средствами, еще хуже дела с real-mode программами. Попробуйте использовать эмулятор DosBox:
http://dosbox.sourceforge.net
К сожалению, есть и более быстрая штука dosemu, но она пишется только под *nix системы.
DosBox частично даже имитирует компьютер. Запуск в нем программ - вполне безопасный процесс. Думаю, это решит вашу проблему.
