[Destruction]

проблема в том что ни на вируалке не на компе нет модема , модем есть на другом компе »

а переставить модем с одного пк на другой никак?

[El Scorpio]

Стоит поискать в интернетах статьи на тему COM over IP (Serial over IP, RS232 over IP и т.д.)
То есть, на компьютер с модемом должен быть установлен серверный компонент, а на компьютер с программой - клиентский компонент, который создаст в системе ещё один COM-порт. Останется только обеспечить доступ к "серверу" по локальной сети (используя NAT менеджера виртуальных машин и т.д.)