При подключении аналогового модема появляется сигнал линия занята
 

Собственно проблема, аналоговый модем D-Link_DFM-562I встроенный, при подключении кабеля модема к телефонной линии через некоторое время появляется сигнал линия занята. После отключения кабеля все нормально, но стоит подключить опять все повторяется. В паралели висит еще телефонный аппарат.

Вообще-то телефоннный аппарат должен быть подключен к разъёму Phone модема.
А по сути вопроса - скорее всего модем неисправен, раз по прошествии некоторого времени замыкает линию.

Или телефон подключен через модем, или модем - через телефонный аппарат (у факсов есть выходной разъём).
А "параллельных"*линий делать не надо

Была похожая неисправность, но с другим модемом. Входящий вызов переклинивал модем - удерживал линию в состоянии "занято". Телефон подключенный ко второму разъему модема замолкал.
Это железная неисправность... Лечится или паяльником или полной заменой.