[Iska]

ибо главное окно по закрытию сворачивается в трей. »

Опиум, Вы неправильно представляете себе, что такое System Tray. Окно физически не может «сворачиваться в трэй». Типичной реализацией «сворачивания в трэй» является скрытие окна приложения при минимизации и добавление некоей иконки с привязанным к ней меню в System Tray.

nircmd closeprocess не сработал. »

Похоже, что Вы были правы, и приложение действительно «подвисает».

использовал ассемблерную поделку trayupdate. работает четко) странно что написана на таком языке а не си или дельфи. »

Меньше кода, а каких-то высокоуровневых операций там не требуется, даже ввода/вывода — как правило, чистый WinAPI.