Держал почтовый сервер на Mdaemon 5   на Celeron 500, 256Mb под
Win98SE.
При установке 15 одновременных почтовых сессий и запуске 1-2
"нетяжелых" приложений переодически появлялось сообщение
о нехватке системных ресурсов и остановке сервера.
После upgrade до Athlon 1700XP, 384MB, мать с DDR, комп стал
гораздо "резвей", но ситуация с ресурсами не изменилась (свободно:
система 10-15%, USER 10-15%,GDI 50-70% )
Буду очень признателен за логичное объяснение и советы по методу
устранения проблемы.

Похоже что у тебя что-то 16 битное пожирает ресурсы, тк их количество ограничено самой 98, а не их действительным количеством
Переходи на вынь2к

Однозначно ... переход на 2000 !