Сейчас занимаюсь этим же вопросом, поэтому:
postfix:
http://www.sys-adm.org.ua/unix/mail/mail-architech.php
http://www.sys-adm.org.ua/mail/mail-howto-p1.php
http://onix.opennet.ru/content/view/23/26/
http://www.yekt.info/postfix_antyspam.html
Лично меня интересует решение на FreeBSD c использованием MTA postfix.
Ну и соот-но, насколько я разобрался:
1. рассылка реализуется в postfix, либо через алиасы, либо через транспорты;
2. борьба со спамом: GrayLists + Spamassasin + встроенные средства постфикс (отклонение писем по неверным заголовкам и прочее)
Если используете Windows платформу - Mdaemon (платный) и есть еще заинтересовавший меня почтовик: hMailServer (при всех своих возможностях, бесплатный).