[Oleg Krylov]

Для начала попробуйте импортировать самоподписные сертификаты в машинное хранилище. Проще всего это сделать из оснастки Certificates (Start-Run-mmc-File-Add\Remove Snap-In - Certificates), при добавлении оснастки в консоль вы получите запрос - какое именно хранилище вы хотите добавить - выберите Computеr - Local Computer.
Далее в дереве хранилищ выбираете Доверенные корневые центры сертификации (Trusted Root CA) и кликнув правой кнопкой выберите в контекстном меню Import (не помню точно, возможно All Tasks - Import) указываете мастеру импорта файл сертификата и все. В контейнере доверенных сертификатов должен появиться ваш. Проделайте операцию на обоих серверах (на сервер А в корневые импортируете сертификат сервера Б, на сервер Б - сертификат сервера А). Перезапустите IIS и транспорт и попробуйте еще раз выполнить перенос ящика.