wolkow70, а если пойти другим путём и вместо проверки самого ключа посмотреть на то, за что он отвечает?
То есть в данном случае за смену папки установки, поэтому, как вариант:
Код:

${IfNot} $INSTDIR == "%ПАПКА УСТАНОВКИ ПО УМОЛЧАНИЮ%"
MessageBox MB_OK "Ключ /D присутствует и его значение: $INSTDIR"
${Else}
MessageBox MB_OK "Ключ /D если и присутствует, то папка установки совпадает с папкой по умолчанию"
${EndIf}