[Admiral]

SS3 инструкция, у которой есть ещё последний пункт про задавание Initial directory как $(FileDir), писалась для Visual C++ 6 который вышел в 1998 году. Для Visual C++ 2008 a.k.a 9.0 переменную среды $(Filename) нужно заменить на $(ItemFileName).
Расширение через точку остаётся то есть указывать нужно $(ItemFileName).asm, а в последнем пункте $(FileDir) на $(ItemDir) и всё найдётся. В ответе от MASM говорится что не может найти файл.

Кстати есть поновее из 6й серии - Microsoft (R) Macro Assembler Version 6.15.8803, входит в пакет Visual C++ 6.0 Processor Pack
Нужные файлы (ml.exe, ml.err...) можно извлечь архиватором или словить во временной директории когда он будет распаковывается самостоятельно, перед тем как возможно откажется устанавливаться в случаи отсутствия Visual Studio 6.0 с SP5.

Вот поновее инструктаж для Visual C++ 2005/2008, там уже применяют соответственный MASM 8.0/9.0
Там кстати и рассматривается и второй способ работы с MASM в Visual Studio который не рассматривает Юров ввиду выхода его описания за рамки темы книги.