[Mr dUSHA]

Допустим, я заменяю Notepad.exe на свою програмку и хочу, чтобы защита файлов действовала теперь на мой файл »

sfcfiles.dll содержит только список файлов, а их контрольные суммы содержатся в каталогах цифровых подписей.
Так что ваш файл должен иметь цифровую подпись, и соответствующий CAT-файл, который нужно будет также установить.
Когда устанавливается хотфикс от MS, то добавляется и CAT. А SFC при проверке по списку из sfcfiles.dll узанает, является какой либо файл защищенным, и если да, то проверяет его цифровую подпись. Если подпись отсутствует или не правильна, то файл заменяется на подписаный из дистрибутива.