Ознакомился. Сперва попробовал удалить из реестра все записи Active Setup (т.е. все GUID)
Затем создал нового юзера, пропал только ярлык IE.
Оставшиеся WMP и Explorer остались на месте.
В голову приходит только создать новый GUID и прописать путь до батника который при первом логине будет применять твики и перезагружать процесс explorer.exe, но ведь если учетка не имеет прав админа то и изменения не применятся в реестре.
Возможно нужно создать для этих 3 приложений заглушку, чтобы их не устанавливало при первом входе.
Пока что забью на эти ярлыки, может ответ найду позже.