[Blast]

Ну это же часть шелла, так что саму кнопку пуск не убрать, равно как и панель задач и трэй, только альтернативными оболочками, имхо..
Но не достаточно ли убрать контекстное меню с панели задач и Пуска да порезать все возможные пункты в меню Пуск?

[XCodeR]

Blast

и трэй,

трэй убераем через gpedit.msc.

Но не достаточно ли убрать контекстное меню с панели задач и Пуска да порезать все возможные пункты в меню Пуск?

в принципе, как вариант - да. Вот только можно по подробнее, как сделать так, чтобы Пуск был полностью пустым и без контекстного меню?

[Blast]

В Пуске можно оставить только Программы, без всего остального, пройдись по политикам в gpedit.msc - Конфигурация пользователя - Административные шаблоны - Панель задач и меню Пуск