как настроить групповую политику, чтобы нельзя было запускать *.reg
 

И чтобы нельзя было запускать командой regedit %1

Можно создать хеш правило для .reg А также для любого другого расширения или приложения. Делается это в конфигурации компьютера\конфигурация windows\параметры безопасности\политики ограниченного использования программ