[Elven]

замените del на write-host чтобы увидеть, что он таки находит нужные файлы.
вот этот вариант отрабатывает на раз, если есть файлы попадающие под фильтр.

Код:

$t = Get-Date
(Get-ChildItem -File -Recurse | Where-Object {$_.CreationTime -lt $t.Date.AddDays(-1) -and $_.CreationTime -ge $t.Date.AddDays(-4)}).Delete()