[Ivan Bardeen]

то получается тоже не так как надо. насоздавав каталогов в глубину пользователь будет никак не ограничен в дисковом пространстве. »

Тут хотелось бы уточнить - если вы назначите квоту на папку шары в размере 100 мб, то эта квота будет учитывать и то, что находится в подпапках, невзирая на то, какие квоты на подпапках установлены и установлены ли вообще. Так что ваша затея бессмысленна.
Так что я бы на вашем месте определилися, на каких папках какие квоты нужны.