как можно распаковать архив, закачаный на хостинг по FTP?

Не изучая вопроса, имхо, никак, если хостер не поддерживает SSH.

если провайдер позволяет вызов внешних программ из скрипта, то пишется скрипт с вызовом разархиватора и запускается, как честная CGI. Но тогда желательно upload-ить в открытый на запись каталог, или аккуратно читать про все опции разархиватора. (так как cgi будет выступать от имени nobody, или кого-нибудь подобного)
если не позволяет - писать разархиватор самостоятельно (или брать код и встраивать в свой скрипт) и опять-таки запустить, как CGI. Все равно вопрос о правах на каталог остается существенным, как и в первом случае.

Командами ssh.