[bombording]

По поводу ключа... в статье предлагается на локальной машине сгенерировать пустой ключ.

ssh-keygen -t rsa

Загрузить его на удалённый сервер.
scp /home/user1/.ssh/id_rsa.pub \
user1@remote_server:~/

И зарегистрировать там аднный ключ.

cat ~/id_rsa.pub >> ~/.ssh/authorized_keys

Скажите. С точки зрения безопасности, данный вариант будет приемлимым? Если к примеру сравнивать заход по обычному паролю и этот вариант.
Не сможет ли любой желающий из интернета, публично выполнять всё что хочет на сервере?

Просто на сервере хранится личная, важная информация.