Como realizo backup en mi server dedicado automaticamente?

Puedes utilizar rsync lo puedes usar desde ssh rsyc -av root@ip:/home/rutalocal, o bien un zip de todo el sistema y luego te lo descargas.
Para la base de datos puede utilizar mysqldump. Aqui en Tienes una guia sobre como hacer el backup con mysqldump