No se si lo habrás pensado, pero para cacharrear y tener un servidor "real", un Raspberry te puede dar muy bien el apaño, además verás como aprendes a no dejar corriendo demonios pesados o a controlar los accesos y demás. Y lo que lleva al fin y al cabo es Debian. Yo lo tengo ahora mismo con OwnCloud y BtSync.
Para aprender, puedes empezar instalando SSH para poder controlarlo remotamente, un servicio de monitorización, un servidor web (Apache, Lighttpd) un SGBD (MySql, MariaDB, PosgreSQL), te puedes mirar cómo configurar un Firewall (IPTables), como banear accesos no autorizados (Fail2Ban), qué logs hay que mirar para controlar procesos, accesos o intentos de acceso. Configurarte algún script de Backup... supongo que habrá manuales, pero todo esto se puede aprender buscando un poco por Internet y de paso te vas haciendo al sistema.
Si te apetece "jugar" un poco mientras aprendes, puedes instalarte servicios como un cliente Torrent con acceso web, un servidor FTP, o incluso un servidor de música en streaming como Subsonic.