Nada!
Tem sim! Eu nunca fiz, então não tenho como te explicar detalhadamente, mas nesse link tem um tutorial de como fazer:
https://help.ubuntu.com/community/CustomizeGuestSession
Pelo o que eu entendi, basicamente você deve criar um usuário chamado guest-prefs, e fazer todas as customizações nele. Depois, usar os seguintes comandos para configurar a sessão de convidado para usar as preferências desse usuário:
sudo mkdir /etc/guest-session
sudo ln -s /home/guest-prefs /etc/guest-session/skel