O nano é apenas um editor de texto para terminal. Copie o texto, cole com Ctrl+Shift+V (Ctrl+V já é usado no terminal para outras finalidades) e salve com Ctrl+X.
Se você é mais acostumado com o editor de texto gráfico, basta soltar um sudo gedit /lib/systemd/system/x11vnc.service, copiar, colar e salvar, que vai dar no mesmo.
Aparentemente o site veio com formatação errada (sem as novas linhas, e com alguns espaços desnecessários), e por algum motivo algumas opções vieram traduzidas para o português (que provavelmente tornam o arquivo inválido).
Vem aqui a minha tentativa de reconstruir o arquivo:
Mais um erro de formatação no tutorial que eu deixei escapar. Na linha que começa com ExecStart=, troque -display: 0 por -display :0 (os dois pontos saem da palavra display e vão para o 0).
É ruim quando o tutorial precisa de um tutorial para ser entendido.
Aparentemente eu e o autor do artigo cometemos um erro, na hora de definir o Restart=, e não tenho as manpages do systemd aqui para saber qual o certo.
Ao menos o estado lá em cima diz ativo, o que significa que já dá para se conectar ao VNC.
Aí são outros 500, com um tutorial para instalar VNC/RDP no Windows e um cliente no Ubuntu. Tenho pouca experiência com essa área de acesso remoto, ainda mais no Windows.