Sempre acontece comigo também, no meu caso, eu mudo no sistema operacional mesmo; no painel de controles => resolução. Porem, algumas fingem que vão mudar e volta baixa resolução (no meu caso 800x600), para esses casos só aceitam mudar com os complementos que o próprio virtualbox disponibiliza. Mas só depois de instalar o sistema.
Eu fico arrastando de um lado para outro até instalar.
Na janela de virtualização clique em:
Dispositivo >> Incerir imagem de CD dos adicionais para convidado.
Sera baixado uma imagem ISO é esperado que ela seja montada em um driver de DVD emulado.
Se não montar automaticamente realize o paço da montagem e inicie a instalação do driver de video da VM no OS convidado.
Apos instalar reinicie e configure a resolução no OS convidado.
Sim. Aqui quando ficava assim, colocar em tela cheia resolvia. Caso não funcione, pode ser questão de driver. Qual a placa que você selecionou para a máquina? Aqui eu sempre mudo para VBoxSVGA e roda fluido. Nas outras opções fica travando e lento.
Edit: Acho que você postou a imagem do instalador. Tente mudar a resolução da tela quando o sistema iniciar ou mudar a placa antes de ligar a máquina conforme falei acima pra ver se resolve.
Quando o tópico está categorizados como Windows, como era o caso, não aparece a opção de marcar a solução.
Modifiquei para Linux, visto que está testando distros não Windows. Já passei para o Dio essa limitação, ele está investigando a possibilidade de expandir a opção para todas as categorias.