Para fins didáticos, vou escrever como se não existisse o Wayland e vou fazer uma contextualização histórica também.
Bom, enxergo principalmente três opções: (i) ou você cria um arquivo de sessão só com o XTerm (ou outro emulador de terminal de sua preferência) em /usr/share/xsessions e escolhe entrar por ela pelo display manager; (ii) você radicaliza de vez, muda para o runlevel 3, escreve um ~/.xinitrc (apenas seu usuário) ou configura no /etc/X11/xinit/xinitrc (pra todo o sistema) ou; (iii) roda o xinit diretamente indicando o caminho para o XTerm (ou outro emulador de terminal de sua preferência), se for permitido fazê-lo.
Há mais de 10 anos (20 anos?) temos o runlevel 5 como o padrão para distribuições voltadas para desktops. No runlevel 5, o sistema faz tudo que faria no 3, mas sobe o X com um display manager ao final. O usuário então faz o registro de entrada graficamente e seleciona sua sessão também graficamente, dispensando a customização de um recurso (resource) específico pra isso e a utilização de comandos como startx ou xinit.
https://wiki.archlinux.org/index.php/Xinit_(Português)
De certa maneira, podemos dizer que a ascensão de ambientes desktop com maior poder de abstração acabaram dissolvendo a barreira entre os componentes, de forma que tudo parece muito integrado. Trata-se de algo que já era perceptível com o KDE 1.0 — que eu usei quando ele era, de fato, sinônimo de KDE, com o 2 sendo visto com grande expectativa. O KDM, diferente do XDM, que era basicamente regra até então, permitia selecionar o usuário e a sessão de forma intuitiva, lembrando uma experiência que antes estava basicamente restrita a sistemas comerciais com CDE, como Solaris, HP-UX e AIX ou sistemas com arranjos distintos, como o Irix da SGI ou o OpenStep/NeXTStep da NeXT. No Brasil, sistemas Unix com poder de processamento equivalente ou superior a um Pentium podiam custar o preço de um automóvel ou imóvel.
Legenda: KDM no Conectiva Linux 4.0 Edição Especial, rodando no PCem
O fato é que o X não obriga ninguém a usar um gerenciador de janelas e, como um computador com processador 386 ou 486, que eram muito comuns na década de 1990, não era exatamente super poderoso, dava pra fazer essas brincadeiras em algumas situações. No passado, o Red Hat Linux e distribuições baseadas nele, como o Conectiva Red Hat Linux ou o Caldera OpenLinux, por exemplo, inicializam por default em runlevel 3. Se o usuário entrasse como root e digitasse init 5, veria então uma tela como esta:
Legenda: XDM no Conectiva Red Hat Linux Marumbi, rodando no PCem
Pessoalmente, acredito que um gerenciador de janelas minimalista pode ser melhor, até porque, dependendo da configuração, nem o cursor fica configurado (sendo exibido como um X, como na captura de tela acima), fora que não é possível manipular janelas de nenhuma forma. Um wm2 ou wmx, por exemplo, ou então um ratpoison. Isso se for pra pegar projetos de concepção antiga (e eu eu usei ambos em um 486 DX-4 100 MHz e outras máquinas do tipo).
Legenda: wm2 rodando no Slackware 8.1 num Pentium 100 MHz, são os clientes: XTerm, Xfm e DFM (captura de tela de muitos anos atrás)