Eu fiz alguns testes aqui (sway, wayfire, plasma) e o gnome-screenshot só rolou no mutter+gnome-shell mesmo em wayland, creio que deve ser alguma Interface D-bus, Portal XDG ou o próprio gnome-settings-daemon que direciona a captura de tela para a ferramenta nativa do shell, pelo menos é isso que eu acho, mas você poderia adaptar esses comandos para o spectacle? usando a ferramenta nativa do desktop, não seria mais viável e deixaria de depender do gnome-screenshot?
Aliás eu tentei fazer o inverso rodar o spectacle dentro do GNOME e não rola também.
A linha de comando do spectacle é um pouco mais complexa, mas os resultados são os mesmo, só teria que adaptar.
Para capturar a tela inteira após um “delay” de 10 segundos (o spectacle usa milisegundos) – tempo de abrir algum Menu etc.
-p=pointer, -d=delay msec -n=nonotify -b=background -o=output
spectacle -p -d 10000 -n -b -o $HOME/Imagens/$(date +%F_%H-%M-%S)_teste.jpg
OBS: o ponteiro não está sendo mostrado pois eu tirei essa captura no gosto então ele inve o ponteiro da máquina virtual.