Sim.
O jeito fácil é deixar o pendrive espetado e fazer a instalação do sistema.
Se vc for instalar em modo Legacy/BIOS, deverá criar uma partição para o /boot nesse pendrive e no final indicar o pendrive para a isntalação do GRUB.
Se vc for instalar em modo UEFI, deverá criar uma partição EFI nesse pendrive, indicar o ponto de montagem para o /boot/efi no particionamento manual, e indicar o pendrive na hora de instalar o GRUB. Possivelmente vc também tenha que copiar manualmente os arquivos do grub para o destino “removable” padrão na partição EFI (copiar o arquivo /EFI/debian/grubx64.efi para /EFI/BOOT/bootx64.efi)