O software livre no setor público parece ter tido muitos altos e baixos, mas também tenho relatos de pessoas que trabalham, por exemplo, no Judiciário em São Paulo, que estão descontentes com sistemas proprietários (solução customizada para o Tribunal) que rodam no Windows e até possuem integração com o Word.
Eu suspeito que o problema do setor público é muito mais de governança e talvez até de marco regulatório — por causa da Lei 8.666/1993 (Lei das Licitações) — do que de software livre ou fechado. Esse mesmo problema também ressurge no setor privado, que não depende da 8.666, principalmente quando soluções legadas vão ficando mais e mais difíceis de serem mantidas em operação.
A verdade é que é muito difícil construir bons ambientes computacionais em ambientes multiusuário. Sempre fica faltando alguma coisa.