Como detectar textos feitos pelo ChatGPT?

Inteligencias artificiais generativas de criação de texto e imagem são uma febre, elas atacam o antigo paradigma de que a tecnologia jamais conseguiria criar arte, ou algo parecido com isso. Fato é que muitas pessoas podem se confundir sobre se um material foi feito por outra pessoa, ou por uma máquina e é desejável um meio de detectar esse tipo de coisa.

A Mozilla Foundation lançou a discussão sobre se é possível detectar um texto escrito pelo chatGPT, inclusive com alguma inteligência artificial, uma forma de combater fogo com fogo. Ao longo da discussão, foi usado como exemplo a ferramenta OpenAI API Key, que pode analisar textos com pelo menos mil letras elaborados por inteligências artificiais, entretanto, este tipo de ferramente é incapaz de bater o martelo sobre a autoria de um texto. O grau de incerteza em seus resultados impossibilita o seu uso como prova legal e não podem servir, por exemplo, para acusar um aluno de plagiar um trabalho.

Possivelmente nunca chegaremos a um nível onde haja alguma ferramenta capaz de detectar precisamente se o texto foi gerado de maneira artificial, afinal, trata-se de uma espécie de corrida armamentística, onde os desenvolvedores da inteligência escritora buscam meios para burlar os detectores.

Dessa forma, conclui-se que a melhor maneira de perceber se o texto foi feito por uma máquina, é reparar em suas nuances, padrões de repetição e erros incomuns para seres humanos. Além disso, uma vez que essas tecnologias são incapazes de julgar precisamente o que é falso, elas podem criar textos com mentiras ou imprecisões, isso aumenta ainda mais a necessidade do leitor checar a autenticidade das informações lidas.

2 curtidas

Muito interessante esse tema. Eu com o tempo, fui tendo preguiça de escrever, revisar gramática, grafia e tudo mais.

Agora eu escrevo em prompts rsss.

Acho que o chatGPT é inclusivo. Quebra uma barreira que existiu por muito tempo onde invalidava muitos pensamentos que não tinham uma forma polida.

Como disse alguém: “Comunicação é resultado!”, resolvendo tá valendo.

Fico pensando aqui… o que interessa mais saber quem escreveu ou o que está escrito?

2 curtidas

Eu acho que o problema mais preocupante é a pessoa não pensar no que foi escrito.

Mas neste caso é mais simples de resolver eu acho, se for uma questão educacional, muitos professores andam fazendo prova oral, ou perguntando em uma prova os assuntos dos quais suspeitam que seja um copia e cola de GPT.

1 curtida

Mas tipo assim…

Sinceramente não vejo diferença do chat e do decoreba, pra mim só muda a forma de como é feito.

A diferença é pequena, mas pode significar deixar o ótimo ser inimigo do bom, e é uma coisa que procuro evitar.

Mesmo ao decorar a pessoa pelo menos pensa em algum nível razoável sobre o assunto, na maioria das vezes.

GPT é mais uma ferramenta que resolve as coisas para as pessoas medianas que vivem na superfície dos assuntos. Ou não! Sei lá!

Não é bem assim eu acho. Da para usar o chatGPT, sem decorar e sem copiar e colar (nem ler a resposta), mas claro, também surgem estas questões, de que agora é mais fácil eu fingir que um texto é fruto do meu raciocínio sobre algo.

Meio que é o motivo de pessoas estarem estudando formas de detectar se um texto é produto do chatGPT.

Do meu ponto de vista:

Se o ensino for privado: Tanto faz, o aluno só tá desperdiçando o dinheiro dos país, não é problema de ninguém.

Se o ensino for público: Não é como se fosse um investimento produtivo de dinheiro público sequer dar educação ao vagabundo em questão que desperdiça a chance que a vida lhe dá não sendo capaz de fazer o mínimo, ele já não ia aprender nada mesmo então é até melhor que passe direto pois dá menos gasto com merenda.

O chat gpt não é útil em situações realmente importantes como exames de admissão, concursos, exames de habilitação e afins pela estrutura deles não admitir essa possibilidade. Enquanto isso não mudar eu acho que tentar desenvolver formas de decidir se algo foi gerado ou não por ia é um desperdício de tempo/dinheiro, e até questionável do ponto de vista prático já que resultados são resultados.

Ok, o que eu escrevi pode ter ficado confuso, mas o resumo é: Não acho que alguém tenha algo a ganhar com isso.

Eu acho que depende. Já recebi currículos claramente vindos do chat GPT, e já me perguntei se um software pelo menos não poderia me indicar trechos prováveis, poupar meu tempo.

Eu também fico pensando, agora que é possível gerar toneladas de texto, também é possível sobrecarregar serviços e empresas que avaliam esse texto. StackOverflow, etc.

De que forma um currículo feito pelo chat gpt seria inferior a um currículo feito copiando um modelo de internet (vulgo 99%) assumindo que as qualificações mencionadas são genuínas?

O segundo ponto é mais interessante, isso já era um problema antes dessa nova onda de ias.

Eu posso facilmente detectar (procurar a cópia) e descartar a entrevista, essa é a diferença.

Se você quer saber por que eu descartaria, se o candidato mencionasse no currículo que é uma cópia, eu o entrevistaria.