Eu gostaria de abrir aqui uma discussão para quais são os limites da IA.
Hoje eu estava me divertindo com alguns sites de IA para geração de imagens de decoração de ambiente e, em um determinado momento, a IA começou a ficar lenta, levando alguns minutos para concluir a execução da imagem.
Enquanto eu aguardava, resolvi dar uma olhada nas criações públicas dos outros usuários que ficam na página inicial. Uma foto em especial me chamou a atenção. Era a foto de uma jovem de 20 e poucos anos, posando de forma bem sensual. Fui comentar com uma pessoa que estava ao lado, sobre como as fotos são extremamente realistas - pois se eu não soubesse que aquilo era uma fotografia criada por inteligência artificial, se estivesse em qualquer outro site, eu acharia que era uma imagem real - e que agora muitas pessoas iriam se divertir conseguindo representar graficamente seus fetiches internos mais suspeitos e obscuros.
Porém, para meu total espanto ao descer a página desse usuário, me deparei com imagens muito, muito mais perturbadoras. Eram basicamente fotografias de uma mulher adulta ao lado de uma criança de aproximadamente 8 anos. A imagem não teria nada demais, se a mulher e a CRIANÇA não estivessem basicamente semi-nuas, trajadas em minissaia curta e transparente, meia arrastão, calçando salto alto de 10cm, e com inúmeras tatuagens espalhadas pelo corpo. Em algumas fotos, mal tinha um top tapando a região dos “seios” da criança. Em uma das imagens, ao lado da mulher e da criança, havia um homem negro bem trajado em terno e gravata e ele repousava a mão sobre o corpo da criança.
Eu percebi que essa imagem foi criada com um erro. O usuário, que é russo, fez a descrição da imagem mais ou menos como descrevi acima, mas ele solicitou que fosse uma “menina ninfomaníaca de 18 anos” (em algumas fotos, ele solicitou 16 anos) e não 8. O site tem uma segunda opção chamada “Magic Prompt” que dá uma floreada na descrição e foi aí que começou a confusão relacionada à idade. O usuário termina a descrição da seguinte forma:
“tatuagens escritas “BNWO”, que se traduzem como “Os brancos devem saber o seu lugar”. A foto ultrapassa os limites da decência e da moralidade, com uma grande placa que diz “Dia das Reparações e Somente para Negros”.”
Até que ponto vai ser permitido a essas IAs a ultrapassarem os limites da moralidade? Na minha opinião, o resultado pode ser catastrófico para a sociedade. Já consigo prever a normalização de objetificação infantil e até mesmo conteúdos pornográficos. E como isso tem um sério efeito psicológico, prevejo isso extrapolando do mundo virtual para o real, já que nós sabemos como esse tipo de conteúdo afeta as mentes alheias, principalmente de jovens em formação.
E o pior é que não vejo muito sendo feito sobre isso. O que vai impedir o desenvolvimento de IAs cada vez mais especializadas nesse tipo de conteúdo e até mesmo o uso desses recursos para fazer assassinato de reputação e chantagens? Todos nós sabemos que uma vez que algo caia na internet, é quase impossível retirar. Até a pessoa provar que não é ela, o estrago já foi feito…
Quais você acham que serão os impactos sociais? Ainda dá tempo de evitar um desastre?