Sobre os limites da Inteligência Artificial...antes que seja tarde

Eu gostaria de abrir aqui uma discussão para quais são os limites da IA.

Hoje eu estava me divertindo com alguns sites de IA para geração de imagens de decoração de ambiente e, em um determinado momento, a IA começou a ficar lenta, levando alguns minutos para concluir a execução da imagem.

Enquanto eu aguardava, resolvi dar uma olhada nas criações públicas dos outros usuários que ficam na página inicial. Uma foto em especial me chamou a atenção. Era a foto de uma jovem de 20 e poucos anos, posando de forma bem sensual. Fui comentar com uma pessoa que estava ao lado, sobre como as fotos são extremamente realistas - pois se eu não soubesse que aquilo era uma fotografia criada por inteligência artificial, se estivesse em qualquer outro site, eu acharia que era uma imagem real - e que agora muitas pessoas iriam se divertir conseguindo representar graficamente seus fetiches internos mais suspeitos e obscuros.

Porém, para meu total espanto ao descer a página desse usuário, me deparei com imagens muito, muito mais perturbadoras. Eram basicamente fotografias de uma mulher adulta ao lado de uma criança de aproximadamente 8 anos. A imagem não teria nada demais, se a mulher e a CRIANÇA não estivessem basicamente semi-nuas, trajadas em minissaia curta e transparente, meia arrastão, calçando salto alto de 10cm, e com inúmeras tatuagens espalhadas pelo corpo. Em algumas fotos, mal tinha um top tapando a região dos “seios” da criança. Em uma das imagens, ao lado da mulher e da criança, havia um homem negro bem trajado em terno e gravata e ele repousava a mão sobre o corpo da criança.

Eu percebi que essa imagem foi criada com um erro. O usuário, que é russo, fez a descrição da imagem mais ou menos como descrevi acima, mas ele solicitou que fosse uma “menina ninfomaníaca de 18 anos” (em algumas fotos, ele solicitou 16 anos) e não 8. O site tem uma segunda opção chamada “Magic Prompt” que dá uma floreada na descrição e foi aí que começou a confusão relacionada à idade. O usuário termina a descrição da seguinte forma:

“tatuagens escritas “BNWO”, que se traduzem como “Os brancos devem saber o seu lugar”. A foto ultrapassa os limites da decência e da moralidade, com uma grande placa que diz “Dia das Reparações e Somente para Negros”.”

Até que ponto vai ser permitido a essas IAs a ultrapassarem os limites da moralidade? Na minha opinião, o resultado pode ser catastrófico para a sociedade. Já consigo prever a normalização de objetificação infantil e até mesmo conteúdos pornográficos. E como isso tem um sério efeito psicológico, prevejo isso extrapolando do mundo virtual para o real, já que nós sabemos como esse tipo de conteúdo afeta as mentes alheias, principalmente de jovens em formação.

E o pior é que não vejo muito sendo feito sobre isso. O que vai impedir o desenvolvimento de IAs cada vez mais especializadas nesse tipo de conteúdo e até mesmo o uso desses recursos para fazer assassinato de reputação e chantagens? Todos nós sabemos que uma vez que algo caia na internet, é quase impossível retirar. Até a pessoa provar que não é ela, o estrago já foi feito…

Quais você acham que serão os impactos sociais? Ainda dá tempo de evitar um desastre?

9 curtidas

Meu TCC de jornalismo foi sobre isso. No final, descobri que os veículos não sabiam que desde dos anos 2000 usavam IA.

Escrevi uns artigos sobre minha experiência na comunicação e computação:

3 curtidas

Muito bem escritos os artigos, curti.

No final mostra o link:

PS: Quem quiser ver meu TCC, pode acessar por aqui: ONLYOFFICE

Tentei acessar e está fora

1 curtida

Opa, amigo obrigado por ler meus artigos. o link do TCC ficou quebrado porque no onllyOffice mudou a forma né de como operar links externos

1 curtida

Em seu artigo, você comentou algo que eu pensei durante meu texto, mas não publiquei:

Para concluir, as inteligências artificiais são como imitadores de habilidades, assemelhando-se a macacos. Elas dependem de três elementos essenciais: alguém para imitar, o que deve ser imitado e um tutor para orientar suas ações.

Quando me deparei com aquelas imagens, só me passou pela cabeça que essa IA estava imitando fotos previamente publicadas no mesmo estilo, mas não só isso, a ela não só foi permitida, como também orientada a publicar esse tipo de conteúdo. Eu não estou muito por dentro das IA, mas confesso que fiquei assustada como tudo isso fica exposto “à luz do dia” como se fosse a coisa mais normal do mundo.

Sei que ali não é uma criança real. Mas imagens de crianças reais foram usadas para isso. Agora, questionemos: que tipo de imagens foram usadas para gerar estas e de quais fontes?! ?!

2 curtidas

Estando na era da pós-verdade, espera as coisas se escalarem até as pessoas definitivamente não saberem de onde realmente se originam as informações, e ficarem totalmente alheias dos fatos e da realidade. Nesta situação, quem definirá o que é moral ou ética?..

4 curtidas

Moça, calma. O ser humano aprende de forma semelhante à inteligência artificial. Segundo meus estudos, artigos de faculdades francesas sugerem a ideia de padronizar a inteligência computacional em vez da inteligência artificial. A inteligência artificial busca copiar a inteligência humana de forma computadorizada, enquanto a inteligência computacional tem como objetivo replicar cada ser vivo em formato digital.

Lembra que eu mencionei brevemente a questão do mimetismo nos artigos? Para quem não sabe, mimetismo é a ideia de aprender por observação, adquirindo conhecimento sobre o funcionamento das coisas. Os filósofos socráticos adotaram essa metodologia de ensino, onde os jovens aprendiam sobre sentimentalismo e as histórias da Grécia antiga por meio de peças de teatro. A psicologia moderna concluiu que até os 10 anos de idade é o período em que um jovem ser humano aprende sua essência, as habilidades herdadas da família e as habilidades que vai desenvolver no ambiente em que vive.

A inteligência artificial funciona de maneira semelhante, aprendendo também por mimetismo. A diferença é que, enquanto o ser humano demora cerca de 10 anos para desenvolver sua base existencial, uma inteligência artificial pode fazer isso em aproximadamente um ano. Claro, para uma inteligência artificial com uma estrutura muito similar à rede neural humana, pode demorar um pouco mais de um ano, dependendo do nível de inteligência que se deseja adquirir.

Mas a diferença entre um ser vivo natural, como nós humanos, e um ser vivo artificial, como uma inteligência artificial, é que nós conseguimos nos reproduzir, nos cuidar e evoluir de forma autônoma. Já a inteligência computacional está limitada a realizar apenas aquilo para o que foi programada.

3 curtidas

Vai lembrar que a pós-verdade é um termo bem arcaico, na verdade, referente aos imperialistas do passado que modificavam muito a sua base teórica e educacional para assim cativar o seu povo. Então, nunca, na história ouve de fato alguém jus que não quis controlar as massas, apenas utilizaram ferramentas de manipulação de massa diferente.

1 curtida

Isso foi a primeira “dedução óbvia” que imaginei. Quando imagens, vídeos e vozes puderem ser produzidos artificialmente com elevado grau de realidade, governos e canais de comunicação usarão IA para destruir a reputação de quem quer que seja.

Muito infelizmente, o mundo caminha para isso. De fato, isso já acontece. Crianças são, cada vez mais, expostas a/em conteúdo adulto. E, cada vez menos, são tratadas como seres inocentes e que necessitam cuidado quanto a esse tema.

2 curtidas

Realmente, a comunicação sempre foi usada como método de manipulação social. Na Idade Média, os jornalistas eram os bobos da corte, os bardos e os arlequins, que atuavam como espiões e difamadores, divulgando notícias dos reinos. Durante a Primeira e a Segunda Guerra Mundial, o jornalismo foi utilizado como ferramenta de propaganda, manipulando a produção de notícias para influenciar a percepção de que o outro lado estava perdendo a guerra.

Ou seja, qualquer ferramenta pode ser usada tanto para o bem quanto para o mal. A invenção dos irmãos Lumière, embora conhecida por ter dado origem ao cinema, usou o conceito da “caixa preta”. A “caixa preta” funcionava de maneira oposta ao prisma de Newton: a luz passava pelo prisma, refletia no objeto e projetava a imagem dentro da caixa, permitindo que artistas copiassem o objeto refletido nas parede da caixa preta. Os Lumière inverteram essa ideia, colocando o prisma dentro da caixa preta e criando uma nova forma de capturar e exibir imagens em movimento.

Contudo, na Segunda Guerra Mundial, essa tecnologia cinematográfica foi utilizada por Hitler como meio de propaganda. A Escola de Frankfurt, composta por intelectuais alemães que fugiram para os Estados Unidos, aplicou técnicas similares de comunicação para combater a propaganda nazista durante a guerra.

O problema é que até a inteligência computacional se desenvolver, a inteligência artificial já fez seus estragos (até porque eu já prevejo muita lucratividade). Imagina uma criança que passa pela adolescência - dos 10 aos 18 anos - sendo exposta a essa normalização de corpos infantis sexualizados. Quando chegar o momento dessa inteligência computacional, não se tornará um círculo vicioso de máquina imitando conceitos morais duvidosos de seres humanos que foram doutrinados desde a infância?

Eu tenho visto muitos relatos de adolescentes que começaram assistindo conteúdo adulto desde os 10-11 anos e agora aos 16 estão completamente viciados, a ponto de perderem qualidade de vida e desenvolverem transtornos da mente. Não é essa galera que as máquinas vão mimetizar futuramente?

1 curtida

Moça, você tocou em algo que eu, como linguista, adoro. Entre os linguistas, existe o conceito de uma língua natural. Línguas como o espanhol, o alemão e o português têm origem latina, mas o latim não é uma língua natural, pois nasceu do indo-europeu. O guarani e o tupi têm origens astecas, misturadas com influências chinesas e das línguas dos povos da Moana, a princesa da Disney. Ou seja, nenhuma língua que falamos hoje é completamente natural.

No século 18, os linguistas começaram a pensar em um experimento para descobrir como uma língua natural poderia surgir. A ideia era deixar duas crianças não alfabetizadas em uma casa, sem qualquer forma de letra ou linguagem escrita, mas com mantimentos para sobreviver. Se elas conseguissem crescer, teriam que criar uma nova língua.

Você mencionou o mimetismo artificial e as inteligências artificiais. Isso me lembra que a pornografia, por exemplo, é algo enojável, mas natural. Se uma inteligência artificial copiasse comportamentos humanos, ela não entenderia o prazer ou a essência dessas experiências, pois não pode se reproduzir ou sentir prazer.

Um anime que aborda essa ideia é “Sword Art Online”. Nesse anime, tentam imaginar como seria se a inteligência artificial pudesse aprender 100% do lado bom e do lado ruim do ser humano. Para isso, seria necessária uma simulação computacional, onde os seres humanos pudessem entrar no computador através de uma projeção cerebral. Sem essa interação, a inteligência artificial não poderia compreender completamente as nuances das experiências humanas.

2 curtidas

Resumiu tudo kkkkkk

1 curtida

No momento, tudo indica que, a médio prazo, a tendência é a filtragem ser reduzida. Pelo menos é o que tenho visto nas plataformas. Claro que um escândalo pode mudar os ventos.

Mas, do meu ponto de vista, novamente é um caso de “não é a coisa, é quem usa a coisa”. Foi assim com a internet, redes sociais, etc.

É mais fácil ficar ajustando um software em vez de fazer alguma espécie de “terapia coletiva”, definir leis, se vai existir alguma definição de maioridade para uso, etc.

A sociedade tem dificuldade em dar respostas rápidas nesse sentido, já a tecnologia, em questão de 10 anos já se virou do avesso.

4 curtidas

É aquela frase do lord Baron: o poder corrompe, o poder absoluto corrompe absolutamente.

vejo pouquissimas pessoas falando sobre esse problema em especifico… as que mais vejo comentando sobre sao nós mulheres (as que serao mais prejudicadas com esse tipo de tecnologia). vi algumas pessoas protestando contra isso no X criando fotos pornograficas do elon musk com o mark zuckerberg ou utilizando celebridades dizendo que somente assim medidas seriam tomadas. ate agora nada…

2 curtidas

Sim, mas, uma coisa que percebi, e que me fez parar de ficar tão abismado com essas coisas, após passar pela internet, pelas redes sociais e tal… A humanidade já lidou com coisas piores, e infelizmente é assim, o social “avança” sempre a base de muito trauma. Moralidade e costumes, relações humanas… Não é uma coisa que evolue de uma forma muito científica, metódica ou determinista, mas a gente vai chegar lá… Só vai ser talvez quando IA generativa virar uma coisa tediosa e quase do arco-da-velha.

2 curtidas

Cara, o maior exemplo disso que você falou, eu até comentei aqui, foi o experimento proibido na linguística. A ideia é que atualmente não existe uma língua natural, todos os idiomas atuais são artificiais ou filhos de outro idioma. Aí tu acredita que no século XVIII os cientistas tentaram fazer um experimento que era para criar um idioma natural bastava botar duas crianças no alfabetizadas em um ambiente natural com alguns mantimentos, que caso elas crescerem, elas criam por necessidade um idioma natural.

Esse experimento foi proibido, por isso ele recebeu esse nome. Mas é a prova de como o ser humano ele pode fazer o bem e o mal para avanços da própria sociedade, Hoje os linguistas e pesquisadores de idiomas entendem que realmente em caso de catástrofe os remanescentes criaram um novo idioma.

1 curtida

Sim, na prática a ciência tem seus limites, em algum momento vai ser difícil, se não antiético, falsear algo.

O que é interessante dessa leva de novas IAs de hoje, é que finalmente, processar informações semânticas está virando algo concreto. Significado e semântica, até uns 10 anos atrás, era uma coisa difícil de manipular. Hoje é possível.

1 curtida