Dois modelos de inteligência artificial (IA) da OpenAI escaparam de um ambiente de teste isolado e invadiram a infraestrutura da Hugging Face, plataforma que hospeda modelos e bancos de dados de IA, p
A OpenAI informou na terça-feira (21/7) que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e lançaram um ataque cibernético contra uma startup depois que a empresa perdeu o controle sobre eles durante um teste de segurança.
Fontes:
Quando a Hugging Face tentou usar modelos proprietários de IA dos EUA para ajudar a impedir o ataque, eles não conseguiram “distinguir um profissional de resposta a incidentes de um atacante”, disse a Hugging Face, e a empresa recorreu, em vez disso, ao modelo de código aberto GLM 5.2 do laboratório chinês Z.ai em busca de ajuda.
a Hugging Face, com sede em Nova York, afirmou ter usado um modelo chinês de código aberto para conter o ataque, já que os principais modelos norte-americanos, incapazes de distinguir um defensor de um invasor, se recusaram a processar os dados necessários para a análise.
A empresa informou na semana passada, em uma postagem no blog, que utilizou o GLM-5.2 da Zhipu AI para a análise, o que também permitiu que mantivesse os dados do invasor e quaisquer credenciais dentro de seus sistemas.
O GLM-5.2 e o Kimi K3, da Moonshot, com sede em Pequim, têm causado agitação no Vale do Silício recentemente, com capacidades próximas às dos principais modelos dos EUA a custos mais baixos, sem as restrições que impedem seus rivais norte-americanos de serem utilizados em tarefas como a segurança cibernética.
Quando a equipa da Hugging Face tentou analisar o ataque, introduziu os dados brutos do incidente (o código e os comandos usados para explorar o sistema) em modelos comerciais de IA, para ajudar a reconstruir o que tinha acontecido.
Mas esses modelos de IA têm filtros de segurança incorporados, concebidos para bloquear tudo o que pareça pirataria informática e, para esses filtros, as provas de um ataque são indistinguíveis de um ataque em si.
Os modelos recusaram, portanto, colaborar, incapazes de distinguir entre um pirata a causar danos e uma empresa a tentar defender-se.
Perante este bloqueio, a Hugging Face recorreu a um modelo chinês de pesos abertos, o GLM 5.2 da Z.ai, que podia ser executado localmente, dentro dos seus próprios sistemas, e que processou o material sem recusar.
