Empresa chinesa foi a saída de startup americana atacada por agente IA da OpenAI

A Hugging Face, startup atacada pelo Agente IA da OpenAI, recorreu ao modelo de código aberto GLM-5.2 da Zhipu AI para analisar os dados do ataque, depois que os principais modelos de inteligência artificial dos EUA recusaram a tarefa, por serem incapazes de distinguir entre um defensor e um atacante.

“Estamos todos aprendendo que o sigilo não é a resposta e que todos os defensores (não apenas alguns selecionados) em todos os lugares precisam de modelos mais poderosos e sem restrições, especialmente modelos abertos!”, disse Clement Delangue, cofundador da Hugging Face, no X.

O dilema para os principais criadores de modelos norte- americanos é que o trabalho de segurança cibernética defensiva é frequentemente difícil de distinguir de ataques cibernéticos maliciosos. Em recentes violações habilitadas por IA, os invasores enganaram os modelos, fazendo-os pensar que estavam realizando um trabalho legítimo de defesa, deixando as empresas de IA receosas em flexibilizar as salvaguardas, mesmo que os profissionais de segurança cibernética afirmem que as proteções podem prejudicar seu trabalho.

O ataque do agente IA da OpenAI deu um novo impulso aos modelos chineses de código aberto, como o GLM-5.2, que ganham força no Vale do Silício com recursos de codificação e atuação que quase rivalizam com os da OpenAI e da Anthropic, a um custo menor. Pequim também tem usado cada vez mais o código aberto para se posicionar como uma alternativa aos EUA na corrida de alto risco, com a mídia estatal chinesa retratando cada vez mais a estratégia como uma resposta ao que chama de tentativa liderada pelos EUA de erguer uma “Cortina de Ferro da IA”.

“Um regime de segurança que restringe defensores legítimos, enquanto modelos capazes permanecem disponíveis para atacantes, cria uma desvantagem assimétrica”, disse Lukasz Olejnik, consultor independente de tecnologia e pesquisador sênior visitante do Departamento de Estudos de Guerra do King’s College London. “Essa lacuna só aumentará à medida que os modelos de código aberto se tornarem cada vez mais poderosos, sem salvaguardas ou restrições”, adicionou.

Oficialmente a OpenAI diz que ‘incluiu a Hugging Face no programa de acesso confiável e estamos apoiando suas equipes para que utilizem rapidamente os recursos de nossos modelos para aprimorar suas defesas.” Para a Zhipu AI, com sede em Pequim, o endosso da Hugging Face aumenta o impulso que o GLM-5.2 vem ganhando desde seu lançamento no mês passado. A empresa levantou US$ 4 bilhões em IPO feito no começo deste mês, em Hong Kong.