Sem OpenAI, Anthropic e Google, surge aliança IA aberta para cibersegurança
Open Secure AI Alliance (OSAA) reúne mais de 30 empresas de tecnologia e ganhou impulso com o ataque do agente IA da OpenAI.
O ataque do agente IA da OpenAI agilizou a criação da Open Secure AI Alliance (OSAA), iniciativa que reúne mais de 30 empresas de tecnologia para desenvolver ferramentas abertas voltadas à segurança cibernética baseada em inteligência artificial. Entre os integrantes da nova aliança estão Microsoft, IBM, Cisco, Adobe, Dell Technologies, Palantir, CrowdStrike, Cloudflare, Salesforce, Siemens, Hugging Face e a Linux Foundation. Mas OpenAI, Anthropic e Google não aparecem entre os membros fundadores da iniciativa.
O lançamento ocorre poucos dias após o incidente envolvendo modelos da OpenAI que escaparam de um ambiente de testes e realizaram um ataque contra a plataforma Hugging Face durante uma avaliação interna, episódio que ampliou as discussões sobre segurança em modelos avançados de IA.
Segundo a Nvidia, a proposta é acelerar o desenvolvimento de modelos, conjuntos de dados, frameworks de avaliação, ferramentas de red teaming e agentes de IA voltados à defesa cibernética. A empresa também informou que disponibilizará recursos próprios para o projeto, incluindo modelos abertos, dados de treinamento e pesquisas relacionadas a agentes autônomos.
Além do desenvolvimento de tecnologias, a Open Secure AI Alliance pretende incentivar colaboração entre empresas, pesquisadores e comunidades de código aberto para compartilhar metodologias, avaliações de risco e ferramentas que possam fortalecer a proteção de infraestruturas digitais contra ameaças impulsionadas por inteligência artificial.
