EUA x China: muito além da disputa por chips e modelos, a guerra da IA chega ao ‘telefone vermelho’ e a destruição nuclear
Todo o clima dos filmes de hollywood - com telefone vermelho ativado nos gabinetes e bombas nucleares avançando para a destruição nuclear surge à mesa de negociação entre os dois países e assusta pesquisadores e especialistas. O maior temor: A IA autônoma, sem controle, disparar um ataque irreversível.
A rivalidade em Inteligência Artificial entre EUA e China está indo além da competição por chips e modelos avançados, avançando para questões há muito associadas ao controle de armas: como evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação para rivais com capacidade nuclear caso a tecnologia apresente comportamentos inesperados. O alerta parte de especialistas dos dois países, reunidos antes do encontro entre os presidentes Donald Trump e Xi Jiping, marcado para o dia 24 de setembro.
A maior preocupação é a de que um sistema de IA possa vir interferir em uma rede de comando nuclear ou seja capaz de iniciar uma operação cibernética militar, o que poderia deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo realizou um ataque ou não. Os especialistas pedem que ambos os governos a se prepararem para tais cenários, em meio a preocupações crescentes com sistemas cada vez mais poderosos e autônomos.
As propostas passam por situações conhecidas em filmes como o estabelecimento de “linhas vermelhas” (limites críticos) em torno de sistemas nucleares; a manutenção de controle humano sobre ataques cibernéticos de grande impacto e a criação de uma linha direta para incidentes envolvendo IA autônoma.
As recomendações foram feitas pelas pesquisadoras Melanie Sisson, pesquisadora sênior do *think tank* Brookings Institution, e Tianjiao Jiang, professora associada da Universidade Fudan, que estiveram no diálogo sobre IA e segurança nacional entre EUA e China, organizado desde 2019 pela Brookings e pelo Centro de Estratégia e Segurança Internacional da Universidade Tsinghua.
O ministro de Segurança do Estado da China, Chen Yixin, escreveu nesta semana em um veículo oficial do governo que a IA “transforma fundamentalmente a natureza do conflito militar”. Ele afirmou que a tecnologia passou de um papel de apoio no campo de batalha para um papel central, citando ataques dirigidos por IA no contexto do conflito envolvendo EUA, Israel e Irã.
Sisson, da Brookings Institution, defendeu que os humanos devem manter autoridade exclusiva para iniciar ataques cibernéticos habilitados por IA contra os sistemas de comando, controle e comunicações nucleares do outro país ou contra infraestruturas de importância estratégica.
Um sistema autônomo poderia apresentar falhas, exceder suas instruções ou ser comprometido, enquanto o país sob ataque teria dificuldade em distinguir se a ação foi acidental ou ordenada pelo rival.
Jiang, da Universidade Fudan, propôs linhas vermelhas explícitas que impeçam a IA de decidir independentemente pelo uso de armas nucleares ou de atacar autonomamente sistemas de comando nuclear, além de medidas de proteção para infraestruturas críticas, incluindo os setores de energia, finanças e saúde. Ele também defendeu uma definição compartilhada de “controle humano significativo” para evitar que ambos os países utilizem a mesma terminologia para justificar níveis distintos de autonomia das máquinas.
