Carta Aberta na Europa pede mudança urgente na Lei de Inteligência Artificial
Uma carta aberta subscrita por 114 organizações da sociedade civil, divulgada nesta terça, 30/11, alerta as instituições europeias para que modifiquem a futura Lei de Inteligência Artificial, de forma a que proteja devidamente os direitos humanos fundamentais e aborde os impactos estruturais da inteligência artificial.
O texto proposto pela Comissão Europeia foi publicado em abril de 2021 e buscava criar uma abordagem baseada no risco e liderada pelo mercado para regular a IA, estabelecendo autoavaliações, procedimentos de transparência e vários padrões técnicos.
Para as entidades, em que pese a proposta ser um passo importante, ela acabará falhando em proteger os direitos fundamentais das pessoas e mitigar os piores abusos da tecnologia porque não aborda os desequilíbrios de poder fundamentais entre as empresas de tecnologia e aqueles que estão sujeitos aos seus sistemas.
É um cenário semelhante ao que acontece no Brasil, onde um marco legal para inteligência artificial já foi aprovado na Câmara por meio do Projeto de Lei 21/20. O texto brasileiro é muitas vezes mais tímido que a proposta da União Europeia e tem recebido críticas de especialistas por ser uma carta de intenções genéricas e ter passado por poucos debates. Um ponto em comum, porém, é a abordagem baseada em risco e a prevalência do mercado sobre os usuários.
Na carta à UE, as entidades pedem medidas como a proibição total de sistemas de pontuação social, de identificação biométrica remota em espaços acessíveis ao público, sistemas de reconhecimento de emoções, categorização biométrica discriminatória, sistemas usados para prever atividades criminosas futuras ou sistemas para traçar o perfil e avaliar os riscos em um contexto de migração.
“Os sistemas de IA exacerbam os desequilíbrios estruturais de poder, com danos muitas vezes recaindo sobre os mais marginalizados da sociedade. Como tal, esta declaração coletiva estabelece o apelo de 114 organizações da sociedade civil a uma Lei de Inteligência Artificial que priorize os direitos fundamentais”, diz a carta.
Segundo as organizações, algumas práticas de IA são simplesmente incompatíveis com os direitos fundamentais e devem ser banidas de uma vez. “Se um sistema de IA explorar as vulnerabilidades de uma pessoa ou grupo com base em qualquer característica sensível ou protegida, incluindo, mas não se limitando a idade, gênero e identidade de gênero, origem racial ou étnica, estado de saúde, orientação sexual, sexo características, status social ou econômico, status do trabalhador, status de migração ou deficiência, então é fundamentalmente prejudicial e, portanto, deve ser proibido. ”
* Com informações da Computer Weekly
