Governo avança com IA, sem política e sem prevenção a possíveis danos
Uma pesquisa realizada junto ao setor público brasileiro identificou 23 ministérios e agências federais que já usam, mesmo que em fase de testes, sistemas de inteligência artificial e machine learning para executar suas funções. E para a professora de direito digital no Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP), Bianca Kremer, essas ações isoladas são um risco.
“São entes públicos que fazem uso desses sistemas sem a presença de um panorama regulatório em vigor, sem aferição de riscos e pouco ou nada se sabe se eles têm análise de impactos de danos possíveis”, criticou a professora. Para dar uma ideia da dimensão dos desafios nessa área, Bianca Kremer citou o exemplo de um projeto executado na província de Salta, na Argentina, em parceria com a Microsoft.
Um sistema usado pelo governo local prometia identificar as crianças com maior risco de engravidarem na adolescência, para que fossem atendidas com políticas públicas específicas. Segundo Kremer, os parâmetros usados pelo sistema (etnia, local de moradia, número de pessoas na mesma casa) perpetuavam a estigmatização de mulheres pobres, levando a resultados “superdimensionados” e erros estatísticos “grosseiros”.
A Comissão de Juristas que elabora anteprojeto para o marco regulatório da inteligência artificial (CJSUBIA) promoveu nesta quinta-feira, 12/05, uma série de audiências públicas para discutir o impacto da IA na formulação de políticas públicas. A comissão foi instalada no dia 30 de março e tem até o final de julho para entregar uma proposta de regulação para Inteligência Artificial ao Senado.
E até esta sexta-feira, 13, a comissão recebe contribuições abertas nos eixos temáticos para discussão, que são: Conceitos, compreensão e classificação de inteligência artificial; Impactos da inteligência artificial; Direitos e deveres; e Accountability, governança e fiscalização. As contribuições deverão ser enviadas para o email [email protected] ou para o Protocolo do Senado Federal (Ala Senador Alexandre Costa, Sala 15, subsolo).
Fonte: Agência Senado
