Nova York adota regras para inteligência artificial
Os Estados Unidos não têm regulação nacional sobre o tema, mas a cidade de Nova York apresentou esta semana um Plano de Ação de Inteligência Artificial, que a prefeitura diz ser o primeiro desse tipo no país. São 40 iniciativas com objetivo de proteger os residentes contra danos como o preconceito ou a discriminação da IA.
O plano inclui o desenvolvimento de padrões para IA adquiridos por agências municipais e novos mecanismos para avaliar o risco da IA utilizada pelos departamentos municipais.
Essa regulamentação municipal poderá ser expandida em breve. Um novo projeto de lei apresentado pelo comitê de tecnologia da câmara de vereadores prevê um Escritório de Integridade de Dados Algorítmicos para supervisionar a IA em Nova York.
A proposta é de que o órgão receba reclamações dos cidadãos sobre sistemas automatizados de tomada de decisão utilizados por órgãos públicos, funcionando como um ombudsman para algoritmos nos cinco distritos. Também avaliaria os sistemas de IA antes da implantação pela cidade quanto a preconceitos e discriminação.
A presidente da comissão, Jennifer Gutiérrez, diz que a cidade não pode esperar por uma regulação nacional. “Temos uma responsabilidade única porque aqui reside muita inovação”, diz ela. “É muito importante para nós assumir a liderança.” Os departamentos municipais estão interessados em usar software de IA para tarefas administrativas, como avaliar o risco de uma criança ser vítima de abuso ou as taxas de aprendizagem dos alunos.
Mas a vereadora diz que cidade de Nova York tem a reputação de ser um campo de testes para tecnologia de vigilância, desde um recente aumento na utilização de drones até à utilização questionável de reconhecimento facial em habitações e estádios, e pela polícia.
