SAS: Inteligência Artificial e proteção de dados vivem em tensão

Os dados sempre fizeram parte das organizações. A diferença agora é que elas estão capturando e rastreando mais. “O que vamos encontrar daqui para frente é uma atenção maior para eliminar alguns dos vieses que existem nos dados. Acho que, espero, chegaremos a uma conclusão de que o preconceito é uma parte da condição humana”, apontou Reggie Townsend, diretor da prática de ética em dados do SAS, em entrevista exclusiva ao Convergência Digital, durante o SAS Innovate on Tour, evento realizado em Valinhos (SP). A inteligência artificial, reforçou, vem acompanhada de riscos e recompensas; e ela tem de ser confiável, o que requer uma abordagem abrangente, além de estar em acordo com regulamentos.

Townsend defendeu que haja mais vozes na conversa para expressar a realidade e ressaltou que é necessário pensar sobre o preconceito em termos de significado negativo e positivo. “Se estivermos trabalhando com conjuntos de dados que sabemos que podem ser distorcidos negativamente de alguma forma, devemos estar preparados para distorcer positivamente esses dados para que eles representem justiça”, disse.

Aceitar que a IA é potencialmente disruptiva para as empresas e que muitas empresas não estão preparadas para se tornar totalmente orientada por inteligência artificial é algo que deve ser endereçado pelas companhias, conforme alertou o executivo, que, recentemente, foi nomeado para o National Artificial Intelligence Advisory Committee (NAIAC). A dificuldade para as corporações reside no fato de que incorporar IA as obriga a mudar o fluxo de trabalho de seus negócios e os processos que existem hoje. 

Atualmente, existem métodos para identificar e mitigar o viés. A análise de um conjunto de dados leva a determinar quais variáveis potenciais existem nos dados que podem levar a um viés. “E, então, podemos dar sugestões de como mitigar alguns dos danos associados a isso. Com o tempo, há algo chamado deriva de modelo. Os modelos começam a perder parte de sua integridade, ao longo do tempo, e esse é o desvio do modelo. Então, o que antes era imparcial, ou altamente tendencioso, pode se tornar cada vez mais”, explicou, chamando a atenção para a importância de uma constante averiguação dos modelos para identificar vieses.   

Implementando estratégia de IA

A estratégia para adoção de IA deve ser pensada de tal maneira que não frustre os envolvidos. Para tanto, Townsend ressaltou a importância de começar fazendo o conjunto certo de perguntas e entendendo os problemas que se quer resolver. “Se sabemos que o que estamos tentando resolver, em última análise, isso exigirá que reavaliemos as regras e o fluxo de trabalho que existem atualmente. Então, acho apropriado dar um passo atrás e dizer: Ok, quais são as consequências de alterar essas regras e fluxo de trabalho, se vamos automatizar esse trabalho? Como ele impacta as pessoas dentro da organização? Isso torna nosso negócio mais eficiente?”, enumerou.

As organizações precisam estar preparadas para absorver as mudanças que vêm com a implantação de IA. Muitas vezes, as corporações não estão preparadas para grandes e valiosas ideias grandiosas e não conseguem digerir tanto. Por isso, o executivo orienta começar pequeno, experimentando algumas dessas coisas. “A experimentação é provavelmente a melhor abordagem.” Nesta jornada, o primeiro passo é entender onde estão os dados. Depois deve-se certificar de que os dados sejam interoperáveis e que haja boa manutenção em torno do gerenciamento de dados. 

LGPD

Mas como conciliar a adoção de inteligência artificial e análise de dados estando de acordo com legislações como de privacidade de dados? Para Reggie Townsend, existe uma tensão neste ponto e os países, eventualmente, terão de encontrar a melhor maneira de acomodar ambos. “IA vai nos forçar a repensar o que consideramos privacidade. Nós não estamos lá ainda. Mas acho que com o tempo, à medida que mais pessoas se sintam, por exemplo, confortáveis com câmeras em todos os lugares, o que, anteriormente, costumávamos chamar isso de estado de vigilância”, assinalou.

Como equilibramos isso? Townsend disse que ninguém tem essas respostas ainda e que espera que existam algumas conversas maduras sobre o tema. “De uma perspectiva ética, as sociedades acabarão por determinar as culturas onde esse equilíbrio existe, o que pode ser aceitável aqui no Brasil pode não ser tão aceitável, digamos, lá nos EUA”, detalhou. A chave, ressaltou o especialista, está em manter os humanos no controle, mas isso requer que os humanos cheguem a algum nível de compreensão e concordância. “E é aí que os governos têm desempenhado um papel significativo em termos de estabelecimento de padrões”, acrescentou. 

Ao falar sobre ética em dados e IA, Reggie Townsend ressaltou que cada país, cada empresa, cada pessoa tem um conjunto de valores que defendem, assim como as companhias têm um conjunto de princípios de ética de dados que seguem. Os dados refletem os valores que existem em toda essa cadeia. “No momento em que eu disser que vou escolher uma preferência isso é inerentemente um viés. A questão é: você está influenciando de uma maneira que impacta negativamente as pessoas? Essa é a verdadeira pergunta”, assinalou.