Anatel começa a regular IA e exige que Vivo abra algoritmo do call center

O projeto de lei que trata do tema ainda está em discussão no Congresso Nacional, mas a Anatel se adiantou para marcar posição na regulação da inteligência artificial. Na terça, 25/6, o conselheiro da agência Alexandre Freire despachou um ofício para cobrar explicações da Vivo sobre o uso de IA generativa no call center. 

“Diante da importância e do potencial impacto dessa tecnologia no serviço de atendimento ao consumidor, é imperativo que a Anatel tenha acesso a informações detalhadas sobre o funcionamento desse algoritmo”, aponta Freire no documento. 

A medida veio na esteira da divulgação, pela Vivo, de que desenvolveu com a Microsoft uma ferramenta de IA generativa, batizada I.Ajuda, que já está em uso por todos os 11 mil funcionários do call center da operadora. 

Segundo a Vivo, “é uma ferramenta de chat para fazer perguntas e consultas sobre os questionamentos do cliente. O chat é a interface da IA generativa, abastecida com conteúdo de mais de 30 sistemas e 2 mil processos que anteriormente eram a base de informações usada pelo atendente durante as interações com o cliente”.

Freire sustenta que as informações requisitadas à Vivo “são fundamentais para que se possa avaliar o impacto da solução I.Ajuda no mercado de telecomunicações e garantir que os direitos dos consumidores sejam devidamente protegidos”.

Assim, a Anatel quer saber:

a) Detalhes Técnicos do Algoritmo:
a.1) Descrição pormenorizada do algoritmo de IA generativa utilizado, destacando suas principais funcionalidades e os processos de machine learning aplicados;
a.2) Informações sobre as fontes de dados empregadas no treinamento do algoritmo e os mecanismos de atualização e aprendizado contínuo;

b) Transparência Algorítmica:
b.1) Medidas adotadas pela Telefônica/Vivo para assegurar a transparência do algoritmo, incluindo como a empresa garante que as decisões tomadas pela IA são compreensíveis e auditáveis;
b.2) Descrição da interface utilizada pelos agentes de atendimento e do processo de geração e apresentação das respostas;

c) Impactos no Serviço de Atendimento ao Consumidor:
c.1) Dados específicos sobre a melhoria dos indicadores de desempenho do atendimento ao cliente, conforme relatado pela Telefônica/Vivo;
c.2) Mecanismos de feedback e avaliação empregados pelos agentes para aprimorar a IA e assegurar a precisão das respostas;
c.3) Informações sobre a atuação dos “treinadores de bots” e como suas atividades contribuem para a calibração da ferramenta;

d) Segurança e Conformidade:
d.1) Detalhes sobre as camadas de proteção, segurança e conformidade implementadas, especialmente no contexto do Microsoft Azure OpenAI Service;
d.2) Garantias de que as informações dos clientes são processadas e armazenadas conforme os padrões de privacidade e segurança estabelecidos;

e) Impactos Regulatórios:
e.1) Avaliação da empresa sobre possíveis impactos regulatórios decorrentes do uso da IA generativa em seu serviço de atendimento;
e.2) Planos da Telefônica/Vivo para atender a eventuais exigências regulatórias que possam surgir em função da implementação dessa tecnologia.