A Comissão Europeia inaugurou, na Espanha, o Centro Europeu de Transparência Algorítmica (ECAT, na sigla em inglês), como parte do Centro Comum de Pesquisa da Comissão Europeia em Sevilha. A ECAT foi criada para realizar auditorias de responsabilidade e transparência algorítmicas usadas por plataformas on-line e mecanismos de pesquisa proeminentes, conforme exigido pela Lei de Serviços Digitais (DSA).
Para garantir a conformidade com esses requisitos, o ECAT fornecerá à Comissão Europeia conhecimentos técnicos e científicos internos, incluindo a realização de análises técnicas e avaliações de algoritmos por uma equipe interdisciplinar de especialistas. A ECAT também investigará o impacto social de longo prazo dos algoritmos e trabalhará para identificar e abordar os riscos sistêmicos decorrentes dessas plataformas.
De acordo com o DSA, o papel do ECAT é garantir que os sistemas algorítmicos usados por Very Large Online Platforms e Very Large Online Search Engines cumpram os requisitos de gestão de risco, mitigação e transparência. Esses mecanismos de busca e plataformas online terão que avaliar e mitigar uma ampla gama de riscos sistêmicos em suas plataformas, desde como o conteúdo ilegal e a desinformação podem ser amplificados por meio de seus serviços até o impacto na liberdade de expressão ou liberdade de mídia. Além disso, riscos específicos em torno da violência baseada em gênero online e a proteção de menores online e sua saúde mental devem ser abordados.
A Lei de Serviços Digitais impõe requisitos de gerenciamento de risco para empresas designadas pela Comissão Europeia como Very Large Online Platforms e Very Large Online Search Engines. Sob essa estrutura, as plataformas designadas terão que identificar, analisar e mitigar uma ampla gama de riscos sistêmicos em suas plataformas, desde como o conteúdo ilegal e a desinformação podem ser amplificados por meio de seus serviços até o impacto na liberdade de expressão ou liberdade de mídia. Da mesma forma, riscos específicos em torno da violência baseada em gênero online e a proteção de menores online e sua saúde mental devem ser avaliados e mitigados. Os planos de mitigação de riscos das plataformas e mecanismos de pesquisa designados serão submetidos a uma auditoria independente e supervisão da Comissão Europeia.
A ECAT fornecerá à Comissão conhecimentos técnicos e científicos internos para garantir que os sistemas algorítmicos utilizados pelas Very Large Online Platforms e Very Large Online Search Engines cumpram os requisitos de gestão, mitigação e transparência de riscos da DSA. Isso inclui, entre outras tarefas, a realização de análises técnicas e avaliações de algoritmos. Uma equipe interdisciplinar de cientistas de dados, especialistas em IA, cientistas sociais e especialistas jurídicos combinará seus conhecimentos para avaliar seu funcionamento e propor as melhores práticas para mitigar seu impacto. Isso será crucial para garantir a análise criteriosa dos relatórios de transparência e autoavaliação de risco apresentados pelas empresas designadas e para realizar inspeções aos seus sistemas sempre que solicitado pela Comissão.
