IA generativa: treinar, treinar e treinar para mitigar os riscos
Pesquisa global feita pela Deloitte aponta que as principais barreiras relatadas para uma implementação bem-sucedida de IA Generativa estão relacionadas a riscos, incluindo preocupações com a conformidade regulatória (36%); dificuldade em gerenciar riscos (30%); e falta de um modelo de governança (29%).
“Essas preocupações são provavelmente impulsionadas por riscos específicos da tecnologia, como viés de privacidade, confiança e proteção contra novas superfícies de ataque. Para construir confiança e garantir o uso responsável, as organizações estão trabalhando para criar novas diretrizes e capacidades de supervisão”, enfatiza Jefferson Denti.
Globalmente e no Brasil, as principais ações incluem: estabelecer um framework de governança para o uso de ferramentas e aplicações de IA Generativa (51% e 40%, respectivamente); monitorar requisitos regulatórios e garantir conformidade (49% e 35%); e realizar auditorias/testes internos em ferramentas e aplicações de IA Generativa (43% e 68%).
Adicionalmente, no Brasil, 44% das organizações também estão focadas em treinar profissionais para identificar e mitigar riscos em sistemas de IA Generativa, como parte das iniciativas para uma integração bem-sucedida da ferramenta.
“Mesmo com alguns avanços significativos na tecnologia de IA Generativa, estamos vendo um momento de reavaliação por parte das organizações. As empresas estão percebendo que, enquanto o potencial da IA é enorme, o caminho para sua implementação bem-sucedida é repleto de desafios complexos, especialmente em termos de dados e governança. Essa fase de adaptação é crucial para ajustar estratégias e garantir que a tecnologia possa entregar os benefícios prometidos de forma consistente e sustentável” avalia Jefferson Denti, Chief Disruption Officer da Deloitte e líder do Deloitte AI Institute no Brasil.
O estudo mostra ainda que dois terços das grandes empresas consultadas em caráter global – 67% – estão aumentando investimentos em Inteligência Artificial. No Brasil, 62% das organizações com lideranças entrevistadas vão nesta mesma linha, considerando a tecnologia um diferencial competitivo.
Eentre os executivos das organizações entrevistadas, em âmbito global, 75% informaram que aumentaram seus investimentos em tecnologia em torno do gerenciamento do ciclo de vida dos dados devido à IA Generativa. Ainda assim, 55% dos respondentes afirmaram que evitam certos casos de uso da ferramenta.
Apenas 23% de todos os entrevistados consideram as organizações nas quais trabalham preparadas para a governança e gestão de riscos que a IA Generativa traz. Para 41%, suas empresas estão lutando para definir e medir impactos das iniciativas com IA Generativa, e menos da metade têm KPI’s específicos.
