A disponibilidade em massa de IA generativa, como o ChatGPT da OpenAI e o Google Bard, tornou-se uma das principais preocupações dos executivos de risco corporativo no segundo trimestre, de acordo com o Gartner.
“A IA generativa foi o segundo risco nomeado com mais frequência em nossa pesquisa do segundo trimestre, aparecendo entre os 10 primeiros pela primeira vez”, disse Ran Xu, diretor de pesquisa no Gartner Risk & Audit Practice. “Isso reflete tanto o rápido crescimento da conscientização pública e o uso de ferramentas generativas de IA, quanto a amplitude de possíveis casos de uso e, portanto, os riscos potenciais que essas ferramentas geram”.
Em maio, o Gartner pesquisou 249 executivos seniores de risco corporativo para fornecer aos líderes uma visão comparativa de 20 riscos emergentes. Os relatórios trimestrais de riscos emergentes incluem informações detalhadas sobre o possível impacto, cronograma, nível de atenção e oportunidades percebidas para esses riscos.
A viabilidade de terceiros foi o principal risco emergente que as organizações estão monitorando mais de perto na pesquisa do segundo trimestre. A incerteza do planejamento financeiro foi o terceiro risco classificado, seguido pelo risco de concentração da nuvem. As tensões comerciais na China completaram os cinco principais riscos que foram divididos entre questões sintomáticas da atual ampla volatilidade macroeconômica e geopolítica e preocupações relacionadas à tecnologia.
O Gartner identificou anteriormente seis riscos de IA generativa e quatro áreas de regulamentação de IA que são relevantes para as funções de garantia. Em termos de gerenciamento de riscos corporativos, três aspectos principais devem ser abordados, de acordo com os especialistas do Gartner:
Propriedade intelectual
“As informações inseridas em uma ferramenta de IA generativa podem se tornar parte de seu conjunto de treinamento, o que significa que informações sensíveis ou confidenciais podem acabar em saídas para outros usuários”, disse Xu. “Além disso, usar os resultados dessas ferramentas pode acabar inadvertidamente infringindo os direitos de propriedade intelectual de outras pessoas que as usaram.” É importante educar a liderança corporativa sobre a necessidade de cautela e transparência em torno do uso de tais ferramentas, para que os riscos de propriedade intelectual possam ser mitigados adequadamente, tanto em termos de entrada quanto de saída de ferramentas generativas de IA.
Dados privados
As ferramentas de IA generativa podem possivelmente compartilhar informações do usuário com terceiros, como fornecedores ou prestadores de serviços, sem aviso prévio. Isso tem o potencial de violar a lei de privacidade em muitas jurisdições. Por exemplo, a regulamentação já foi implementada na China e na UE, com propostas de regulamentação surgindo nos EUA, Canadá, Índia e Reino Unido, entre outros.
Cíbersegurança
“Os hackers estão sempre testando novas tecnologias em busca de maneiras de subvertê-las para seus próprios fins, e a IA generativa não é diferente”, disse Xu. “Vimos exemplos de código de malware e ransomware que a IA generativa foi induzida a produzir, bem como ataques de ‘injeções imediatas’ que podem induzir essas ferramentas a fornecer informações que não deveriam. Isso está levando à industrialização de ataques avançados de phishing”.
Além desses fatores, se as condições econômicas se deteriorarem amplamente, isso pode causar uma queda inesperada na demanda que pode afetar a viabilidade do fornecedor ou sua capacidade de fornecer bens e serviços em tempo hábil. Os especialistas do Gartner identificaram três possíveis consequências de viabilidade de terceiros para os gerentes de risco monitorarem à medida que a situação se desenvolve:
Perda de Insumos e Materiais Chave: Se terceiros estiverem aumentando seus preços devido à situação econômica mais ampla, há um risco claro de perder o acesso a insumos e materiais importantes, pois terceiros favoreceriam clientes dispostos a pagar preços mais altos.
Premissas de planejamento financeiro deficientes: as suposições de custos serão invalidadas à medida que os fornecedores aumentarem ou falirem os preços, exigindo custos de troca e aumento de preços para a obtenção de bens e serviços.
Desafios fora da cadeia de suprimentos: Parceiros, como provedores de serviços gerenciados ou parceiros comerciais, credores ou fornecedores de tecnologia podem interromper ou reduzir as operações.
