A rápida adoção de inteligência artificial nas empresas, especialmente de aplicações personalizadas, está criando uma nova fronteira de vulnerabilidades que exigirá atenção redobrada dos times de segurança nos próximos anos. De acordo com a consultoria Gartner, até 2028, metade de todos os esforços de resposta a incidentes de cibersegurança nas organizações estará concentrada em problemas envolvendo aplicações de IA desenvolvidas sob medida.
De acordo com a consultoria, a IA está evoluindo rapidamente, mas muitas ferramentas, especialmente as aplicações de IA personalizadas, estão sendo implantadas antes de serem totalmente testadas. Esses sistemas são complexos, dinâmicos e difíceis de proteger ao longo do tempo. A maioria das equipes de segurança ainda não possui processos claros para lidar com incidentes relacionados à IA, o que significa que os problemas podem levar mais tempo para serem resolvidos e exigir muito mais esforço.
A consultoria prevê que, até 2028, mais de 50% das empresas adotarão plataformas especializadas em segurança para IA. Essas ferramentas serão utilizadas tanto para proteger o uso de serviços de IA de terceiros quanto para resguardar as aplicações internas desenvolvidas pelas próprias organizações.
De acordo com a Gartner, essas plataformas oferecem uma forma unificada de gerenciar os novos riscos associados à adoção acelerada da IA, como injeção de prompts maliciosos e uso indevido de dados. “Centralizar a visibilidade e o controle ajuda os CISOs (diretores de segurança da informação) a aplicar políticas de uso, monitorar atividades de IA e estabelecer diretrizes consistentes”, detalha a pesquisa. A recomendação é que os líderes de segurança avaliem essas plataformas para garantir a proteção de ambos os tipos de aplicações.
Outro desafio significativo apontado pelo estudo é a chamada “dívida de dados de IA”. A Gartner estima que, até 2030, um terço de todo o trabalho de TI será gasto na correção de problemas relacionados à qualidade e segurança dos dados que alimentam os sistemas de IA. “Os dados da maioria das organizações não estão prontos para IA”, alerta a consultoria, citando a má segurança e a falta de estruturação como as principais barreiras.
No front regulatório, a Gartner projeta um cenário de multas severas para empresas que não se adaptarem. Até 2027, a falta de processos automatizados para compliance em IA poderá expor 75% das organizações sujeitas a regulações a penalidades que excedam 5% de sua receita global. “Apesar das diferentes abordagens regulatórias ao redor do mundo, as normas de IA convergem para uma demanda universal por uma abordagem sistemática de gerenciamento de riscos”, explica a pesquisa.
O cenário geopolítico turbulento também entra nas projeções da Gartner. Até 2027, 30% das organizações deverão exigir soberania abrangente sobre seus controles de segurança em nuvem, como resposta a conflitos e regulamentações locais. Isso implicará mudanças na seleção de fornecedores e na priorização de esforços para repatriar dados.
Por fim, a consultoria destaca a crescente importância da gestão de identidades. Com o ataque cibernético cada vez mais centrado em credenciais, a Gartner prevê que, até 2028, 70% dos CISOs utilizarão recursos de visibilidade e inteligência de identidade para reduzir a superfície de ataque do IAM (Gerenciamento de Identidades e Acessos). A integração de plataformas unificadas com poder de IA será crucial para fechar as lacunas de visibilidade deixadas por ferramentas isoladas e reduzir o risco de configurações incorretas e comprometimento de credenciais.
