O avanço da inteligência artificial — e mais recentemente da IA generativa — tem imposto desafios e oportunidades à segurança cibernética. Trata-se, de acordo com Ghassan Dreibi, diretor de cibersegurança da Cisco América Latina, de uma transformação que veio para ficar. “Não existe uma forma de retornar e ela só tende a crescer. As pessoas já estão usando o IA no seu dia a dia de forma corriqueira”, disse o especialista.
Essa onda gera preocupações para a segurança cibernética. Educar as pessoas a como usar inteligência artificial generativa deve ser o primeiro passo, uma vez que, por meio de aplicações de IA, podem, por exemplo, divulgar arquivos confidenciais ou dados corporativos. “As empresas precisam aceitar que todos vão usar. E a gente precisa controlar, precisa entender e precisa educar”, assinalou Dreibi.
O diretor da Cisco revela preocupação com relação aos vieses e como empresas, organizações terroristas e criminosas usam ferramentas para influenciar o viés como uma forma de influenciar a decisão da máquina do IA em prol de uma outra resposta versus a resposta correta. Para combater isso, criar novos guardrails de IA e novas formas de bloqueio para as máquinas que se comunicam é um dos caminhos, segundo Dreibi.
Dreibi adverte que as ferramentas de IA estão sendo usadas para criar ameaças novas, inclusive de engenharia social, o que requer dos profissionais de segurança atualizações. “A gente precisa de novas ferramentas, novas formas de pensar ou de criar processos para controle”, diz ele.
A própria Cisco adota as ferramentas de IA e criou seu próprio modelo interno de IA — e a empresa educa o funcionário a usar essa ferramenta em prol de outra do mercado. Para o mercado, a companhia lançou o AI Defense, uma ferramenta que foi criada para compor ou complementar a estratégia de defesa.
“Ela faz duas coisas principais. Primeiro, o discovery, entendendo o que acontece na corporação, analisando o que as pessoas, os clientes já usam dentro de uma empresa, dentro de uma rede. E trazendo uma espécie de inventário, uma espécie de penetration test, ou seja, uma espécie de blue and red team, testando se as ferramentas executam algo malicioso ou não”, detalhou Dreibi. Assista a entrevista na íntegra.
