Sicoob reduz custos ao adotar plataforma open source para IA generativa
Cooperativa financeira, que enfrenta a concorrência dos grandes bancos e dos bancos digitais, está usando quatro modelos: Phi-4, Llama, Mistral e Deep-Seek R1. “Escala de processamento foi uma preocupação”, revela Edson Rodrigues Lisboa, superintendente-executivo de TI do Sicoob.
Por Roberta Prescott
O Sicoob, cooperativa financeira, usa inteligência artificial há algum tempo em sua abordagem tradicional, tendo adotado, por exemplo, ferramentas como machine learning. A instituição enfrenta o desafio de fazer muito com as tecnologias disponíveis para poder concorrer com os grandes bancos do setor e com os bancos digitais. A Inteligência Artificial surgiu como ferramenta para enfrentar essa concorrência, Tecnologia, que já era usada em alguns processos como meios de pagamento, cartão de crédito e débito, modelos para combater fraudes, teve o uso ampliado.
A inteligência artificial generativa aprimorou a funcionalidade de interação com documentos da plataforma de serviços financeiros do Sicoob, conhecida internamente como Sisbr, conforme contou ao Convergência Digital Edson Rodrigues Lisboa, superintendente-executivo de TI do Sicoob. Com isso, os colaboradores passaram a ter acesso, além de outros modelos, ao DeepSeek-R1 para a análise de documentos internos pelos funcionários da instituição.
Os investimentos para a inteligência artificial generativa funcionar giram na casa entre R$ 300 mil a 400 mil por ano. “Tiramos a cobrança por tokens, mas temos por processamento de máquinas e, por ser open source, não tenho cobrança por tokenização ou licenciamento por usuário”, explica. Atualmente, quatro modelos estão em produção: Phi-4, Llama, Mistral e Deep-Seek R1. “Também fazendo testes com outros; a plataforma permite tirar e incluir outro, se quisermos”, diz.
Jornada de transformação
A implantação da IA generativa para otimizar a gestão de documentos internos decorreu da jornada de transformação digital do Sicoob. Em 2017, a instituição financeira começou o processo que levou também à criação da assistente virtual Alice que usa IA para integração com os cooperados, que são os consumidores de produtos e serviços ofertados. “Usamos IA com modelos com Watson, da IBM, e à época ela tratava mais de tirar dúvidas na primeira interação”, diz Lisboa.
A cooperativa financeira implantou ainda, na virada de 2017 para 18, a IA em uma abordagem tradicional com modelos estatísticos e técnicas de machine learning para diariamente fazer o processamento de dados e informações com objetivo de atribuir riscos e limites de créditos que pudessem ser contratado de forma 100% digital por meio dos canais.
Outro caso de uso na abordagem tradicional ocorreu no início da pandemia. O Sicoob tem uma rede de atendimento com cerca de 4.600 agências espalhadas no Brasil, uma vez que a instituição preza pela presença e pelo relacionamento mais próximo com o cooperado.
“Estamos presentes em pequenos e médios municípios do Brasil, ainda valorizamos muito a presença e em mais de 400 municípios somos a única instituição financeira no município. Então, temos um papel forte de desenvolvimento e participação. Com a pandemia, todo o arsenal de agências foi fechado. Já tínhamos todos os nossos produtos e serviços disponíveis nos canais digitais, mas tínhamos processos que precisavam da agência, como para habilitar um novo dispositivo móvel para acessar conta do cooperado”, detalha o superintendente de TI.
O desafio, então, era em um intervalo curto — de menos de um mês — lançar uma solução para permitir que a transação, que só ocorria dentro da agência, pudesse ser feita de forma digital. “Usamos o reconhecimento facial para fazer a liberação de novos dispositivos, alteração de senha e outros”, conta o executivo.
Com o boom da inteligência artificial generativa, a partir do lançamento para o público geral do ChatGPT, o Sicoob começou a avaliar como poderia adotar, de forma estratégica, a tecnologia. Naquela época, o conselho da instituição já havia aprovado um projeto de jornada cognitiva “Estabelecemos premissas para a adoção da inteligência artificial generativa: preocupação com segurança; escala de processamento, porque inteligência artificial generativa exige processamento muito grande e se ficasse dependendo de infraestrutura local ficaríamos limitados”, relata Lisboa.
Uma das preocupações foi com o custo. “Havia a preocupação de inteligência artificial generativa ser hype, investirmos e não termos retorno. Entendemos que deveríamos seguir com a adoção de modelos LLMs open source, porque entendemos que o mercado estava caminhando para commodity de modelos — e com open source não ficamos fechamos com um modelo só”, explica Edson Rodrigues Lisboa.
Assim, o Sicoob adotou mais de um modelo LLM open source. Treinou com seus documentos e técnicas de RAG — que combina a capacidade de recuperação de informações com a geração de texto —, além de estabelecer proteções, guardrails. O superintendente explica que a instituição começou com três modelos principais: Llama, Mistral e PHI-3. “Fomos testando, avançando, interagindo com documentos e foi quando teve o boom do modelo chines DeepSeek-R1. Daí, baixamos o modelo, instalamos no nosso ambiente, gerenciado por nós.” Lisboa assinala que os riscos foram mitigados e o custo, gerenciado.
A instituição também inseriu a inteligência artificial generativa na intranet de modo a prover pesquisas inteligentes para os funcionários buscarem, por exemplo, informações em manuais de produtos e serviços, comunicados de novas funcionalidades e ter facilitado o atendimento no dia a dia. “Desde que lançamos, estamos batendo quase 40 mil usuários usando o sistema; temos pouco mais de 60 mil e a nossa estratégia é colocar à disposição de todos”, diz.
