Bots sociais, baseados em computação cognitiva, despontam como a origem do jogo Baleia Azul

No Brasil, 1 em cada 10 adolescentes de 11 a 17 anos acessa conteúdo na internet sobre formas de se ferir – e 1 em cada 20, de se suicidar, segundo o Centro de Estudos Sobre Tecnologias da Informação e Comunicação (Cetic). Depois de postar em sua página no Facebook a frase “a culpa é da baleia”, um adolescente de 17 anos tentou se jogar ontem do viaduto sobre a Rodovia Marechal Rondon, em Bauru, interior paulista. Trata-se de mais um caso que envolveria o jogo viral de internet Baleia-Azul, que incita a suicídio e mutilações e já causou alertas policiais e de saúde em oito Estados (SP, PR, MG, MT, PE, PB, RJ e SC).

Pesquisa do Cetic que analisou 19 milhões de internautas brasileiros mostra o avanço das buscas desse público por mutilações (11%) e mortes (6%) no universo online. Os casos mais recentes envolvem o Baleia-Azul. O maior número de registros até agora é na Paraíba, onde a Polícia Militar diz ter identificado 20 adolescentes envolvidos no jogo. O coronel Arnaldo Sobrinho, coordenador do Escritório Brasileiro da Associação Internacional de Prevenção ao Crime Cibernético, relatou tentativas de suicídio e mutilação de adolescentes em João Pessoa e nas cidades de Campina Grande e Guarabira.

Empresas de segurança, como a Aker N-Stalker, advertem: o jogo baleia azul pode ter como origem uma inteligência artificial agindo a partir de um “chatbot”. Os chatbots ou, simplesmente, bots são uma emergente modalidade de código robotizado capaz de se comunicar em redes sociais emulando indivíduos humanos com alto nível de verossimilhança. Considerando-se esta hipótese do uso de robôs, o episódio Baleia Azul estaria inaugurando uma nova era dos incidentes de segurança, com ataques de engenharia social em massa que afetam de forma direta e altamente impactante o comportamento do usuário.

De acordo com Thiago Zaninotti, CTO da Aker N-Stalker, o padrão de comunicação interativa implementado pelo modelo do Blue Whale, é perfeitamente compatível com os atuais bots, baseados em princípios de computação cognitiva. “Em geral, os bots sociais, utilizados para finalidades criminosas ou lícitas, dispõem de recursos poderosos de autoaprendizado e são movidos por algoritmos de engenharia social que, embora relativamente sofisticados, estão se tornando cada vez mais corriqueiros nas estratégias de atração e engajamento de vítimas por parte do cibercrime”, comenta Zaninotti.

Rodrigo Fragola, CEO da Aker, explica que “o jogo da Baleia Azul está assentado em um menu fixo de “50 desafios” que cada usuário deve obedecer, em uma ordem igualmente repetitiva, e em um conjunto limitado de atividades recorrentes. Os tais desafios ‘assustadores’ desse game são, tecnicamente falando, ações de baixa complexidade, como se cortar com uma lâmina, assistir a um filme de terror ou fazer voto de silêncio por um dia, até culminar na proposta do ato suicida.

“Para efeitos de comunicação verbal, tudo isto compreende um número pequeno de variáveis, passíveis de serem semanticamente mapeadas em esquemas de ação e reação bastante restritivos”, afirma Fragola.Segundo ele, a criação de um chatbot para as finalidades propostas pelo Baleia Azul seria algo tão simples e banal quanto implementar um assistente robótico para apoiar a venda de passagens aéreas ou para sugerir modelos de calçados adequados ao estilo de um consumidor previamente perfilado por engenharia social.

Na visão do CEO da Aker, existe, portanto, uma considerável possibilidade de haver bots no lugar de “gurus humanos” orientando os usuários do game, o que os remeteria a um cenário assustador. “Caso se confirme a hipótese, teremos na sociedade global uma combinação explosiva de robotização das relações sociais associada a um grande potencial de epidemias psicóticas. “Unindo-se esta tecnologia de bots com as de realidade aumentada e a virtualização progressiva da experiência, podemos chegar a um ambiente social com potencial destrutivo enorme”, comenta Fragola.

Desde o aparecimento do Blue Whale, há mais de dois anos, apenas uma única pessoa (um romeno de 21 anos) foi até agora identificado e preso sob a acusação de agir como curador. Mesmo existindo esse suspeito, seu julgamento vem sendo sistematicamente adiado por falta de provas cabais de seu envolvimento, segundo reportam fontes como a ONG NetFamillyNews e a entidade SafeNet da Bulgária

UFMG Testou Bots Sociais no Twitter

O Baleia Azul foi revelado pela mídia internacional em 2015, a partir da Rússia, onde teve seu nome relacionado a cerca de 130 suicídios de adolescentes em um período de apenas um ano. Notícias sobre o jogo e sua alta periculosidade começaram a sair recentemente no Brasil, após a morte de um jovem (suposto participante do jogo), por overdose de medicamentos, em Pará de Minas (MG).

Desde seu aparecimento até hoje, o Blue Whale e sua origem estão envoltos em um nível de mistério que é típico dos instrumentos hackers voltados para a obtenção de lucro direto (através de roubo, fraude, extorsão ou sequestro) ou para a captura de dados valiosos e a escravização de computadores infectados.

Pela avaliação da Aker, se o modelo fosse automatizado, ele poderia realizar ações de mineração de dados em redes sociais e identificar pessoas ideais para serem alvos na propagação de spam contendo códigos maliciosos. Para abordar suas vítimas, o sistema criaria falsas “personas” (ou “falsos avatares”) com afinidades sociais bem definidas e preparadas para interagir com internautas dispostos a novos relacionamentos (ou a jogos) e abertos a aventuras nas diversas redes sociais.

Pessoas com perturbação mental seriam o alvo perfeito e, aliás, ações de injeção do Blue Whale já foram identificadas em fóruns de ajuda mútua e aconselhamento de pessoas dependentes de drogas e com diversos tipos de psicose. “Mesmo não havendo conexão real entre o suicídio de jovens e o jogo, a possibilidade de se usar robôs para potencializar o efeito de doenças mentais em massa é extremamente preocupante”, comenta o CEO da Aker.

Para exemplificar a força desse modelo automatizado, Rodrigo Fragola menciona um trabalho acadêmico realizado no Brasil por pesquisadores da UFMG junto ao twitter. “Depois de analisar milhares de perfis de pessoas comuns no Twitter, os pesquisadores mineiros criaram 120 chatbots imitando usuários normais que, em 30 dias, conseguiram angariar mais de 3 mil seguidores (e interlocutores regulares) na rede. Inclusive com grande sucesso em termos de postagens retuitadas por usuários humanos da rede”.

Teorias Conspiratórias Também Envolvem o Blue Whale

Em fóruns hackers internacionais não faltam teorias conspirativas que atribuem a criação do “jogo do suicídio” e sua associação a mortes de internautas a governos autoritários interessados em produzir pânico coletivo contra a “excessiva liberdade” das redes sociais.De acordo com estas leituras, ao estimular a lenda urbana do Blue Whale associada a ondas de suicídio, governos do Leste Europeu estariam, na verdade, fomentando o apoio popular à imposição de vigilância, limitações e censura às redes sociais de seus países.

À parte esta lógica conspiratória, já há claros indícios de que os suicídios atribuídos ao engajamento com o Baleia Azul têm pouquíssima ou nenhuma relação efetivamente comprovada com os desafios do “jogo da morte”, exceto pelo fato de que parte das vítimas teria realmente frequentado comunidades de pessoas com propensão mórbida, por onde também circulariam as personas robóticas do Blue Whale.

Independentemente de ter ou não ocasionado mortes, o fato que o Blue Whale traz à tona é o de que a computação cognitiva irá aumentar, em muito, a capacidade de manipulação das massas, seja por parte de governos ou de grupos do crime organizado.

“Está na hora da sociedade e da comunidade de segurança começarem a refletir sobre este fato. A corrida em busca de tecnologias para detectar, destravar e perseguir a origem desse tipo de ataque, com potencial de gerar convulsões em massa, já mobiliza todo o setor de segurança. Mas só com muita educação adequada às novas realidades da sociedade em nuvem é que poderemos aumentar o nível de segurança das crianças e adolescentes na Internet”, conclui Fragola.

*Com informações da Aker e do portal UOL