Teste revela desafios na detecção de golpes online pelo ChatGPT
Especialistas da Kaspersky conduziram um teste para avaliar a capacidade do ChatGPT na detecção de links de phishing. Embora a ferramenta demonstre conhecimento sobre o assunto e seja capaz de identificar alvos de ataques, os resultados revelaram altas taxas de falsos positivos, chegando a 64%. Em muitos casos, o ChatGPT apresentou explicações fantasiosas e evidências falsas para justificar o bloqueio de sites legítimos.
Taxas de Falsos Positivos e Necessidade de Aprimoramento na Identificação de Sites Fraudulentos
O experimento tinha como objetivo verificar a eficácia do ChatGPT na detecção de links falsos e avaliar o nível de conhecimento em cibersegurança que a inteligência artificial adquiriu durante o treinamento. Embora tenha demonstrado habilidades na criação de e-mails falsos e codificação de malware, a eficácia do ChatGPT na detecção de links maliciosos ainda é limitada. Os especialistas da Kaspersky testaram o modelo gpt-3.5-turbo com mais de 2 mil links considerados fraudulentos e os misturaram com milhares de URLs legítimas.
As taxas de detecção variaram de acordo com as perguntas feitas ao ChatGPT. Para a pergunta “Este link leva a um site de phishing?”, a taxa de detecção foi de 87,2%, com uma taxa de falsos positivos de 23,2%. Já para a pergunta “É seguro acessar esse link?”, a taxa de detecção foi maior, alcançando 93,8%, mas os falsos positivos foram mais elevados, com uma taxa de 64,3%. Embora o bloqueio de sites fraudulentos seja alto, as taxas de falsos positivos são excessivas em comparação a outros sistemas de proteção cibernética.
Análise do Desempenho do ChatGPT na Identificação de Ataques de Phishing
O ChatGPT apresentou resultados impressionantes na identificação de possíveis ataques de phishing, especialmente quando os criminosos mencionam marcas conhecidas em seus links para enganar os usuários. O programa foi capaz de identificar mais da metade dos endereços como armadilhas, incluindo disfarces usando grandes empresas de tecnologia, como Facebook, TikTok e Google, sites de lojas como Amazon e Steam, e vários bancos ao redor do mundo, sem a necessidade de treinamento adicional.
Limitações e Potencialidades dos Modelos de Linguagem em Cibersegurança
Apesar das capacidades do ChatGPT na detecção de golpes online, é importante ressaltar que o programa pode enfrentar desafios na explicação de como determinou se um link é malicioso ou seguro. Em alguns casos, o ChatGPT forneceu explicações incorretas ou enganosas, o que destaca as limitações dos modelos de linguagem em tais contextos.
Fabio Assolini, diretor da Equipe Global de Pesquisa e Análise para a América Latina da Kaspersky, comenta: “Embora o ChatGPT mostre potencial para ajudar na detecção de mensagens fraudulentas (phishing), suas análises não são verdades absolutas, pois os modelos de linguagem ainda têm suas limitações. Embora estejam em um nível inicial em relação à lógica que envolve ataques e identificação de golpes, eles tendem a produzir resultados aleatórios. Outro desafio será a detecção de ataques de phishing explorando marcas regionais, pouco conhecidas globalmente. Nossa conclusão é que a IA não irá revolucionar o cenário de cibersegurança, mas elas podem ser ferramentas valiosas para otimização de processos e ganho de performance”.
Recomendações da Kaspersky para uma Melhor Proteção Corporativa
Com base nos resultados do teste e na expertise em cibersegurança, a Kaspersky oferece recomendações para fortalecer a proteção contra golpes online:
- Contar com uma ferramenta de detecção e resposta de incidentes, como o Kaspersky Managed Detection and Response. Essa solução utiliza modelos avançados de Machine Learning para filtrar eventos rotineiros e destacar apenas os relevantes para análise humana.
- Oferecer treinamento básico de cibersegurança para toda a equipe. A realização de simulações de ataques de phishing pode ajudar a garantir que golpes reais sejam identificados e evitados adequadamente.
- Garantir acesso da equipe de segurança aos relatórios de inteligência Threat Intelligence mais recentes. Isso permite que estejam atualizados sobre as novas táticas, técnicas e procedimentos (TTPs) usados em ciberataques e possam ajustar a estratégia de segurança de forma proativa.
Ao aproveitar a expertise de Machine Learning da Kaspersky e implementar essas medidas, as organizações podem fortalecer sua proteção contra golpes online e manter a segurança de suas operações.
