Pesquisadores de segurança cibernética alertam sobre os riscos do ChatGPT

TecFoco Destaques Equipe da CyberArk Labs mostra que o ChatGPT pode criar códigos maliciosos que mudam a cada execução, dificultando a detecção por antivírus. Romário Leite · 21 de janeiro de 2023

Alerta da CyberArk Labs

01 Pesquisadores da CyberArk Labs apontam risco de segurança ao usar o ChatGPT da OpenAI. Eles demonstram que a IA pode gerar código malicioso que escapa de antivírus.

Malware mutante e indetectável

02 O texto gerado pode virar um malware mutante, conhecido como polimórfico. Cada execução altera o código, mas mantém a mesma função, dificultando a identificação.

Contornando filtros do ChatGPT

03 A equipe mostrou como driblar os filtros de conteúdo do ChatGPT. Reformulando a pergunta, obtiveram código funcional para injetar shellcode em Python.

Criação de variações contínuas

04 Ao solicitar novas versões, o ChatGPT gerou diversas variações do mesmo código. Cada variante apresenta um identificador único, tornando a detecção ainda mais difícil.

Impacto nas ferramentas de segurança

05 Malware polimórfico produzido pela IA não exibe comportamento suspeito em disco nem na memória. Isso pode burlar antivírus baseados em assinaturas e o AMSI.

Próximos passos dos pesquisadores

06 Shimony e Tsarfati planejam ampliar os testes e liberar parte do código para estudo. Eles reforçam que o cenário não é hipotético, mas uma ameaça real para profissionais de segurança.

Leia a matéria completa

Equipe da CyberArk Labs mostra que o ChatGPT pode criar códigos maliciosos que mudam a cada execução, dificultando a detecção por antivírus. Abrir matéria completa TecFoco Abrir matéria completa