A OpenAI, conhecida por revolucionar o uso da inteligência artificial (IA) com o ChatGPT, revelou o uso indevido da ferramenta para espalhar propaganda política e manipular a opinião pública.
Segundo a empresa, várias campanhas secretas ligadas à China foram descobertas e encerradas para evitar que causassem ainda mais problemas.
A IA já está presente em várias áreas, como saúde e educação, facilitando a vida das pessoas. Mas, ao mesmo tempo, existe uma grande preocupação entre especialistas em tecnologia sobre como essas ferramentas são usadas.
A OpenAI, que é responsável por garantir que a IA seja usada de forma ética e responsável, tem trabalhado duro para evitar que essas tecnologias acabem nas mãos erradas.
Infelizmente, algumas pessoas continuam usando a IA para fins perigosos e desonestos. A OpenAI relatou que conseguiu identificar e fechar dez operações que estavam abusando do ChatGPT.
Dessas, quatro eram diretamente ligadas à China. Nessas campanhas, o ChatGPT foi usado para criar publicações e comentários políticos nas redes sociais, muitas vezes fingindo ser outras pessoas para influenciar as opiniões de quem lia.
Uma dessas campanhas recebeu o nome de Uncle Spam e foi criada para espalhar informações falsas e polêmicas sobre assuntos sensíveis nos Estados Unidos. E a situação não para por aí.
Segundo uma reportagem da NPR, além de escrever as postagens de propaganda, o ChatGPT também foi usado para torná-las mais visíveis e confiáveis, enganando ainda mais quem via essas mensagens.
O impacto disso na sociedade pode ser grande, já que essas postagens ganham força e podem manipular a opinião das pessoas sem que elas percebam.
A mesma reportagem trouxe um ponto ainda mais sério. Esses grupos estavam usando o ChatGPT até para escrever relatórios de desempenho, mostrando aos chefes deles tudo o que foi feito.
Em outras palavras, não era apenas propaganda solta na internet — tinha todo um esquema organizado para que parecesse real e eficiente.
Ben Nimmo, que lidera a equipe de inteligência e investigação da OpenAI, comentou sobre o assunto e alertou para o perigo que essas operações representam.
Segundo ele, a China está usando cada vez mais métodos e estratégias diferentes para essas campanhas secretas. Essas campanhas não se limitaram a posts em redes sociais.
Elas também envolveram o envio de e-mails para analistas, jornalistas e políticos. Esses e-mails eram feitos para enganar e se passar por outra pessoa, tudo para conseguir informações importantes ou até mesmo manipular decisões. O uso da IA para esse tipo de manipulação é muito preocupante.
Mostra que as empresas precisam ficar atentas e agir rápido quando veem que suas ferramentas estão sendo usadas de forma errada. A OpenAI disse que vai continuar trabalhando para identificar e derrubar essas operações sempre que surgirem.
Esse caso nos deixa um alerta de como é essencial ter cuidado e saber de onde vem o que a gente lê nas redes. A IA pode ser uma aliada incrível, mas também pode ser usada para enganar, se cair nas mãos erradas.
