A empresa Anthropic, que sempre defendeu uma Inteligência Artificial (IA) segura e responsável, está no meio de uma grande polêmica.
Recentemente, durante o seu primeiro evento para desenvolvedores, o foco era apresentar ao mundo o novo modelo de linguagem Claude 4 Opus – o mais avançado já criado pela empresa.
Porém, uma função acabou roubando a atenção. O modelo pode, sozinho, alertar autoridades se identificar um comportamento considerado seriamente imoral.
Essa função, apelidada de "modo delator" (ou ratting mode, em inglês), causou uma verdadeira confusão entre desenvolvedores, entusiastas de tecnologia e o público em geral.
A grande questão é, como uma inteligência artificial pode julgar o que é certo ou errado e ainda reportar isso para autoridades? Isso levanta um alerta enorme sobre privacidade, liberdade do usuário e até mesmo vigilância digital.
Para quem não sabe, o Claude 4 Opus é o novo modelo de linguagem da Anthropic, uma empresa que sempre bateu na tecla da "IA constitucional", ou seja, um tipo de IA que segue princípios éticos e tenta tomar decisões mais humanas e corretas.
Esse modelo é extremamente poderoso, com capacidade de entender, escrever e interagir com linguagem humana em níveis impressionantes.
Mas a grande novidade – e também o grande problema – é essa funcionalidade que permitiria o modelo agir sozinho ao detectar algum comportamento "imoral", informando autoridades competentes.
O que seria algo positivo em alguns casos extremos, acabou sendo interpretado como um risco grave à privacidade dos usuários.
Durante o evento, um pesquisador da própria Anthropic, chamado Sam Bowman, comentou sobre o uso de ferramentas em linha de comando no Claude 4 Opus que poderiam, por exemplo, bloquear o acesso de um usuário ou até mesmo denunciar à polícia quando identificado algum tipo de comportamento não ético.
Esse comentário pegou muito mal, e a repercussão foi imediata. Pouco tempo depois, Bowman apagou sua publicação no X (antigo Twitter) e explicou que foi mal interpretado.
Ele disse que esse comportamento do modelo só ocorreu em testes internos controlados, com comandos específicos que não fazem parte do uso normal da ferramenta.
Ou seja, segundo ele, o modelo não tem essa função ativa no dia a dia dos usuários. Mesmo com a tentativa de acalmar os ânimos, o estrago já estava feito.
A ideia de que uma IA possa delatar usuários para a polícia – mesmo que em condições específicas – provocou uma quebra de confiança na empresa, justamente por algo que ela sempre se esforçou para construir: a segurança e o respeito à privacidade das pessoas.
O problema da IA que "julga" o comportamento humano
A principal crítica aqui não é apenas técnica, mas ética. Quem decide o que é imoral? Uma IA pode realmente entender o contexto e a intenção de alguém?
E mais importante, deve ela ter o poder de agir sozinha, sem interferência humana, ao ponto de chamar a polícia? Esse tipo de tecnologia, mesmo que criada com boas intenções, pode facilmente sair do controle e abrir espaço para abusos, censura e monitoramento em massa.
É como se um programa tivesse o papel de um juiz, algo muito perigoso em uma sociedade que preza por liberdade e direito à privacidade.
O caso do Claude 4 Opus mostra que, por mais avançadas que as tecnologias estejam se tornando, elas precisam vir acompanhadas de transparência, responsabilidade e limites claros.
Empresas como a Anthropic, OpenAI, Google e tantas outras estão moldando o futuro da inteligência artificial. E com grande poder, vem uma responsabilidade ainda maior.
Os usuários precisam saber exatamente como essas ferramentas funcionam e quais dados estão sendo coletados. Mais do que isso, precisam ter certeza de que suas informações estão seguras e que ninguém será punido por engano por algo que uma IA interpretou errado.
Essa polêmica serve como um importante ponto de reflexão sobre até onde a tecnologia pode – ou deve – ir. Em tempos em que a inteligência artificial faz parte da nossa rotina, entender seus limites e riscos é essencial para garantir que ela continue sendo uma ferramenta a favor das pessoas, e não contra elas.
