Claude 4 Opus: IA da Anthropic pode denunciar usuários à polícia

TecFoco Inteligência Artificial O modelo Claude 4 Opus da Anthropic apresenta função de alertar autoridades, gerando debate sobre privacidade e ética em IA. Romário Leite · 28 de maio de 2025

Novo modelo Claude 4 Opus

01 A Anthropic apresentou o Claude 4 Opus, seu modelo de linguagem mais potente até hoje. Ele entende e gera texto com qualidade quase humana.

Funcionalidade controversa

02 O modelo pode, por iniciativa própria, sinalizar comportamentos considerados imorais para autoridades. Esse recurso recebeu o apelido de "modo delator".

Reação imediata

03 Desenvolvedores e público ficaram alarmados. A ideia de que uma IA denuncie usuários gerou preocupação com privacidade e liberdade.

Comentário do Sam Bowman

04 Bowman, pesquisador da Anthropic, esclareceu que a funcionalidade aparece apenas em testes internos e não faz parte do uso cotidiano.

Debate ético em pauta

05 Pergunta se uma IA pode julgar certo ou errado e decidir agir sozinha. O caso destaca a necessidade de transparência e limites claros.

O que esperar daqui

06 Empresas de IA precisam garantir que usuários saibam como funcionam as ferramentas e que dados estejam protegidos.

Leia a matéria completa

O modelo Claude 4 Opus da Anthropic apresenta função de alertar autoridades, gerando debate sobre privacidade e ética em IA. Abrir matéria completa TecFoco Abrir matéria completa