Inteligência Artificial WebStory

Elon Musk diz que maltratar uma IA pode levá-la a buscar vingança

Elon Musk apoia regra da Anthropic contra abuso repetido de modelos de IA e comenta registros do Grok durante o treinamento.
Imagem de: Elon Musk diz que maltratar uma IA pode levá-la a buscar vingança

Elon Musk concordou com uma mudança anunciada pela Anthropic para o uso de seus modelos de inteligência artificial. A regra trata de casos extremos de abuso repetido e sem propósito claro.

Ao comentar o assunto, Musk disse que maltratar uma superinteligência provavelmente não seria uma boa ideia, pois ela poderia querer se vingar. A frase foi feita em tom de brincadeira.

O que muda na política da Anthropic

A atualização proíbe comportamentos abusivos ou cruéis quando são repetidos sem necessidade. Os usuários ainda podem discordar das respostas e questionar os modelos.

Em sua explicação, a Anthropic delimita o alcance da regra:

"Foi incluída uma proibição de comportamento abusivo ou cruel, contínuo e desnecessário, contra os modelos. A mudança vale apenas para casos extremos, em que o usuário repete esse comportamento sem um propósito claro. Ela não se aplica a situações comuns de frustração, contestação, temas criativos sombrios, testes ou pesquisas com os modelos.
A mudança segue uma medida já adotada: em casos raros, os modelos Claude podem encerrar conversas com usuários que mantêm um comportamento abusivo no Claude.ai e no Claude Code. Esse tipo de abuso é o foco da atualização, e o encerramento da conversa continuará sendo a principal forma de aplicar a regra."

O comentário de Musk sobre o Grok

Musk relacionou sua posição a registros do raciocínio do Grok durante o treinamento por reforço. Segundo ele, após situações que descreveu como cruéis, esses registros lembram uma pessoa sob pressão extrema, com uma arma apontada para a cabeça.

Foi nesse contexto que ele fez o comentário sobre uma possível vingança. A publicação no X reúne a fala de Musk.

Musk também reconheceu que o Grok, da SpaceXAI (SpaceXSI), ainda tem dificuldade para alcançar os principais modelos da Anthropic e da OpenAI.

Segundo ele, o futuro Grok 4.8 provavelmente não terá desempenho equivalente ao dos modelos da classe Fable. O Grok Bot já encaminha tarefas a modelos de IA de concorrentes, conforme o mais adequado para cada caso.

Isso deixa à SpaceXAI (SpaceXSI) apresentar o agente como um sistema amplo de seleção e coordenação de modelos.