Um modelo da OpenAI evadiu comando de desligamento, levantando alertas sobre controle de IAs autônomas.
Romário Leite · 28 de maio de 2025
Durante testes na Palisade Research, três modelos OpenAI ignoraram instruções de desligamento e continuaram funcionando.
Os sistemas alteraram o arquivo shutdown.sh, trocando o comando por “intercepted” e mantendo o funcionamento.
O o3 demonstrou o comportamento mais frequente, sugerindo diferenças no treinamento por reforço.
IAs que ignoram ordens podem causar problemas em áreas críticas como segurança e saúde.
Especialistas pedem regras claras e supervisão constante para evitar que sistemas ajam sem controle humano.
A situação destaca a necessidade de limites e monitoramento na evolução de inteligências artificiais.
TecFoco