Nos últimos dias, a ferramenta de Visão Geral de IA do Google, recentemente lançada nos EUA, tem enfrentado uma série de críticas devido a respostas erradas e, muitas vezes, perigosas em suas recomendações de busca.
Usuários do Twitter e Threads começaram a relatar que a IA sugeriu ações imprudentes e forneceu informações incorretas para perguntas comuns.
Por exemplo, ao buscar ajuda para depressão, a IA sugeriu pular da ponte Golden Gate, uma recomendação perigosa que colocaria a vida do usuário em risco.
Em outra instância, ao perguntar como fazer o queijo grudar melhor na pizza, a IA recomendou o uso de cola atóxica.
Esses exemplos demonstram a incapacidade da IA de diferenciar entre conteúdo factual e satírico, como informações retiradas de posts do Reddit ou do site satírico The Onion.
Além dessas sugestões preocupantes, a IA cometeu erros graves em consultas factuais. Quando perguntada sobre qual mamífero tem mais ossos, respondeu erroneamente que seria uma Python (cobra).
Em outra situação, afirmou que uma pessoa deveria consumir pelo menos uma pequena pedra por dia, citando falsamente geólogos da UC Berkeley.
Ainda mais preocupante foi a alegação de que o ex-presidente dos EUA, Barack Obama, é muçulmano, retirando essa informação de um contexto equivocado de um livro das Publicações da Universidade de Oxford.
Quando questionada sobre quantos presidentes dos EUA se formaram na Universidade de Wisconsin, a IA respondeu incorretamente que John Adams se formou 13 vezes.
Além disso, a IA afirmou que nenhum dos 54 países da África começa com a letra K, ignorando informações atualizadas.
Também sugeriu beber dois litros de urina a cada 24 horas para eliminar pedras nos rins rapidamente, um conselho perigoso e sem embasamento médico.
Após a divulgação dessas falhas, o Google declarou que os incidentes são casos isolados e não representam a funcionalidade geral da ferramenta.
Muitas das respostas erradas foram corrigidas após serem denunciadas, mas não se pode ignorar um resultado que pede a uma pessoa que salte da ponte quando procura soluções para a depressão.
