A medida que o Google luta para acompanhar os avanços recentes da Inteligência Artificial (IA), o chefe da empresa alertou sobre as armadilhas em chatbots em uma entrevista publicada neste sábado (11).
De acordo com o vice-presidente sênior do Google e chefe do mecanismo de pesquisa da empresa, Prabhakar Raghavan, tecnologias de IA como o ChatGPT da OpenAI podem levar a algo que ele descreveu como "alucinação".
Ele também observa que máquinas baseadas em IA se expressam de forma convincente, mas podem fornecer respostas completamente inventadas. Ou seja, um chatbot pode dar uma resposta que não existe.
Raghavan não deixou claro o que quis dizer com "alucinação", mas aparentemente ele acredita que as pessoas podem obter respostas erradas em chatbots e tomar elas como verdades absolutas que não carecem de revisão.
"Esse tipo de inteligência artificial de que estamos falando agora pode às vezes levar a algo que chamamos de alucinação", disse Raghavan, ao jornal alemão Welt am Sonntag.
"Isso então se expressa de tal forma que uma máquina fornece uma resposta convincente, mas completamente inventada", acrescentou Raghavan.
A Alphabet Inc, empresa que controla o Google também ressaltou que tem "urgência" em apresentar uma ferramenta como o ChatGPT, que impressionou o mundo com suas respostas humanas às consultas dos usuários.
No entanto, a empresa destaca a "grande responsabilidade" por trás desta tecnologia e alega estar agindo com cautela para não enganar o público.
Além destas preocupações, há também a possibilidade destas ferramentas serem usadas de forma indevida por cibercriminosos para criar malwares mutantes indetectáveis, como bem alertaram os pesquisadores de segurança cibernética da CyberArk Labs.
"Obviamente sentimos a urgência, mas também sentimos a grande responsabilidade. Nós certamente não queremos enganar o público", disse Raghavan.
Desafios das empresas para integrar o chatbot em seus produtos
No início desta semana, o Google lançou o Bard, seu próprio chatbot, mas a ferramenta forneceu informações imprecisas durante uma apresentação de um vídeo promocional.
Isso resultou numa garfe que custou à empresa US $ 100 bilhões em valor de mercado. O Google continua realizando testes internos no Bard, mas ainda não se sabe quando ele se tornará público.
Por outro lado, a OpenAI continua ganhando valor de mercado com a popularidade do ChatGPT e pode ultrapassar os US $ 30 bilhões ainda na primeira quinzena de janeiro de 2023.
Atualmente, a OpenAI está sendo financiada pela Microsoft com cerca de US $ 10 bilhões, ambas as empresas já começaram a trabalhar em conjunto para melhorar o mecanismo de pesquisa Bing integrando o ChatGPT.
As expectativas desta parceria entre as empresas são grandes e vão desde revolucionar a forma como as pessoas procuram conteúdo na Internet, até desbancar o reinado de anos da Pesquisa do Google.
Via: Reuters
