A OpenAI tem sido uma das pioneiras no campo da inteligência artificial desde o lançamento do ChatGPT em 30 de novembro de 2022, trazendo avanços nunca vistos antes na forma como interagimos com a tecnologia.
A conveniência e utilidade oferecidas pela empresa são inegáveis, mas também levantaram preocupações sobre o uso indevido da ferramenta, sobretudo em ambientes acadêmicos e de trabalho.
Para abordar esse problema, a OpenAI desenvolveu uma ferramenta de detecção de textos gerados por IA, junto com uma técnica de marca d'água.
No entanto, mesmo com a crescente preocupação sobre o uso inadequado da IA, a empresa ainda não lançou essa ferramenta.
A principal razão é a forma cuidadosa que a OpenAI está abordando essa questão, a empresa parece estar avaliando cuidadosamente o impacto dessa tecnologia sobre o uso de seu chatbot, o ChatGPT.
Segundo um relatório do Wall Street Journal, a técnica de marca d'água da OpenAI se mostrou eficiente em detectar adulterações localizadas, como paráfrases.
Contudo, essa mesma técnica enfrenta dificuldades com adulterações mais complexas, como reescritas completas de textos, de acordo com uma atualização recente da OpenAI.
Isso daria aos usuários mal-intencionados um meio de encontrar maneiras de contornar a detecção e, ao mesmo tempo, fazer com que os falantes não nativos de inglês parasse de usar a ferramenta.
De acordo com um relatório do TechCrunch, a precisão do método de detecção da OpenAI teve resultados satisfatórios, chegando a 99,9% de sucesso.
Mas, a empresa ainda adota uma abordagem cautelosa devido às complexidades envolvidas e ao possível impacto no ecossistema mais amplo da IA.
"Estamos lidando com cautela devido às complexidades envolvidas e seu provável impacto no ecossistema mais amplo além do OpenAI", disse um porta-voz da OpenAI.
Outra preocupação é a potencial perda de usuários do ChatGPT. Aproximadamente 30% dos usuários mencionaram que poderiam reduzir o uso da ferramenta caso ela implementasse uma marca d'água.
Isso coloca a OpenAI em uma posição delicada, tentando balancear a eficácia da detecção com a aceitação e uso contínuo da ferramenta.
Metadados de texto parece ser a solução mais viável
A OpenAI também está explorando o uso de metadados de texto como uma abordagem alternativa. Esses metadados seriam assinados criptograficamente, garantindo que não haja falsos positivos.
No entanto, ainda é cedo para determinar se essa abordagem será eficaz e qual será seu impacto. Além da ferramenta de detecção, a OpenAI anunciou recentemente sua entrada no mercado de motores de busca com o SearchGPT.
Este novo modelo chegou ao mercado com a proposta de fornecer informações em tempo real, aproveitando a vasta base de dados da internet para oferecer respostas precisas e atualizadas.
Esta iniciativa coloca a OpenAI em competição direta com gigantes como o Google, marcando uma nova era na busca por informações online.
