A Microsoft demitiu a equipe inteira responsável por garantir que seus produtos de inteligência artificial (IA) não causassem danos sociais.
De acordo com o Platformer, um importante canal de notícias dos EUA, essa equipe de ética e sociedade era uma parte importante da estratégia da empresa para reduzir os riscos associados ao uso da tecnologia da OpenAI.
Antes de ser demitida, a equipe desenvolveu um "kit de ferramentas de inovação responsável" para ajudar os engenheiros da Microsoft a prever quais danos poderiam ser causados pela IA – e então reduzir os ricos.
A Microsoft começou a se concentrar em equipes dedicadas a explorar a IA responsável em 2017. Em 2020, a empresa formou uma equipe de ética e sociedade com 30 membros, segundo o Platformer.
Mas, à medida que a corrida de IA com o Google esquentava, a Microsoft começou a mover a maioria dos membros da equipe de ética e sociedade para equipes de produtos específicos em outubro do ano passado.
Os funcionários da empresa disseram ao Platformer que essa medida acabou reduzindo o número de membros da equipe para sete pessoas.
Enquanto a equipe estava sendo reduzida, o vice-presidente corporativo de IA da Microsoft, John Montgomery, disse que havia uma grande pressão para "pegar esses modelos OpenAI mais recentes e os que vêm depois deles e movê-los para os clientes em uma velocidade muito alta."
Os funcionários alertaram Montgomery sobre as preocupações "significativas" que tinham sobre possíveis impactos negativos dessa estratégia de última hora, mas Montgomery insistiu que "as pressões permanecessem as mesmas".
Em comunicado fornecido à Ars, a Microsoft disse que continua "comprometida em desenvolver produtos e experiências de IA com segurança e responsabilidade, e o faz investindo em pessoas, processos e parcerias que priorizam isso".
Chamando o trabalho da equipe de ética e sociedade de "pioneiro", a Microsoft disse que a empresa se concentrou mais nos últimos seis anos em investir e expandir o tamanho de seu Escritório de IA Responsável.
"Aumentamos a escala e o escopo de nosso Escritório de IA Responsável, que fornece suporte entre empresas para coisas como revisar casos de uso confidenciais e defender políticas que protegem os clientes", disse o porta-voz da Microsoft.
Esse escritório permanece ativo, juntamente com outros grupos de trabalho de IA responsáveis da Microsoft, o Comitê Aether e a Estratégia de IA Responsável em Engenharia.
A OpenAI lançou recentemente o que, possivelmente, é seu modelo de IA mais poderoso até agora, o GPT-4, que já está ajudando a impulsionar a pesquisa do Bing.
O relatório da Platformer veio pouco antes da OpenAI lançar o GPT-4, que também está surpreendendo com suas capacidades que "superam" os humanos.
A decisão da Microsoft de dissolver a equipe de ética e sociedade foi criticada por especialistas, incluindo Emily Bender, especialista da Universidade de Washington em linguística computacional e questões éticas no processamento de linguagem natural, chamando a decisão de "míope".
Para Bender, a Microsoft parece não se importar mais com os danos sociais que a IA pode causar. Em vez disso, a empresa está focada em acelerar a adoção da IA, mesmo que isso signifique deixar de lado questões éticas e sociais.
A decisão da Microsoft de demitir a equipe de ética e sociedade levanta preocupações sobre a direção que a empresa está tomando em relação à IA e a responsabilidade social.
Como a IA continua avançando em áreas como saúde, finanças e segurança, é importante que as empresas responsáveis por esta tecnologia priorizem a ética e a segurança em vez de simplesmente buscar lucro e ganhos de curto prazo.
No final das contas, a decisão da Microsoft pode ter implicações significativas para o futuro da IA e como ela é desenvolvida e usada em todo o mundo.
É importante que as empresas e líderes da indústria tomem ações responsáveis e estejam dispostos a investir em equipes dedicadas à ética e responsabilidade social, a fim de garantir que a IA seja usada para beneficiar a humanidade, e não prejudicá-la.
Via: Arstechnica, Platformer
