O logotipo OpenAI é exibido em um telefone celular com uma imagem em um monitor de computador gerada pelo modelo de texto para imagem Dall-E do ChatGPT, 8 de dezembro de 2023, em Boston.
AP/Michael Dwyer
A OpenAI suspendeu por tempo indeterminado seus planos de lançar um chatbot com conteúdo sexual explícito, informou a empresa nesta quinta-feira (26).
A decisão ocorre diante de preocupações crescentes sobre possíveis riscos sociais e de imagem associados ao lançamento de um produto desse tipo.
🗒️ Tem alguma sugestão de reportagem? Mande para o g1
A medida, revelada inicialmente pelo Financial Times, acontece no momento em que a empresa de inteligência artificial busca abandonar projetos considerados secundários para manter sua posição de liderança em um setor cada vez mais competitivo.
A ferramenta de conteúdo explícito, chamada internamente de “modo Citron”, recebeu críticas, de acordo com o Financial Times.
Veja os vídeos que estão em alta no g1
Alguns funcionários questionaram se o produto estaria alinhado com a missão da empresa de garantir que sua tecnologia traga benefícios reais à sociedade.
Investidores também expressaram preocupação com eventuais danos à reputação da empresa, avaliando que esses riscos poderiam superar qualquer ganho comercial.
Conteúdo erótico seria para alguns adultos
No ano passado, a OpenAI informou que reduziria restrições aplicadas ao ChatGPT, permitindo conteúdo erótico para usuários adultos verificados. A empresa classificou a mudança como uma forma de “tratar usuários adultos como adultos”.
O cancelamento ocorre na mesma semana em que a OpenAI anunciou o fim do Sora, seu aplicativo de criação de vídeos, que vinha sendo acusado de estimular a circulação de grande volume de conteúdo de baixo valor produzido por IA.
Essas decisões são tomadas em um momento sensível para o setor de tecnologia, no qual a Meta e outras plataformas enfrentam uma série de processos e novas regulamentações relacionadas ao impacto de seus serviços sobre menores de idade.
A empresa de IA de Elon Musk também enfrentou forte crítica global no ano passado, após seu chatbot Grok ser usado para criar imagens falsas de cunho sexual envolvendo pessoas reais, inclusive menores de idade.