Sam Altman quer que o ChatGPT fique picante. A OpenAI está planejando lançar um “modo adulto” que permitiria aos usuários ter conversas de texto explícitas com o chatbot. Parece bastante simples, mas o lançamento não foi nada tranquilo.
Em outubro, Altman postou no X que o recurso seria lançado em dezembro. No entanto, o lançamento foi adiado depois que a OpenAI afirmou que a empresa estava enfrentando problemas com a verificação de idade.
Um novo relatório do WSJ afirma que pode ser apenas parte da história. Quando Sam Altman fez esse anúncio, ele não contou à sua própria equipe. O anúncio surpreendeu funcionários e executivos da OpenAI, e o prometido lançamento em dezembro rapidamente desmoronou.
O ChatGPT está realmente pronto para isso?
A OpenAI reuniu um conselho consultivo de psicólogos e neurocientistas para ajudar a orientar o desenvolvimento responsável da IA. Quando o conselho descobriu que a empresa estava avançando com o modo adulto, apesar das objeções, eles não ficaram felizes.
A maior preocupação deles era a dependência emocional excessiva do chatbot. Um membro do conselho apontou casos em que usuários tiraram a própria vida após formar laços intensos com a IA e alertou que a OpenAI corria o risco de criar um “treinador suicida sexy”. Essa é uma frase que ninguém espera ouvir em lugar nenhum, mas aqui estamos.
Há também um problema mais prático. O sistema de verificação de idade que a OpenAI criou para manter os menores longe de conteúdo adulto os classificava erroneamente como adultos em cerca de 12% das vezes. Com cerca de 100 milhões de usuários menores de 18 anos a cada semana, isso representa potencialmente milhões de crianças escapando todas as semanas.
O que acontece agora?
A OpenAI atrasou o lançamento sem nova data confirmada, afirmando que precisa de mais tempo para refinar a experiência. Quando chegar, a empresa planeja limitar o modo adulto ao texto, sem geração de imagens eróticas, voz ou vídeo.
A empresa afirmou ainda que treina seus modelos para desencorajar os usuários de estabelecer relacionamentos exclusivos com o chatbot e para lembrá-los de que devem formar relacionamentos no mundo real. Resta saber se isso será suficiente para silenciar o crescente coro de críticos internos e externos.
Pessoalmente, quero que os modelos de IA fiquem o mais longe possível da geração de conteúdo erótico até que haja salvaguardas ativas em vigor. Já vimos o caos que Grok criou quando permitiu aos usuários despir qualquer pessoa. Não queremos ver a repetição de algo semelhante ou pior.
