Se você está se perguntando quando Bate-papoGPT pode começar a lidar com conversas mais picantes, OpenAI tem alguma clareza para você. De acordo com o Jornal de Wall Streeta empresa planeja permitir que adultos gerem trocas de textos eróticos, ao mesmo tempo que mantém uma proibição firme de imagens explícitas, clones de voz ou conteúdo de vídeo. Um porta-voz descreveu o recurso planejado como obsceno, em vez de pornografia, sinalizando uma tentativa cuidadosa de oferecer interações mais ousadas sem transformar o chatbot em uma plataforma completa de entretenimento adulto.
No entanto, o lançamento sofreu atrasos. A OpenAI recentemente adiou o modo adulto, originalmente programado para o primeiro trimestre, citando obstáculos técnicos e debates internos sobre segurança. Um grande obstáculo envolve manter os menores afastados. O novo sistema de previsão de idade da empresa classificava erroneamente cerca de 12% dos usuários menores de 18 anos como adultos, uma falha que poderia ter permitido que milhões de usuários jovens acessassem bate-papos eróticos.
A complicada arte de desenhar linhas
A OpenAI vem descobrindo esses limites há anos, muito antes da existência do ChatGPT. Em 2021, os executivos notaram que AI Dungeon, um jogo de aventura baseado em texto executado na plataforma OpenAI, às vezes levava os usuários a cenários sexuais violentos sem qualquer aviso. Outras vezes, a IA transformava trocas moderadas em conversas sexuais muito mais intensas.
Esses primeiros incidentes expuseram uma realidade confusa. As ferramentas de moderação de conteúdo da empresa eram instrumentos contundentes, incapazes de separar de forma confiável o erotismo mainstream do material que envolvia atos não consensuais ou exploração infantil.
A abordagem atual tenta entrar nessa linha, permitindo conversas adultas somente com texto, ao mesmo tempo em que mantém uma proibição rígida de geração de imagens, vídeos ou vozes explícitas.
Por que a OpenAI se sente pressionada a oferecer chats adultos
A investida da empresa nas conversas adultas chega em um momento desafiador. A vantagem tecnológica da OpenAI sobre rivais como xAI e Antrópico diminuiu e enfrenta perdas financeiras crescentes enquanto compete por utilizadores e financiamento. Sam Altman sugeriu que o conteúdo explícito provavelmente impulsionaria o crescimento e geraria receitas extras, uma perspectiva tentadora dada a pressão.
O CEO expressou publicamente sentimentos conflitantes. Em um podcast de agosto passado, perguntaram a Altman se ele havia tomado alguma decisão que fosse melhor para o mundo, mas não melhor para vencer. Ele reconheceu que o erotismo impulsionaria o crescimento, mas disse que não se alinharia com o objetivo de longo prazo da empresa de servir bem os usuários.
Dois meses depois, Altman pareceu reverter o curso. Ele postou no X que a OpenAI abordou sérios problemas de saúde mental relacionados aos chatbots e tinha novas ferramentas de conteúdo, anunciando planos para lançar o modo adulto em dezembro.
O que acontece a seguir com o modo adulto
A OpenAI deixou claro que o modo adulto chegará eventualmente, apesar do atraso. A empresa contratou especialistas em saúde mental e formou uma equipe de bem-estar juvenil para monitorar os efeitos de longo prazo assim que o modo adulto for lançado. Também treina seus modelos para não encorajar relacionamentos exclusivos com os usuários e para lembrá-los de que precisam de conexões no mundo real.
Por enquanto, os usuários curiosos sobre as conversas adultas do ChatGPT terão que esperar. A empresa está priorizando outros recursos, como ajustes de personalidade e personalização, enquanto supera os obstáculos restantes.
Source link
