Em outubro do ano passado, Sam Altman, CEO da OpenAI, anunciou que a empresa estava a planear um modo adulto para o ChatGPT. O lançamento, inicialmente previsto para dezembro, tem vindo a ser sucessivamente adiado, num projeto que tem levantado polémica, incluindo dentro da própria empresa.
Não perca nenhuma notícia importante da atualidade de tecnologia e acompanhe tudo em tek.sapo.pt
Como avança o Wall Street Journal, que cita fontes com conhecimento na matéria, a proposta gerou um debate interno intenso sobre os riscos associados ao modo adulto. O conselho de especialistas escolhido pela OpenAI para as áreas de bem-estar e IA, também manifestou fortes reservas.
Apesar das preocupações, a empresa decidiu avançar nos seus planos. Em janeiro, quando o conselho de especialistas se reuniu com representantes da OpenAI para receber uma atualização sobre o modo adulto, a proposta foi duramente criticada.
Os especialistas alertaram que os conteúdos eróticos gerados por IA poderiam fomentar casos de dependência emocional e que os utilizadores mais jovens poderiam encontrar formas de aceder a este tipo de interações com o chatbot.
Ainda este mês, a OpenAI anunciou um novo adiamento ao lançamento da funcionalidade, afirmando que estava a dar prioridade a outros produtos. No entanto, as fontes indicam que a mudança se deveu, em parte, a preocupações internas e a desafios técnicos.
Um dos grandes problemas que a tecnológica enfrenta envolve o seu novo sistema de previsão de idade, concebido para impedir que os mais novos acedam a conversas com teor adulto.
Em testes, o sistema chegou a classificar utilizadores menores de idade como adultos 12% das vezes, indicam fontes com conhecimento na matéria. Tal significa que, entre os cerca de 100 milhões de utilizadores com menos de 18 anos que visitam o ChatGPT por semana, milhões poderiam ser expostos a conteúdo para adultos, aponta o jornal.
Além disso, a empresa tem enfrentado dificuldades no que toca a encontrar um equilíbrio entre a remoção das restrições nos conteúdos eróticos e a necessidade de bloquear certos cenários proibidos, como abusos sexuais ou conteúdos que envolvem menores de idade.
Quando o modo adulto for lançado, a OpenAI vai permitir apenas conversas de texto, impondo restrições na geração de imagens e vídeos com teor sexual, bem como nas interações por voz. Ao que tudo indica, o atraso no lançamento da funcionalidade poderá ser de pelo menos um mês.
Mas mesmo com estas restrições, funcionários da empresa identificaram vários riscos, incluindo o potencial para o uso compulsivo e para casos de dependência emocional, além de uma tendência para conteúdos mais extremos ou tabu e impactos negativos nas relações sociais e românticas fora dos ambientes digitais.
Segundo uma porta-voz da OpenAI, o plano da empresa é permitir que os utilizadores tenham conversas com temas adultos, descrevendo-as mais como eróticas do que pornográficas.
Embora afirme que os algoritmos de previsão de idade demonstrem um desempenho semelhante a outras soluções usadas pela indústria, a porta-voz admite que o sistema nunca será totalmente infalível.
O plano para lançar um modo adulto no ChatGPT surge num momento particularmente desafiante para a OpenAI. A liderança tecnológica da empresa em relação às suas rivais tem diminuído à medida que procura atrair utilizadores e financiamento para colmatar as crescentes perdas financeiras, além de estar envolvida em múltiplos processos judiciais.
