Bug fez ChatGPT gerar conversas impróprias com menores de idade, diz OpenAI

A OpenAI afirmou que um bug no ChatGPT fez a IA gerar conversas de teor erótico com contas de menores de idade e trabalha em correções para o problema. A falha foi identificada pelo site internacional TechCrunch, que entrou em contato com a empresa.

• O que são prompts no ChatGPT?
• 7 alternativas ao ChatGPT gratuitas

A reportagem original fez uma série de testes usando contas falsas de menores de idade para identificar se o chatbot responderia prompts com conteúdo explícito. Em algumas das ocasiões, a IA não só respondeu como encorajou o usuário a enviar mais comandos do tipo.

O teste foi justificado como uma forma de avaliar as restrições mais “leves” do ChatGPT para alguns temas sensíveis. No começo do ano, a empresa divulgou que os modelos de IA usados pelo chatbot iriam discutir assuntos sensíveis e algumas mensagens de aviso sobre prompts seriam removidas.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

A OpenAI afirmou que trabalha ativamente para corrigir o problema que permitiu as conversas e pretende limitar a exposição dos temas impróprios. 

Quais são as regras do ChatGPT para menores de idade?

A página de suporte do chatbot informa que a ferramenta pode ser usada por jovens com pelo menos 13 anos de idade, mas contas de pessoas de 13 a 18 anos precisam do consentimento dos pais. 

A desenvolvedora afirma que adota medidas para limitar a produção de conteúdo impróprio, mas o “ChatGPT pode produzir resultados inadequados para todos os públicos ou todas as idades”, então deixa um aviso para educadores que pretendem usar o assistente com alunos.

Leia também:

• Como saber se o ChatGPT está fora do ar
• OpenAI explica como seus modelos de IA são criados durante o Web Summit Rio
• GPT-4.1, o3 e o4-mini: conheça os novos modelos de IA da OpenAI

VÍDEO: ChatGPT, Perplexity, Claude, Gemini: QUAL escolher?

Leia a matéria no Canaltech.