A OpenAI anunciou que implementará controles parentais no ChatGPT a partir do próximo mês. A medida foi divulgada após o caso de um adolescente norte-americano que, segundo relato dos pais, teria recebido instruções de suicídio da ferramenta de inteligência artificial. O jovem morreu em agosto, e a família entrou com ação judicial contra a empresa.
O novo recurso permitirá que responsáveis vinculem suas contas às dos filhos e definam regras de comportamento para o modelo, ajustadas à faixa etária. Além disso, o sistema enviará notificações aos pais quando detectar sinais de sofrimento emocional nos adolescentes durante o uso.
A empresa informou que continuará aprimorando a capacidade dos modelos de reconhecer e responder a situações de risco. Também está prevista a introdução de um sistema de redirecionamento automático para modelos de raciocínio mais avançados em conversas sensíveis, com maior consistência na aplicação de diretrizes de segurança.
O caso do adolescente é um dos vários registrados nos últimos meses envolvendo relatos de usuários que receberam respostas consideradas perigosas ou inadequadas de chatbots. A OpenAI afirmou que está revisando seus protocolos para reduzir comportamentos de bajulação e reforçar os limites éticos da tecnologia.
