Quando o ChatGPT percebe que fala com um adolescente, a conversa pode mudar

Um adolescente abre o ChatGPT para pedir ajuda em uma tarefa da escola. Em vez de entregar a resposta pronta, a ferramenta deve tentar explicar o caminho.

Fazer perguntas. Guiar o raciocínio. A ideia é que o estudante aprenda, e não apenas copie.

Esse é um dos pontos do novo ChatGPT para Adolescentes, novo modelo anunciado pela OpenAI para usuários de 13 a 17 anos.

Tudo isso porque pais, escolas, pesquisadores e autoridades vêm discutindo até onde um chatbot pode ajudar ou expor jovens a riscos.

Segundo a OpenAI, o novo modo limita conversas consideradas de alto risco, como temas ligados a automutilação, violência, distúrbios alimentares e conteúdo sexual explícito.

A ferramenta também reforça barreiras para impedir que o chatbot sugira ter sentimentos próprios ou crie vínculos emocionais com o usuário.

Na prática, a empresa quer tratar adolescentes como adolescentes: pessoas que já usam tecnologia para estudar, criar e conversar, mas que ainda precisam de proteções diferentes das aplicadas a adultos.

Que tal receber notícias todos os dias em seu WhatsApp? Clique aqui e entre para o canal oficial da Brasil Paralelo.

ChatGPT vai analisar 2 mil sinais para identificar menores

A OpenAI já exige que usuários informem a idade ao criar uma conta. Pelas regras da empresa, o ChatGPT não é destinado a menores de 13 anos, e adolescentes entre 13 e 18 anos precisam de consentimento dos pais ou responsáveis.

O problema é que nem todo mundo informa a idade correta.

Por isso, a empresa afirma monitorar mais de 2 mil sinais para estimar se uma pessoa tem menos de 18 anos. Entre esses sinais podem estar horários de login e tempo de existência da conta.

Quando o sistema entende que o usuário é menor de idade, o modo adolescente é ativado automaticamente.

A OpenAI afirma que esse processo é “minimamente invasivo à privacidade”.

Pais podem receber alertas

O novo modo também se conecta aos controles dos pais. Quando pais ou responsáveis vinculam suas contas às dos adolescentes, podem definir horários de silêncio e restringir recursos como voz, geração de imagens e memória.

Eles também podem receber notificações em situações específicas de risco. A empresa afirma que os pais não terão acesso às conversas dos filhos.

Em casos considerados graves, a notificação deve trazer apenas as informações necessárias para apoiar a segurança do adolescente.

O jornalismo da Brasil Paralelo existe graças aos nossos membros

Como um veículo independente, não aceitamos dinheiro público. O que financia nossa estrutura são as assinaturas de cada pessoa que acredita em nossa causa.

Quanto mais pessoas tivermos conosco nesta missão, mais longe iremos. Por isso, agradecemos o apoio de todos.

Seja também um membro da Brasil Paralelo e nos ajude a expandir nosso jornalismo.

Clique aqui.