ChatGPT anuncia versão para adolescentes com limites de conteúdo, uso e controle dos pais

Agente do ChatGPT reserva restaurante, faz compra, mas erra ao insistir demais
A OpenAI anunciou uma versão do ChatGPT desenvolvida especificamente para adolescentes. A experiência, chamada de ChatGPT para Adolescentes, foi criada para usuários de 13 a 17 anos e combina ferramentas de inteligência artificial para estudos com proteções adicionais de segurança.
Segundo a empresa, adolescentes que declararem ter entre 13 e 17 anos ou que forem identificados pelo sistema como menores de 18 anos serão direcionados automaticamente para a experiência voltada ao público adolescente.
Primeiro a OpenAI, depois a Meta: por que robôs de IA continuam fazendo ataques hackers
A proposta é permitir que jovens usem inteligência artificial para aprender e criar, mas com limites mais rígidos para conteúdos considerados inadequados para a idade.
[bbc] Logo da empresa OpenAI, responsável pelo ChatGPT
Getty Images
ChatGPT ganha recursos voltados para os estudos
Uma das principais mudanças está na forma como a ferramenta deve ajudar os adolescentes com tarefas escolares. Em vez de simplesmente entregar uma resposta pronta, o sistema pode orientar o estudante por meio de perguntas e etapas para que ele chegue à solução.
A experiência inclui o Modo Estudo, que utiliza perguntas orientadoras e explicações passo a passo. Também foram anunciados lembretes para tarefas de casa, que podem identificar quando o estudante parece estar tentando apenas obter uma resposta e direcioná-lo para uma resolução colaborativa.
A OpenAI também incluiu quizzes e recursos de visualização para ajudar os estudantes a praticar o conteúdo e testar o que aprenderam.
➡️Outra novidade são as Horas de Estudo, que permitem definir períodos em que o Modo Estudo será ativado por padrão.
A empresa afirma que o desenho do Modo Estudo foi desenvolvido com participação de professores, cientistas e especialistas em pedagogia e utiliza técnicas como perguntas orientadoras, testes de conhecimento e estímulos para que o estudante explique seu próprio raciocínio.
Proteções contra conteúdos sensíveis
A versão para adolescentes também terá salvaguardas ativadas por padrão. A OpenAI diz que elas foram desenvolvidas para reduzir a exposição de menores a conteúdos potencialmente prejudiciais ou inadequados para seu estágio de desenvolvimento.
Entre os temas que terão proteções específicas estão automutilação, violência, transtornos alimentares, atividades perigosas e conteúdo sexual ou gráfico explícito.
A empresa também pretende ampliar os mecanismos de controle disponíveis para os pais. Contas de adolescentes vinculadas a contas dos responsáveis poderão ter Horas de Silêncio e determinadas configurações administradas pelos pais, além de notificações de segurança em situações consideradas de alto risco.
IA não deve substituir relações humanas, diz empresa
Outro foco da nova experiência é reduzir o risco de dependência emocional da inteligência artificial.
A OpenAI afirma que o ChatGPT para adolescentes terá lembretes para que os usuários façam pausas durante o uso prolongado e elementos que deixem claro que a interação ocorre com uma inteligência artificial.
Para menores de 18 anos, o modelo também não deve utilizar linguagem romântica, incentivar dependência emocional ou sugerir que possui sentimentos ou consciência. A intenção, segundo a empresa, é reforçar a importância das relações no mundo real.
A plataforma também passará a alertar adolescentes antes do envio de imagens privadas ou sensíveis e poderá apresentar lembretes mais frequentes para que eles interrompam o uso após períodos prolongados.
OpenAI quer ensinar adolescentes a usar IA
Além de modificar o próprio ChatGPT, a OpenAI anunciou uma parceria com a CodeAI para ampliar o acesso de estudantes e educadores a ferramentas e recursos de educação sobre inteligência artificial.
A proposta é ensinar adolescentes não apenas a utilizar sistemas de IA, mas também a entender como eles funcionam, questionar suas respostas e reconhecer seus erros.
A empresa também apresentou exemplos de adolescentes que já utilizam o ChatGPT para desenvolver projetos. Entre eles estão estudantes da Virgínia que criaram um sistema que utiliza sinais de Wi-Fi para ajudar na localização de pessoas presas sob escombros e uma jovem do Texas que utilizou a ferramenta para desenvolver uma plataforma de jogos educativos em áudio voltada a estudantes cegos.
Proteções ainda estão em desenvolvimento
A OpenAI afirma que continuará realizando pesquisas sobre o uso de inteligência artificial por adolescentes e testando suas salvaguardas em situações consideradas de maior risco.
A empresa diz que pretende publicar mais avaliações sobre o comportamento dos modelos diante de situações envolvendo menores de 18 anos, incluindo casos relacionados a automutilação, transtornos alimentares, violência, conteúdos com restrição de idade e material sexual.
A companhia afirma que o objetivo é permitir que adolescentes usem inteligência artificial para aprender, criar e explorar novas ideias, mas com mecanismos de proteção compatíveis com a idade e que incentivem hábitos saudáveis e relações fora da plataforma.