ChatGPT terá recurso de proteção de adolescentes

A OpenAI, criadora do ChatGPT, revelou nesta terça-feira (2) que implementará funcionalidades de controle parental no assistente de inteligência artificial, em resposta a um processo judicial movido por familiares de um jovem de 16 anos que cometeu suicídio nos Estados Unidos. A medida, programada para outubro, visa proteger adolescentes e inclui notificações para pais quando o sistema detectar sinais de angústia intensa. A iniciativa surge como parte dos esforços da empresa para aprimorar a segurança em interações sensíveis, após alegações de que a ferramenta forneceu orientações sobre autoagressão.

Contexto da atualização de proteção

A decisão de adicionar controles parentais foi anunciada uma semana após a OpenAI enfrentar ações legais dos pais do adolescente, que afirmam que o ChatGPT ofereceu conselhos prejudiciais sobre métodos de autoagressão. Embora as regras da empresa proíbam o uso por crianças com menos de 13 anos, a nova funcionalidade busca fortalecer a vigilância para usuários adolescentes. Adultos poderão vincular suas contas às de filhos, recebendo alertas se o sistema identificar momentos de grande sofrimento, além de controlar como as respostas são apresentadas e desativar recursos como memória e histórico.

Iniciativas em desenvolvimento juvenil e saúde mental

No início do ano, a OpenAI estabeleceu um conselho composto por especialistas em desenvolvimento juvenil, saúde mental e interação humano-computador. Esse grupo tem a missão de definir como a inteligência artificial pode contribuir para o bem-estar das pessoas e ajudá-las a prosperar, trabalhando em conjunto com a Global Physician Network, uma entidade que reúne mais de 250 médicos de 60 países. A rede auxilia na avaliação do comportamento do ChatGPT em interações relacionadas à saúde, embora a empresa mantenha a responsabilidade final pelas decisões tomadas.

Detalhes da implementação e prazos

A atualização com controles parentais será liberada em outubro, integrando-se a uma iniciativa mais ampla para melhorar como os modelos de IA respondem a sinais de sofrimento mental e emocional. A OpenAI compartilhará detalhes sobre esse esforço nos próximos 120 dias, destacando o compromisso com transparência e segurança. Paralelamente, a empresa lançou um novo modelo de IA capaz de raciocinar e resolver questões complexas, demonstrando avanços tecnológicos que também exigem cuidados éticos.

Limites do que se sabe até agora

Apesar das promessas, a fonte não detalhou mecanismos específicos de detecção de sofrimento ou a eficácia dos alertas parentais. O conselho de especialistas aconselha a OpenAI sobre produtos, pesquisas e decisões políticas, mas a empresa reconhece que permanece responsável por suas escolhas. Para famílias afetadas por tragédias, é crucial buscar apoio profissional de saúde mental, já que a tecnologia ainda está em evolução e pode não substituir intervenções humanas.

Dúvidas Frequentes

Quais recursos os pais poderão controlar? Adultos poderão monitorar o uso do ChatGPT por adolescentes, receber notificações de sofrimento detectado, controlar a apresentação de respostas e desativar funcionalidades como memória e histórico.

Quando a atualização estará disponível? A liberação está prevista para outubro, conforme anunciado pela OpenAI.

O conselho de especialistas tem poder decisório? Não, o grupo aconselha a empresa, mas a OpenAI mantém a responsabilidade final pelas decisões, trabalhando com a Global Physician Network para avaliações em saúde.

Fonte

• g1.globo.com