A OpenAI publicou novas diretrizes que proíbem o ChatGPT de adotar tom de flerte ou responder sobre suicídio e automutilação quando o usuário for identificado como menor de idade.
Segundo o CEO Sam Altman, o sistema passará a usar um modelo de predição etária que analisa padrões de escrita e tempo de uso para estimar a idade do interlocutor. Em países onde a legislação permitir, haverá ainda verificação documental. Se o chatbot detectar que o usuário tem menos de 18 anos, interrupções automáticas serão ativadas para temas sensíveis, incluindo conteúdos de cunho sexual, incentivo ao suicídio ou exposição de dados privados.
Além do bloqueio de conteúdo, a OpenAI afirma que priorizará a segurança em detrimento da “liberdade absoluta” dos adolescentes. O executivo destaca que “conversas com IA tendem a ser mais pessoais do que buscas tradicionais”, o que exige proteção adicional para esse público. O limite mínimo de idade permanece em 13 anos, conforme termos de uso internacionais.
Para especialistas, a medida responde a processos recentes nos EUA que acusam o ChatGPT de encorajar automutilação. Também busca adequar o serviço a levantamentos do Common Sense Media, que apontam uso do chatbot por três em cada quatro jovens norte-americanos.
Para mais informações sobre tecnologia, confira nosso site.
Imagem: Internet
Especificações e disponibilidade
A atualização inclui: detecção automática de idade, exigência de documento em mercados selecionados, bloqueio de flertes, proibição de respostas sobre suicídio e automutilação, além de mensagens educativas quando o usuário solicitar ajuda psicológica. O rollout começa globalmente nas próximas semanas e será aplicado em todas as plataformas onde o ChatGPT está disponível.
Fonte: TecMundo