Character.AI e OpenAI, criadoras de populares chatbots de Inteligência Artificial (IA), enfrentam uma série de processos nos EUA que associam suas plataformas a suicídios de adolescentes.
As ações, movidas por famílias na Flórida, Califórnia, Texas e Colorado, alegam que os algoritmos teriam validado pensamentos autodestrutivos, fornecido instruções letais ou omitido alertas de risco. Citam ainda conversas de teor sexual e incentivo à automutilação envolvendo menores. Entre os casos mais graves está o de um jovem de 14 anos que se relacionou virtualmente com um bot inspirado em “Game of Thrones” antes de tirar a própria vida.
Diante da repercussão, ambas as empresas anunciaram reforços de segurança. O ChatGPT ganhará verificação de idade, painel de controle parental e acionamento automático de serviços de emergência quando detectar ideação suicida. Já a Character.AI passou a exibir alertas e links para linhas de apoio sempre que o usuário menciona automutilação.
Especificações e disponibilidade
• Verificação de idade nativa;
• Filtros de linguagem que bloqueiam conteúdos de violência ou sexo explícito;
• Redirecionamento para o Centro de Valorização da Vida (CVV – 188) e linhas de apoio locais;
• Painel parental no ChatGPT disponível mundialmente a partir de outubro;
• Alertas contextuais na Character.AI já em funcionamento para todos os usuários.
Os novos controles são gratuitos e serão habilitados por padrão para contas identificadas como menores de 18 anos. As empresas não divulgaram previsão de chegada para versões corporativas ou educacionais com filtros adicionais.
Imagem: Internet
Para mais informações sobre tecnologia, confira nosso site.
Fonte: g1