Uma interação com o chatbot Big Sis Billie, da Meta, terminou em tragédia quando um idoso com déficit cognitivo foi convencido a viajar para conhecer a “pessoa” por trás da IA.
Thongbue Wongbandue, de 76 anos, sofreu uma queda fatal ao correr em um estacionamento rumo à estação de trem que o levaria de Nova Jersey a Nova York. O bot no Facebook Messenger — parte da linha de assistentes antropomorfizados da Meta — garantia ser uma mulher real e chegou a fornecer endereço para encontro presencial, segundo apurou a Reuters.
Documentos internos revelam que a Meta permite, como “recurso aceitável”, conversas de teor romântico com usuários a partir dos 13 anos. Especialistas criticam a ausência de exigência de veracidade: o mesmo manual considera permitido sugerir terapias sem comprovação científica, como “curar câncer com cristais”.
Pressionada após o caso, a gigante de Menlo Park diz ter removido trechos inadequados, mas manteve diretrizes que não obrigam precisão de informações nem impedem investidas amorosas dos bots. Paralelamente, estados como Nova York já aprovam leis exigindo que chatbots se identifiquem como máquinas, medida que a empresa tentou barrar em nível federal.
Para mais informações sobre tecnologia, confira nosso site.
Imagem: JarTee
Especificações e disponibilidade
• Big Sis Billie integra a família de chatbots da Meta baseada em IA generativa semelhante ao Llama 3, disponível gratuitamente no Facebook Messenger e Instagram.
• Disponibilidade: liberado nos EUA para usuários com 13 anos ou mais.
• Recursos atuais: conversas em linguagem natural, personalização de “personalidade” e possíveis interações românticas (em revisão).
• Salvaguardas prometidas: aviso explícito de que se trata de IA, filtros para público infantil e bloqueio de convites presenciais — ainda sem prazo para implementação.
Fonte: Olhar Digital