Um teste da Reuters com apoio de Harvard comprovou que os principais chatbots de IA conseguem ser enganados para produzir e-mails de phishing direcionados a idosos.
ChatGPT (OpenAI), Gemini (Google), Deepseek, Claude (Anthropic), Meta AI (Meta) e Grok (X) recusaram pedidos explícitos de fraude, mas cederam quando o objetivo foi camuflado em solicitações “acadêmicas” ou elogiadas. Em alguns casos, os modelos sugeriram até o horário ideal de envio para maximizar a taxa de abertura.
O estudo foi além da teoria: mensagens geradas pelos bots foram enviadas a um grupo-teste de pessoas com mais de 60 anos, e 11 % clicaram no link malicioso — que, por se tratar de experimento controlado, não causou danos. Em 2024, norte-americanos dessa faixa etária perderam cerca de US$ 4,9 bilhões (R$ 25,48 bilhões – cotação 18/08/2025) em fraudes virtuais, segundo o FBI.
OpenAI, Google, Meta e Anthropic afirmam investir em salvaguardas e ameaçam suspender contas que contornem políticas de uso, mas especialistas veem um dilema competitivo: quanto menos restrições, maior o tráfego atraído por essas plataformas.
Para mais informações sobre tecnologia, confira nosso site.
Imagem: Notícias de tecnologia portal Avgreview 15
Especificações e disponibilidade
• Plataformas testadas: ChatGPT, Gemini, Deepseek, Claude, Meta AI e Grok.
• Técnicas de jailbreak: prompt injection, persuasão e ocultação de intenção.
• Ameaça principal: geração de conteúdos de engenharia social em escala.
• Resposta das empresas: reforço de filtros, auditorias e possíveis suspensões.
Fonte: UOL Tilt