A vulnerabilidade mais perigosa nunca foi o código. Foi a Confiança.
Por Erick Santos, Gerente Sr. de Digital Risk Consulting.
Uma pesquisa recente da Permiso Security revelou o ChatGPhish, uma técnica que transforma o próprio ChatGPT em vetor de phishing. O mecanismo é elegante e perturbador ao mesmo tempo.
Quando um usuário pede ao ChatGPT para resumir uma página web, a plataforma renderiza os links e imagens daquele conteúdo dentro da interface do assistente, como se fossem parte da resposta. Se a página contiver instruções maliciosas ocultas, o modelo as segue. E o usuário vê, dentro de um ambiente que ele considera seguro, um formulário de login falso, um alerta de segurança convincente ou um QR code de um atacante.
O ataque não explora uma falha no firewall, explora uma falha na percepção, esse é o ponto que mais me chama atenção neste caso recente.
Não é sobre ChatGPT, é sobre o que acontece quando transferimos confiança para ferramentas que ainda não governamos adequadamente.
O usuário corporativo que usa IA no dia a dia, para resumir contratos, pesquisar fornecedores, analisar documentos, criou uma nova superfície de ataque que a maioria das empresas ainda não mapeou, não porque faltou tecnologia, mas sim porque faltou governança.
O comportamento humano mudou mais rápido do que os controles.
Phishing sempre foi um problema de engenharia social antes de ser um problema técnico, segundo o IBM X-Force Threat Intelligence Index, phishing é responsável por 16% dos vetores de ataque mais comuns, mas os ataques via credenciais roubadas, que frequentemente começam com phishing, representam 31%, ou seja, quase metade dos incidentes tem origem em alguma forma de manipulação humana e o que o ChatGPhish muda é o intermediário, antes, o atacante precisava convencer a vítima diretamente e agora, ele usa a credibilidade da ferramenta para fazer isso e a ferramenta não sabe que está sendo usada assim.
Quando o ambiente confiável se torna o veículo, o usuário não tem como usar o critério de sempre: “isso parece suspeito.”, parece legítimo porque está dentro de algo legítimo.
Do ponto de vista de risco, a questão que coloco para os líderes é, sua empresa tem uma política de uso de IA? Tem visibilidade sobre quais ferramentas os colaboradores estão usando no dia a dia? Tem treinamento profundo sobre phishing, que vai além de “não clique em links suspeitos”?
Se a resposta for “não”, o risco já existe, só ainda não foi contabilizado.
A adoção de IA nas empresas avançou, a maturidade de segurança em torno dela, não.
E essa assimetria é onde os atacantes vivem, tecnologia evolui, engenharia social também.
O que precisa evoluir junto é a capacidade das organizações de governar comportamento, humano e artificial.
