Uma vulnerabilidade de segurança crítica no sistema Agentforce da Salesforce expôs informações confidenciais de clientes da companhia, conforme revelou a Noma Security na quinta-feira (25). Ela permitia que invasores roubassem esses conteúdos por meio de injeção indireta de prompt.
Denominada “ForcedLeak”, a falha mostra como ferramentas de negócios integradas a soluções de inteligência artificial sem supervisão humana podem ser usadas indevidamente para a coleta de dados, de acordo com a empresa de segurança cibernética que descobriu o problema. Não se sabe se a brecha foi explorada em ataques.
Instruções maliciosas para agentes de IA
O recurso Agentforce é uma plataforma de agentes de inteligência artificial, bots com capacidade de realizar atividades de maneira autônoma. Segundo o relatório, cibercriminosos poderiam aproveitar a solução para acessar dados de usuários a partir de prompts maliciosos ou permissões mal configuradas.
- Para tanto, invasores usariam formulários da plataforma para enviar instruções aos agentes, escondidas em meio a dados que a IA já processa normalmente;
- Ao ler solicitações feitas por clientes legítimos, o sistema também analisaria os pedidos maliciosos incorporados, sem distingui-los dos demais, realizando a tarefa desejada;
- Em um teste feito por pesquisadores da Noma, a IA enviou endereços de email de clientes para um servidor externo, obedecendo as instruções e confirmando o sucesso do ataque;
- Os especialistas disseram que, em uma campanha real, seria possível coletar diversos dados sigilosos de terceiros, incluindo contratos, relatórios de venda, estratégias de negócios, comunicações internas e muito mais.
A operação envolvia, ainda, a utilização de um domínio considerado “confiável” pela Salesforce, para o qual os dados extraviados foram enviados. Curiosamente, ele estava expirado e à venda por apenas US$ 5, o equivalente a R$ 26,70 pela cotação do dia, valor pago pelos pesquisadores.
Qualquer empresa que utilizasse o Agentforce com os formulários Web-toLead habilitado, principalmente para vendas, marketing e aquisição de clientes, era uma vítima em potencial. A exploração da vulnerabilidade ForcedLeak poderia trazer sérios impactos para os alvos, segundo o estudo.
Correções implementadas
Alertada em julho sobre a falha na plataforma Agentforce, a Salesforce implementou as correções necessárias no início de setembro. Entre elas, a empresa lançou patches que impedem o envio de dados pelos agentes de IA para endereços não confiáveis.
“O cenário de segurança para injeção imediata continua sendo uma área complexa e em evolução, e continuamos a investir em fortes controles de segurança e trabalhar em estreita colaboração com a comunidade de pesquisa para ajudar a proteger nossos clientes à medida que esses tipos de problemas surgem”, ressaltou a companhia, em comunicado ao site Hackread.
Fornecedora de milhares de organizações em todo o mundo, a Salesforce foi alvo de um incidente de segurança recentemente, chatbot usado para vendas e engajamento. A violação atingiu grandes clientes da marca, como Google, Adidas, Allianz Life e Palo Alto Networks, cujas informações acabaram vazando.
Gostou do conteúdo? Siga no TecMundo para mais atualizações sobre cibersegurança e compartilhe as notícias nas redes sociais.