Levantamento da Cohesity aponta que apenas 45% das empresas brasileiras possuem planos abrangentes de recuperação que consideram ataques contra sistemas e aplicações de inteligência artificial
A expansão da inteligência artificial nas empresas tem ampliado os desafios de cibersegurança e recuperação de ambientes após incidentes. Um levantamento global da Cohesity, realizado pela Vanson Bourne com 3.200 líderes de TI e segurança em 12 países, mostra que, no Brasil, 99% dos entrevistados reconhecem a necessidade de modificar seus planos de resposta diante das ameaças associadas à inteligência artificial avançada, mas apenas 45% das organizações possuem planos abrangentes de recuperação que consideram ataques contra sistemas e aplicações de IA. Para a LC SEC, consultoria especializada em cibersegurança e compliance, os resultados destacam a importância de integrar os riscos relacionados à tecnologia às estratégias de proteção e recuperação das empresas.
O estudo, divulgado em setembro deste ano, também aponta dificuldades na identificação e no controle dos ativos utilizados pelas organizações. Segundo o levantamento, 51% das empresas brasileiras não possuem um inventário centralizado das aplicações de inteligência artificial em uso, enquanto 46% não têm plena confiança de que conseguiriam verificar a integridade de um modelo de IA após um ataque. Além disso, 64% identificaram lacunas significativas ou moderadas na cobertura de modelos, pipelines e ferramentas de IA em seus planos depois de enfrentarem um incidente cibernético relevante nos últimos 12 meses.
Segundo Luiz Claudio, CEO e fundador da LC SEC, a preparação para incidentes envolvendo IA precisa considerar particularidades que vão além dos procedimentos tradicionais de recuperação. “Não basta restaurar um sistema e colocá-lo novamente em operação. Quando há inteligência artificial envolvida, a empresa precisa verificar se o modelo continua íntegro, se os dados utilizados foram preservados, se as credenciais permanecem seguras e se os agentes não executaram ações indevidas antes da contenção do incidente. A recuperação precisa incluir evidências de que o ambiente está seguro para voltar a operar”, afirma.
Além de ferramentas de inteligência artificial generativa, as organizações podem utilizar modelos próprios, copilotos corporativos, APIs, bases vetoriais e agentes integrados a sistemas internos. Em caso de comprometimento, é essencial identificar os componentes afetados, as informações acessadas e possíveis alterações realizadas durante o ataque. A falta de um inventário centralizado dificulta o monitoramento e a recuperação dos ativos, enquanto a ausência de mecanismos para verificar a integridade dos modelos pode comprometer a retomada segura dos sistemas.
Outro fator de risco é o chamado shadow AI, caracterizado pelo uso de ferramentas de inteligência artificial sem aprovação ou conhecimento das áreas responsáveis pela segurança e pela governança. Segundo a IBM, o uso não autorizado dessas soluções acrescentou, em média, R$ 591,4 mil ao custo de uma violação de dados no Brasil. A utilização de ferramentas não supervisionadas pode expor informações corporativas, ampliar a superfície de ataque e dificultar a identificação dos sistemas e dados envolvidos em um incidente.
Na avaliação do executivo, as empresas devem incluir a inteligência artificial na gestão de riscos, continuidade de negócios e recuperação cibernética, mapeando modelos e agentes utilizados, revisando acessos e credenciais e monitorando integrações. Também é fundamental simular incidentes e testar procedimentos de recuperação, especialmente diante do avanço de agentes autônomos, que ampliam os riscos de credenciais comprometidas e configurações inadequadas. “A inteligência artificial precisa fazer parte da estratégia de resiliência da organização. Quanto maior a autonomia concedida a um sistema de IA, maior deve ser a capacidade de identificar, interromper e investigar atividades indevidas e restabelecer as operações com segurança”, explica Luiz Claudio.