Relatório da Sophos revela preocupações sobre utilização da IA na cibersegurança

A Sophos, líder global em soluções de segurança contra ciberataques, lançou hoje um novo relatório intitulado “Beyond the Hype: The Businesses Reality of AI for Cybersecurity”, que analisa a utilização da Inteligência Artificial (IA) na segurança cibernética.

O estudo, que inquiriu 400 líderes de TI, revelou que, embora 65% das organizações tenham adotado capacidades de IA generativa (GenAI), 89% expressam preocupações sobre os possíveis riscos associados a falhas nas ferramentas de cibersegurança que utilizam essa tecnologia.

Adicionalmente, a Sophos X-Ops divulgou uma nova investigação intitulado “Update: Cybercriminals still not fully on board the AI train (yet)”, que destaca uma leve, mas significativa, mudança na forma como os cibercriminosos estão a integrar a IA nas suas operações.

A pesquisa em fóruns clandestinos indicou que, apesar do ceticismo que ainda persiste em relação à GenAI, alguns criminosos estão já a utilizá-la para automatizar tarefas rotineiras, como a elaboração de e-mails em massa e a análise de dados, além de a incorporarem em kits de ferramentas de SPAM e engenharia social.

Chester Wisniewski, Global Field CTO da Sophos, enfatizou que o lema a seguir deve ser “confiar, mas verificar” no que diz respeito às ferramentas de IA generativa.

Destacou também que, embora essas máquinas possam processar grandes quantidades de dados de forma acelerada, ainda dependem do contexto e da supervisão humana para garantir a eficácia e segurança dos resultados.

O inquérito da Sophos também revelou que 98% das organizações têm algum tipo de IA integrada na sua infraestrutura de cibersegurança. No entanto, os líderes de TI expressaram preocupações sobre a possibilidade de uma confiança excessiva na IA. De fato, 87% dos inquiridos estão preocupados com a falta de responsabilidade na cibersegurança que pode surgir dessa confiança desmedida.

No que diz respeito à utilização da GenAI, as prioridades variam entre organizações de diferentes dimensões.

Enquanto as grandes empresas (com mais de 1.000 colaboradores) priorizam a proteção aprimorada, as pequenas empresas (com 50-99 colaboradores) destacam a redução do burnout como o principal benefício esperado das ferramentas de GenAI.

Contudo, 84% dos líderes de todas as empresas expressaram preocupações sobre a pressão para reduzir o número de profissionais de cibersegurança, devido a expectativas irrealistas sobre a capacidade da IA de substituir operadores humanos.