Inteligência Artificial generativa e a cibersegurança

Por Ana Carolina Lahr

Desde o final do ano passado, com o lançamento do ChatGPT, da OpenAI, a inteligência artificial generativa atrai a atenção de empresários e curiosos com sua incrível capacidade de replicar e produzir conteúdo humanizado. Enquanto a facilidade de acesso e a possibilidade de consultar de temas simples a questões mais complexas trazem uma gama de oportunidades para empresas de todos os tamanhos e segmentos, porém, as ameaças também se aproximam. Nesse cenário, o campo da cibersegurança assume o papel de proteger os negócios contra o mal em uma relação complexa e multifacetada.

Uma pesquisa recente da Malwarebytes mostra que, ao mesmo tempo em que há nos empresários o desejo de se manter na vanguarda, há também uma desconfiança e cuidado ao pisar nesse campo ainda tão pouco conhecido. A pesquisa coletou um total de 1.449 respostas no final de maio e revelou que 81% dos entrevistados se mostraram preocupados com os riscos de segurança apresentados pelo chatbot de IA generativa ChatGPT.  Além disso, 51% questionam se as ferramentas de IA podem melhorar a segurança na internet e 63% desconfiam das informações do ChatGPT. Além disso, 52% manifestaram querer que os desenvolvimentos da API sejam interrompidos para que os regulamentos possam ser atualizados. 

“A tecnologia traz benefícios para a sociedade, mas também apresenta alguns perigos e desafios, especialmente no que diz respeito à segurança da informação. A preocupação com a privacidade dos dados deve ser uma constante nas organizações. Tomar providências para que o ambiente virtual mantenha o nível de proteção adequado às operações da corporação é um dos principais pontos de atenção e deve manter atualizações periódicas, pois a tecnologia e técnicas de invasão evoluem”, avalia Helder Ferrão, Industry Strategy Manager LATAM, da Akamai.

Será mesmo a IA generativa um risco iminente?

Entre os muitos riscos e ameaças que a IA generativa pode propiciar, está a disseminação de informações falsas, a violação de direitos de privacidade e proteção de direitos autorais e até mesmo o aumento do cibercrime. Apesar disso, a tecnologia é, ao mesmo tempo, a maior arma de combate a tais ameaças – e tantas outras. Afinal, como já alertaram os futuristas, “para combater a tecnologia, somente utilizando mais tecnologia”.

Assim, aprimorar a segurança cibernética com a detecção e resposta generativa de ameaças à segurança aprimoradas por IA e ML é uma tendência predominante no mercado de segurança cibernética à medida que os fornecedores tentam ajudar a tornar seus produtos mais inteligentes, rápidos e concisos.

Para Ferrão, o mercado de segurança cibernética tem se atualizado para combater as ameaças cibernéticas relacionadas à inteligência artificial (IA) de diversas formas. 

Dentre as principais tendências estão soluções como:

• Uso da IA para detectar e prevenir ataques analisando o comportamento da rede, identificando padrões e anomalias, prevenindo possíveis ataques e tomando medidas preventivas ou corretivas. “A IA pode ser usada, por exemplo, para automatizar a resposta a incidentes, reduzindo o tempo de reação e recuperação de um ambiente”.

• Uso da IA para melhorar a segurança dos dados através de técnicas para proteger os dados sensíveis e confidenciais dos usuários, clientes e parceiros. “A IA pode ajudar a criptografar, classificar, rastrear e monitorar os dados, bem como detectar vazamentos, violações ou tentativas de roubo”.

• Uso da IA para aumentar a conscientização e a educação dos funcionários, clientes e usuários sobre as melhores práticas de segurança cibernética. “Fornecer recomendações, efetuar testes e simulações pode ser um caminho para melhorar as habilidades no reconhecimento de tentativas de ataques pelos usuários”.

O uso da IA nos processos de segurança implica também em outros cuidados, para além da tecnologia. Entre eles: 

Defesa em camadas: implementação de uma abordagem de defesa que combina métodos tradicionais de segurança com soluções de IA pode ajudar a identificar ameaças complexas.

Treinamento robusto: desenvolvimento constante de treinamentos com base em IA que preparam melhor suas equipes técnicas e reciclam os usuários com informações importantes de prevenção aos ataques direcionados aos mesmos.

Privacidade preservada: incorporação de técnicas de privacidade, como a aprendizagem federada, para proteger dados sensíveis durante o treinamento de modelos de IA.

Interpretabilidade: exploração de métodos que tornem os modelos de IA mais interpretáveis, permitindo entender como eles tomam decisões cruciais.

Desafios

Isso posto, não é de se estranhar que um estudo da Research and Markets tenha projetado um crescimento considerável do mercado global de segurança cibernética baseada em inteligência artificial (IA) até 2028, que deve atingir US$ 57,1 bilhões, representando uma taxa média de crescimento anual composto de 24,5% e um aumento de quase 600% em relação aos US$ 8,4 bilhões registrados em 2022.

Existem ainda, no entanto, uma série de desafios no campo da cibersegurança e IA a serem superados. O especialista da Akamai cita alguns dos temas que ainda são desafios para esse setor:

• Segurança do trabalho remoto e das forças de trabalho híbridas: “Com a pandemia do COVID-19, muitas empresas adotaram o modelo de trabalho remoto ou híbrido, o que aumentou a exposição a riscos cibernéticos. É preciso garantir a proteção dos dados e dos dispositivos dos funcionários que trabalham em casa ou em locais não controlados pela empresa. Utilizar soluções de acesso remoto seguras e monitorar estes acessos ajuda no controle. Implementar acesso remoto com múltipla camada de autenticação é, no mínimo, mandatório”. 

• Aumento nos ataques à cadeia de suprimentos: “Os ataques à cadeia de suprimentos são ataques cibernéticos que visam comprometer os fornecedores ou outros parceiros terceirizados de uma empresa, afetando sua infraestrutura, seus processos e seus dados. É preciso atenção aos ambientes de dados dos fornecedores e parceiros, evitando comprometimento dos dados compartilhados”.

• Evolução dos ataques de ransomware: “O ransomware é um tipo de malware que criptografa os dados de um dispositivo ou de uma rede e exige um resgate para liberá-los. Os ataques de ransomware estão se tornando mais frequentes, sofisticados e lucrativos, afetando empresas de todos os portes e setores. É preciso adotar técnicas de proteção e mitigação de eventuais ataques deste tipo. Utilizar soluções de micro segmentação pode ajudar bastante nesse processo”.

• Riscos associados ao 5G: “A quinta geração da tecnologia móvel (5G) promete oferecer maior velocidade, capacidade e conectividade para os dispositivos. Diversos projetos de IoT (Internet of Thinks - "Internet da coisas") tem sido implementados por inúmeras organizações, mas é importante entender que isso amplia a superfície de ataque destas organizações e, portanto, precisam ser implementadas técnicas de proteção e segurança nestes ambientes”.

• Tecnologia deepfake: “A tecnologia deepfake é uma técnica baseada em inteligência artificial que permite criar imagens, vídeos ou áudios falsos, mas realistas, de pessoas ou eventos. Essa tecnologia pode ser usada para fins maliciosos, como difamar, enganar, extorquir ou manipular pessoas ou organizações”.

• Problemas com pessoal: “Um dos maiores desafios da segurança cibernética é a falta de profissionais qualificados e capacitados para lidar com as ameaças e as demandas do setor. Além disso, o fator humano é muitas vezes o elo mais fraco da segurança cibernética, pois os usuários podem cometer erros ou negligências que facilitam os ataques cibernéticos. É preciso investir na formação de profissionais de segurança e na conscientização dos usuários”.

• Ataques a APIs: “As APIs são essenciais para a transformação digital, mas também podem ser alvos de ataques cibernéticos que visam explorar suas vulnerabilidades ou falhas. Boas práticas no desenvolvimento de APIs, testes, monitoramento e implementações de soluções específicas para este ambiente devem ser implementadas”.

A colaboração entre especialistas em IA e cibersegurança é essencial para desenvolver soluções robustas que garantam a integridade, confidencialidade e disponibilidade das tecnologias de IA em um ambiente digital em constante evolução. Por se tratar de um assunto tão recente, porém, ainda existem desafios e o melhor caminho para avançar nas discussões e experimentos é se conectar a uma rede de especialistas, como propõe o Web Security Hub, com o propósito de informar, trocar experiências, obter insights e aprender com a vivência dos demais membros. 

Já faz parte da nossa comunidade?