Claudio Bannwart Independente da sua mentalidade sobre IA, precisamos reconhecer que estamos vivendo um momento especial. As gerações futuras olharão para trás, para o nosso agora, e julgarão a nossa abordagem. A GenAI tem apenas alguns anos, a IA agêntica agora está emergindo, e as ondas disruptivas de inovação em relação à inteligência artificial provavelmente […]
Claudio Bannwart
Independente da sua mentalidade sobre IA, precisamos reconhecer que estamos vivendo um momento especial. As gerações futuras olharão para trás, para o nosso agora, e julgarão a nossa abordagem. A GenAI tem apenas alguns anos, a IA agêntica agora está emergindo, e as ondas disruptivas de inovação em relação à inteligência artificial provavelmente se tornarão uma constante. As empresas precisam se preparar, pois a capacidade de lidar com essas mudanças será uma vantagem competitiva fundamental para os negócios.
Mas, embora a adoção claramente traga enormes oportunidades, o veredicto sobre a IA como uma bênção ou uma maldição dependerá da nossa capacidade de mitigar riscos e manter o controle.
Leia também: Brasil supera média mundial em adoção de agentes de IA nas empresas
Usamos sistemas de machine learning há algum tempo, mas os LLMs (modelos de linguagem grande) foram a primeira iteração a oferecer uma interface adequada entre humano e IA tornando a tecnologia muito mais tangível, acessível e útil para todos.
Seu uso generalizado e os primeiros incidentes cibernéticos corporativos geraram alertas sobre os riscos da genAI, empurrando a discussão sobre segurança de IA dos departamentos de TI diretamente para a diretoria da maioria das empresas, e por bons motivos.
Um relatório recente do Netskope Threat Labs revela que funcionários em todo o mundo carregaram trinta vezes mais dados em LLMs em 2024 quando comparados com 2023, incluindo dados confidenciais como código-fonte, dados regulamentados, senhas e chaves, e propriedade intelectual. O mesmo relatório destaca a ascensão da IA paralela (Shadow AI): 72% dos funcionários estão usando aplicações genAI no trabalho por meio de contas pessoais.
As empresas começaram a lidar com os riscos da genAI, mas a IA agêntica revela diferentes vetores de risco. O principal diferencial deste modelo é a capacidade de gerenciar completamente processos e fluxos de trabalho. Enquanto a genAI é um copiloto que ajuda apenas quando solicitado, a IA agêntica se assemelha mais a um colega de trabalho que gerenciará processos de forma autônoma. O Gartner prevê que, até 2028, 33% das aplicações de software corporativo terão IA agêntica incorporada, permitindo que 15% das decisões de trabalho diárias sejam tomadas de forma autônoma.
Assim como acontece com outras novas tecnologias, os invasores tentarão se aproveitar e prejudicar as IAs agênticas, o que pode ter repercussões devastadoras para as empresas se essas ferramentas dominarem completamente os processos e fluxos de trabalho. As equipes de segurança precisarão analisar os padrões de segurança e proteção de dados dos provedores de IA agêntica e garantir que sua cadeia de suprimentos esteja segura – o que pode ser complexo se vários fornecedores estiverem envolvidos ou se envolver modelos de código aberto. Também será necessário definir as proteções de segurança, de dados e privilégios de acesso que precisam ser implementadas em torno desses agentes de IA, da mesma forma como fariam para novos funcionários. Isso serve para evitar excesso de permissões, violações nas políticas de segurança e de dados e potenciais incidentes.
Com as ondas sucessivas de inovação e a adoção de IA, provavelmente surgirão problemas de segurança em um ritmo acelerado, dificultando o acompanhamento das equipes de segurança. Adicionar soluções de segurança personalizadas para cada risco emergente não é uma abordagem adequada para a escala de inovação que esperamos encontrar.
As empresas já têm muitas ferramentas de segurança para gerenciar, o que é impraticável e nada econômico. Além das dores de cabeça com o licenciamento, integrar adequadamente as ferramentas de segurança individuais e garantir que funcionem em uníssono é um desafio significativo. Ou seja, os benefícios da segurança unificada ficam fora de alcance.
Diante da proliferação de ferramentas de segurança nos últimos anos, as empresas iniciaram projetos de consolidação, substituindo soluções pontuais legadas por plataformas de segurança maiores. Um estudo recente da Forrester sobre o impacto econômico do Security Service Edge (SSE), um modelo moderno para plataformas de segurança, concluiu que as organizações poderiam economizar US$ 5,4 milhões em três anos, em média, ao consolidar a infraestrutura de segurança de redes. Benefícios adicionais incluem redução de 80% no risco de violações graves e diminuição de 50% no tempo de resolução de problemas. Essas plataformas fornecem proteção e segurança de dados unificadas para mitigar uma ampla gama de riscos e evoluem constantemente à medida que novas ameaças cibernéticas e regulamentações surgem, garantindo que a conformidade e a segurança permaneçam relevantes ao longo do tempo.
É fundamental levar em conta que as plataformas de segurança não são todas criadas iguais. A arquitetura importa e, embora algumas plataformas tenham realmente desenvolvido e integrado ferramentas de segurança na mesma estrutura, algumas estão apenas “costurando” soluções juntas ou são arquitetadas de uma forma que provavelmente exigirá que os usuários escolham entre comprometer segurança ou experiência.
As equipes de segurança que iniciam projetos de consolidação de olho na inovação e em riscos futuros precisam incluir uma avaliação da arquitetura e da funcionalidade da plataforma. Isso ajudará a garantir que as soluções atuais não se tornem um Frankenstein criado com recursos e produtos pontuais em um cenário que muda constantemente.
A segurança da IA é, sem dúvida, o desafio que atualmente tira o sono da maioria dos CISOs. Ondas implacáveis de inovação em IA, junto com outros desenvolvimentos, como a computação quântica, colocarão as equipes de segurança sob crescente pressão para acompanhar a rápida evolução das ameaças. Uma mudança completa na mentalidade e abordagem de segurança será fundamental para os líderes que não quiserem correr atrás do prejuízo.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
