Vigilância ou valor: o legado ético que a liderança de TI não pode mais ignorar

Nós, líderes de tecnologia, passamos a última década como arquitetos de uma revolução silenciosa. A transformação digital, antes um projeto, tornou-se o ar que respiramos. Celebramos cada migração bem-sucedida, cada processo otimizado, cada inovação disruptiva. Mas, no ritmo frenético do progresso, uma pergunta incômoda começou a ecoar nos corredores de nossas organizações: ao construir este novo mundo digital, que tipo de sociedade estamos, de fato, edificando?

Essa questão deixou de ser um sussurro para se tornar um clamor durante um recente painel na EmTech Brasil, da MIT Technology Review, do qual tive a oportunidade de participar. Naquele palco, o debate transcendeu o código e mergulhou na consciência. A conclusão que emergiu da discussão foi unânime e alarmante: a privacidade de dados não é um anexo regulatório na agenda do DPO. É a arena onde se define a confiança, a inovação e o próprio conceito de cidadania. É a escolha estratégica que definirá nosso legado.

Leia também: O poder invisível do prompting: quando clareza vira inteligência aplicada

Vivemos um paradoxo profundo: a mesma tecnologia que nos conecta e empodera é a espinha dorsal de um sistema de vigilância de alcance sem precedentes. Como argumento em meu livro “CIO 5.0“, o desafio não é resistir à tecnologia, mas dominá-la com um propósito ético. Para isso, precisamos encarar a arquitetura da hipervigilância, que se ergue sobre três pilares cada vez mais sólidos:

1. A vigilância estatal: com a justificativa da segurança e da eficiência, governos ao redor do mundo expandem sua capacidade de monitoramento, muitas vezes erodindo as fronteiras dos direitos fundamentais. Essa vigilância, quando não é balizada por uma governança robusta, cria uma tensão que corrói as fundações do contrato social entre o Estado e o cidadão.
2. O capitalismo de vigilância: este é o motor econômico da internet. Um mercado trilionário que não negocia cliques, mas certezas. O produto não são nossos dados, mas previsões sobre nosso comportamento futuro, leiloadas em tempo real. Quando uma organização — pública ou privada — adota plataformas comerciais sem um escrutínio rigoroso, ela está, conscientemente ou não, submetendo seus stakeholders a essa lógica extrativista.
3. A vigilância social e corporativa: com bilhões de dispositivos IoT conectando nossos lares, cidades e locais de trabalho, criamos uma malha digital que dissolve a distinção entre público e privado. Sensores que medem a produtividade, câmeras com reconhecimento facial e assistentes virtuais que ouvem passivamente transformam a vida cotidiana em um fluxo ininterrupto de dados. Como essa fusão entre o físico e o digital moldará a autonomia e a liberdade individual?

Essa arquitetura está longe de ser uma abstração filosófica, pois suas consequências se manifestam como riscos operacionais, reputacionais e financeiros diretos para qualquer organização. Por dentro, ela promove a asfixia da inovação. A criatividade, que depende de segurança psicológica para florescer, murcha sob o olhar constante da vigilância, gerando o conhecido “efeito resfriador”: um medo sutil de errar, discordar ou ousar que leva as equipes a pararem de experimentar. O resultado não é a obediência produtiva, mas a estagnação, que em um mercado volátil, significa a perda de relevância.

Por fora, essa mesma lógica causa a erosão da confiança, a moeda mais valiosa da economia digital. Uma vez que algoritmos podem ser usados para criar bolhas de desinformação e manipular percepções, essa moeda se desvaloriza a cada interação, transformando a desconfiança de um único cliente ou cidadão em uma falha estrutural que abala todo o ecossistema.

No cerne dessa desconfiança, encontramos a sua causa mais alarmante: a automatização do preconceito. A nobre promessa da IA de eliminar o viés humano se converte em um pesadelo ético quando seus algoritmos, treinados com dados históricos, dão aos nossos preconceitos a velocidade e a escala da Lei de Moore. Seja na negação de um crédito, na seleção de um currículo ou no acesso a um serviço, a máquina aprende e amplifica nossas falhas.

Diante disso, a pergunta é inevitável: estamos preparados para assumir a responsabilidade por decisões algorítmicas que podem excluir e marginalizar?

A inércia é cumplicidade. A resposta exige que a liderança de TI assuma uma nova postura, um protagonismo ético baseado em três pilares de ação:

1. Governança como ativismo: a LGPD é o ponto de partida, não a linha de chegada. Precisamos liderar a implementação de privacy by design como um princípio cultural, não como uma obrigação. Isso significa auditar nossos algoritmos com o mesmo rigor com que auditamos nossas finanças e exigir transparência radical de toda a nossa cadeia de fornecedores de tecnologia.
2. Tecnologia como escudo protetor: a mesma engenhosidade que criou o problema pode e deve criar a solução. Tecnologias de Aprimoramento de Privacidade (PETs) — como Identidade Soberana, Criptografia Homomórfica e Computação Multipartidária Segura — representam a fronteira da inovação responsável. Elas nos permitem construir uma terceira via: serviços digitais inteligentes que geram valor sem exigir a privacidade como pagamento.
3. Cidadania digital como defesa: nossa mais forte linha de defesa é uma cultura de consciência crítica. Nosso papel como líderes se expande para o de educadores. Precisamos capacitar nossas equipes e clientes a entenderem os “porquês” por trás da coleta de dados, fomentando “anticorpos digitais” contra a manipulação e o uso indevido.

Estamos em uma encruzilhada. O caminho que escolhermos agora definirá o caráter da sociedade digital pelas próximas décadas. A questão que se impõe em cada reunião de planejamento, em cada RFP e em cada linha de código não é mais apenas “isso funciona?”, mas “para quem isso funciona?”. A tecnologia que promovemos trata as pessoas como cidadãos a serem empoderados ou como produtos a serem explorados? A resposta a essa pergunta será o nosso verdadeiro legado.

Convido você, líder, a refletir sobre como sua organização pode se preparar para essa nova era de responsabilidade. O futuro da tecnologia não será definido pelo poder dos processadores, mas pela força de nossos princípios.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!