Marco regulatório da inteligência artificial: impactos para empresas e sociedade

O Marco Regulatório da Inteligência Artificial (IA), recentemente aprovado pelo Senado Federal no dia 10 de dezembro, marca um momento histórico para a regulamentação dessa tecnologia no Brasil. O texto, agora em análise na Câmara dos Deputados, estabelece diretrizes que prometem moldar o desenvolvimento, uso e fiscalização de sistemas de IA, com foco na segurança, transparência e proteção dos direitos humanos. Sua aprovação final pode trazer implicações profundas para empresas e para a sociedade como um todo.

Classificação de riscos e restrições

Uma das principais inovações do marco é a classificação dos sistemas de IA em níveis de risco, que determina as obrigações regulatórias aplicáveis. Sistemas considerados de “risco excessivo” são proibidos, como é o caso de armas autônomas, técnicas subliminares de manipulação e ferramentas que exploram vulnerabilidades para causar danos. Ademais, o uso de câmeras para identificação em tempo real em espaços públicos está restrito a situações legais específicas, como buscas judiciais. Essas medidas refletem a preocupação em proteger os direitos fundamentais e evitar danos irreparáveis, especialmente para os mais vulneráveis.

Obrigações para sistemas de alto risco

Sistemas de alto risco, como os empregados em diagnósticos médicos, veículos autônomos ou controle de infraestruturas essenciais, estão sujeitos a requisitos mais rigorosos. Para atender a essas exigências, as empresas devem adotar as seguintes práticas:

1. Realização de Avaliações de Impacto Algorítmico: As empresas devem formar equipes multidisciplinares com expertise técnica, jurídica e ética para conduzir essas avaliações. O processo envolve mapear potenciais impactos negativos, identificar vulnerabilidades e propor soluções concretas para mitigar riscos. A documentação dessas análises deve ser detalhada e submetida às autoridades competentes.
2. Implementação de Estruturas de Governança: Para atender às exigências de governança, é fundamental estabelecer comitês internos que supervisionem o uso e desenvolvimento de IA. Esses comitês devem revisar periodicamente os sistemas, identificar potenciais desvios e garantir que os sistemas operem de acordo com os padrões éticos e legais. Além disso, investir em ferramentas para monitorar vieses e desempenho do sistema é indispensável.
3. Comunicação e Resolução de Incidentes: Desenvolver protocolos para identificar rapidamente falhas nos sistemas e notificar as autoridades e partes afetadas de forma eficiente. Isso pode incluir a criação de canais internos dedicados à detecção e reporte de incidentes, bem como treinamento para os colaboradores em gestão de crises tecnológicas.
4. Documentação Rigorosa: Empresas devem registrar todas as etapas de desenvolvimento e operação de sistemas de IA. Esse registro inclui testes de confiabilidade, segurança e resultados, garantindo transparência e facilitando auditorias futuras.

IA generativa e de propósito geral

Outro aspecto relevante são as obrigações impostas a sistemas de IA generativa e de propósito geral, amplamente usados para criar textos, imagens e vídeos sintéticos. Esses sistemas devem passar por avaliações preliminares de risco antes de serem disponibilizados ao público, assegurando a proteção da liberdade de expressão e a integridade da informação. Para atender a essas obrigações:

1. Identificação de Conteúdos Sintéticos: Desenvolver tecnologias ou protocolos que garantam a marcação clara de conteúdos gerados, como a inclusão de metadados ou selos digitais visíveis ao público.
2. Gestão Ambiental: Reduzir o impacto ambiental dos sistemas através do uso de data centers energeticamente eficientes e priorizando algoritmos de menor consumo computacional. Realizar auditorias ambientais regulares pode ajudar a assegurar conformidade.
3. Treinamento Ético de Modelos: Adotar práticas de curadoria de dados para treinamento que evitem preconceitos e violações de direitos autorais. Implementar revisões regulares do impacto social e ético dos modelos treinados.

Propriedade intelectual e direitos autorais

No campo da propriedade intelectual, o marco legal garante a proteção de direitos autorais em sistemas de IA. Para cumprir essas regras, as empresas podem:

1. Estabelecer Acordos de Licenciamento: Firmar contratos claros para o uso de obras protegidas, garantindo remuneração justa aos titulares de direitos autorais.
2. Auditorias de Conformidade: Implementar mecanismos internos para verificar se as obras utilizadas nos sistemas foram adquiridas de forma legítima e estão em conformidade com os limites legais estabelecidos.
3. Respeito à Personalidade: Obter consentimento expresso para o uso de imagens e vozes de indivíduos em sistemas de IA, protegendo a privacidade e a dignidade dos envolvidos. Criar políticas claras para o armazenamento e descarte desses dados pode reforçar a proteção.

Direitos fundamentais dos indivíduos afetados

O marco também introduz direitos fundamentais para indivíduos afetados por sistemas de IA. Para garantir o cumprimento desses direitos, as empresas podem:

1. Promover Transparência: Desenvolver interfaces amigáveis que informem aos usuários quando estão interagindo com sistemas automatizados, detalhando como suas decisões são tomadas e quais dados são utilizados.
2. Garantir Revisões Humanas: Estabelecer equipes de revisão capazes de avaliar decisões automatizadas em tempo hábil e, se necessário, reverter ou corrigir impactos negativos.
3. Monitorar e Corrigir Vieses: Implementar ferramentas para identificar e corrigir vieses discriminatórios em sistemas de IA, assegurando que eles sejam acessíveis e equitativos para todos os usuários.

Fiscalização e penalidades

Para garantir a implementação eficaz dessas normas, o Sistema Nacional de Regulação e Governança de Inteligência Artificial será liderado pela Autoridade Nacional de Proteção de Dados (ANPD). A fiscalização incluirá avaliações de conformidade, certificação de sistemas e aplicação de sanções, como multas que podem chegar a R$ 50 milhões ou 2% do faturamento bruto. Infrações graves também podem levar à suspensão ou proibição de operações, além de impactar negativamente a reputação das empresas.

Considerações finais

O Marco Regulatório da Inteligência Artificial ainda tem um caminho a percorrer antes de se tornar lei. Após a aprovação no Senado, o texto segue para a Câmara dos Deputados, onde poderá ser debatido, alterado ou aprovado em sua totalidade. Caso haja mudanças significativas, o projeto retorna ao Senado para nova votação. Se aprovado sem emendas substanciais, será enviado à sanção presidencial.

No processo de sanção, o Presidente da República pode aprovar integralmente o texto, vetar parcialmente dispositivos que julgar inadequados ou vetar o projeto em sua totalidade. Em caso de vetos, o Congresso Nacional terá a prerrogativa de analisar e, se necessário, derrubar os vetos para assegurar a implementação do texto original.

Leia mais: Governança de IA nas empresas: estruturação e implementação de ações práticas

Além disso, mesmo após sancionado, o Marco Regulatório dependerá de regulamentações complementares, que serão elaboradas por órgãos competentes como a ANPD e outros ministérios. Esses regulamentos detalharão aspectos técnicos, como a classificação de riscos, as exigências de avaliação de impacto e os critérios para certificação de sistemas de IA.

Esse processo ressalta a complexidade e a importância do Marco Regulatório, que visa estabelecer um equilíbrio entre inovação e proteção de direitos fundamentais. A efetiva implementação dependerá não apenas de sua aprovação legislativa, mas também do engajamento ativo de empresas, reguladores e da sociedade civil para assegurar que a inteligência artificial seja utilizada de forma ética, segura e benéfica para todos.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!