Regular inteligência artificial exige lidar com problemas que nem sempre aparecem integralmente no desenho de uma norma. Como um sistema utiliza dados pessoais, quais informações consegue revelar, onde surgem riscos de discriminação ou quais mecanismos de transparência funcionam melhor são questões que também dependem da forma como a tecnologia opera em situações concretas.
A Autoridade Nacional de Proteção de Dados (ANPD) está utilizando um sandbox regulatório justamente para aproximar essas duas dimensões. Desde março, três empresas participam de um projeto-piloto no qual soluções de inteligência artificial são desenvolvidas e testadas em um ambiente experimental, controlado e acompanhado pela Agência.
Em agosto, a ANPD acrescentou outra camada ao processo: reuniu representantes do poder público, empresas, academia e sociedade civil para discutir os desafios identificados e contribuir com o desenho do sandbox. A consulta abordou transparência e supervisão de sistemas de IA, anonimização e governança de dados, discriminação e impactos desproporcionais e possíveis lacunas regulatórias.
Ambiente supervisionado
Sandbox regulatório é um ambiente criado para que produtos, serviços ou tecnologias inovadoras possam ser experimentados por um determinado período, dentro de condições e limites estabelecidos pelo regulador.
A diferença em relação a um teste tecnológico comum está justamente na presença da autoridade. O objetivo não é apenas descobrir se a solução funciona, mas observar como ela se comporta diante de questões que interessam à regulação.
No piloto da ANPD, isso significa acompanhar sistemas de IA que tratam dados pessoais e analisar aspectos relacionados à Lei Geral de Proteção de Dados (LGPD). As participantes são Metatext, Synapse AI e Prevvine Tecnologia, com projetos que envolvem aplicações distintas de inteligência artificial, incluindo segurança de agentes de IA, gestão de fluxo de pessoas em transporte e tecnologia aplicada à saúde.
Essa diversidade permite observar problemas regulatórios em contextos diferentes. Uma solução que utiliza dados de mobilidade pode apresentar riscos distintos de um sistema voltado à área médica ou de uma plataforma que monitora agentes de inteligência artificial.
Riscos em teste
Os primeiros meses já ajudaram a identificar questões tecnológicas, jurídicas e operacionais relacionadas a governança, segurança, transparência e proteção de dados. Mas o estágio do projeto ainda precisa ser considerado: o primeiro ciclo foi dedicado principalmente à preparação dos ambientes e das metodologias, sem testagem plena das soluções.
Nos próximos ciclos, a ANPD pretende aprofundar temas como segurança digital, governança de dados, anonimização, transparência e produção de evidências. O primeiro relatório também apontou necessidades de melhoria na comunicação entre os participantes e no protocolo utilizado para dados sintéticos.
Esse processo ajuda a mostrar por que um sandbox pode ser útil para tecnologias em rápida evolução. Uma obrigação de transparência, por exemplo, pode parecer adequada quando descrita em termos gerais. Sua aplicação concreta pode revelar que determinado tipo de informação não é compreensível para o usuário, não permite reconstruir o funcionamento do sistema ou não atende aos riscos específicos daquela aplicação.
O mesmo raciocínio vale para anonimização, supervisão humana ou prevenção de discriminação. O teste permite observar não apenas se existe uma salvaguarda declarada, mas como ela funciona e quais limitações aparecem durante sua aplicação.
Aprendizado regulatório
O principal produto de um sandbox não é necessariamente a aprovação da tecnologia testada. É o conhecimento produzido durante a experimentação.
Para as empresas, o ambiente permite discutir com o regulador dúvidas e riscos que surgem durante o desenvolvimento. Para a ANPD, fornece evidências sobre como determinadas tecnologias tratam dados, quais controles funcionam, quais problemas se repetem e onde podem existir lacunas ou necessidade de orientações mais claras.
A consulta multissetorial amplia essa lógica ao incluir perspectivas externas ao grupo diretamente envolvido nos testes. A primeira rodada reuniu especialistas e representantes de diferentes setores; uma segunda consulta, ainda sem data definida, deverá ouvir agentes reguladores.
Esse componente é particularmente relevante em inteligência artificial porque vários riscos atravessam competências institucionais. Proteção de dados pode se encontrar com relações de consumo, saúde, serviços financeiros, concorrência ou políticas públicas. Uma resposta regulatória pode depender, portanto, de coordenação entre autoridades e de entendimento comum sobre responsabilidades.
O sandbox também não elimina a necessidade de regras gerais. Seu papel é produzir evidências que possam tornar essas regras, orientações e mecanismos de supervisão mais aderentes aos problemas observados.
A experiência da ANPD aponta para uma mudança relevante na própria capacidade regulatória do Estado. Em tecnologias que evoluem rapidamente, regular não significa apenas definir previamente o que pode ou não ser feito. Significa também criar mecanismos para observar aplicações, testar salvaguardas, documentar riscos e incorporar esse aprendizado às decisões futuras.
Nesse sentido, o regulador continua estabelecendo limites — mas também passa a construir instrumentos para aprender com a tecnologia enquanto ela se desenvolve.
Informação confiável qualifica conversas e decisões.
» Compartilhe nosso conteúdo e ajude a transformar conhecimento em ação.
📲 Siga a gente também nas redes sociais!
