O que é Governança Algorítmica e por que ela importa?
A Governança Algorítmica deixou de ser um conceito acadêmico e passou a integrar o cotidiano das instituições. Hoje, algoritmos operam nos bastidores de tribunais, planos de saúde, concessão de crédito e serviços públicos. Embora muitas dessas decisões pareçam técnicas, elas carregam impacto direto sobre direitos fundamentais.
No episódio do PG On Air, João Paulo Braune Guerra conversa com Helena Secaf dos Santos, pesquisadora do InternetLab, para analisar como sistemas automatizados estão redesenhando o exercício do poder. Afinal, quando decisões passam a ser mediadas por algoritmos, surge uma questão central: quem controla essas máquinas?
Opacidade, vieses e riscos institucionais da Governança Algorítmica
Um dos principais desafios da Governança Algorítmica é a chamada “opacidade algorítmica”. Muitas vezes, nem mesmo os desenvolvedores conseguem explicar plenamente como determinado resultado foi produzido. Além disso, algoritmos treinados com grandes bases de dados podem reproduzir discriminações estatísticas existentes na sociedade.
Nesse contexto, decisões automatizadas em áreas sensíveis, como segurança pública ou saúde, exigem cautela. Por isso, o debate envolve não apenas tecnologia, mas também proteção de dados, accountability e responsabilidade institucional.
Compliance algorítmico e regulação no Brasil
Para mitigar riscos, organizações públicas e privadas precisam estruturar mecanismos de controle. Isso inclui auditorias técnicas, comitês de ética e avaliações de impacto. Além disso, a governança não deve se limitar ao resultado final. Ela precisa começar nos próprios dados de entrada.
O episódio também conecta o debate ao PL 2338/23, aos princípios da OCDE e aos modelos internacionais de avaliação de impacto. Assim, demonstra que a Governança Algorítmica exige uma abordagem interdisciplinar e preventiva.
O papel do profissional do Direito
Nesse cenário, advogados tornam-se mediadores entre tecnologia e direitos fundamentais. Mais do que compreender normas, precisam entender sistemas automatizados. Portanto, a Governança Algorítmica não é apenas um tema tecnológico — é uma agenda institucional decisiva para o futuro da democracia.
Assista Já ao Episódio Completo
Apresentação: João Paulo Braune Guerra (PGLaw)
Produção: Pocket Studio
Coordenação e Roteiro: Pedro Tonello e João Paulo Braune Guerra (PGLaw)