USP aponta falta de auditoria independente em algoritmos usados pelo poder público
Pesquisadores da Universidade de São Paulo (USP) apontam a ausência de mecanismos de auditoria independente nos algoritmos utilizados pelo poder público. O levantamento, publicado pelo Jornal da USP, compara a situação dos sistemas automatizados do governo com a fiscalização que existe nos sorteios das loterias federais.
O protocolo das loterias da Caixa Econômica Federal prevê inspeção de equipamentos e globos antes e depois de cada extração, com a presença de auditores independentes e transmissão ao vivo pelos canais digitais da instituição. Qualquer irregularidade identificada interrompe o sorteio imediatamente. Segundo os pesquisadores, essa transparência física não encontra equivalente quando o tema é tecnologia.
A lacuna de fiscalização ganha peso na medida em que algoritmos passam a decidir questões essenciais, como a seleção de beneficiários de programas sociais e a gestão de serviços públicos. De acordo com o estudo, existe o risco de um agente público reproduzir uma recomendação algorítmica sem que haja validação externa equivalente à dos concursos das loterias, o que deixa o resultado final sem checagem de terceiros, ainda que o sistema seja considerado confiável.
A auditoria proposta pelos pesquisadores não exige que órgãos públicos ou empresas revelem o código-fonte de seus sistemas. O objetivo central é estabelecer mecanismos independentes capazes de avaliar o impacto e os riscos das decisões tomadas por essas linhas de código.
No setor de apostas online, o modelo de transparência adotado segue outro formato. Empresas do mercado, como a KTO, divulgam mensalmente dados sobre o comportamento de jogadores e informações dos geradores de números aleatórios (RNG), buscando comprovar tecnicamente que os resultados são imparciais. A diferença entre os modelos reflete a complexidade de certificar plataformas digitais, enquanto as loterias federais mantêm a conferência presencial e visível.
O debate também alcançou o Legislativo. Tramitam projetos de lei que discutem a certificação de plataformas de jogos de azar online, na tentativa de regulamentar a confiabilidade das operações digitais. O impasse central para o poder público, segundo o levantamento, está em criar regras que permitam fiscalizar sistemas automatizados sem comprometer a segurança tecnológica, garantindo que a tecnologia sirva como apoio à decisão, e não como uma caixa-preta sem controle.
Principais informações
- Pesquisadores da USP alertam para a falta de auditoria independente nos algoritmos do poder público.
- Os sorteios das loterias da Caixa têm inspeção de equipamentos, auditores independentes e transmissão ao vivo, modelo sem equivalente na área de tecnologia.
- Algoritmos já decidem questões como seleção de beneficiários de programas sociais e gestão de serviços públicos.
- A auditoria proposta não exige revelação do código-fonte, mas mecanismos externos para avaliar impacto e riscos.
- Projetos de lei em tramitação discutem a certificação de plataformas de jogos online.
