Injustiças algorítmicas: live discute falhas no sistema criminal

Na última sexta-feira (18.09), a Associação Data Privacy Brasil de Pesquisa organizou o webinário “Injustiça algorítmicas: uso de dados em prisões ilegais” em parceria com a Defensoria Pública do Estado do Rio de Janeiro. O evento baseou-se no relatório da Coordenadoria de Defesa Criminal de Defensoria que apontou erro em pelo menos 58 casos de reconhecimento fotográfico, que resultaram em acusações injustas e prisões de pessoas inocentes.

O evento contou com Nina da Hora, cientista da computação da PUC-Rio e autodenominada “hacker antirracista”, Pablo Nunes, coordenador adjunto do Centro de Estudos de Segurança e Cidadania (Cesec), Ricardo André Souza, Defensor Público do Estado do Rio de Janeiro e Brenda Cunha, pesquisadora da Associação Data Privacy Brasil de Pesquisa. A mediação foi de Rafael Zanatta, diretor da ONG.

No debate, Nina Da Hora destacou o desconhecimento da maioria das pessoas sobre como funciona o reconhecimento facial e as novas tecnologias de análise biométrica. “Temos um problema de educação tecnológica e isso atrapalha como vamos questionar e combater o caráter prejudicial de algumas dessas tecnologias”, sustentou Nina. “Esse assunto não pode ser discutido por um pequeno grupo”, afirmou.

Pablo Nunes ressaltou que centenas de prisões foram feitas com base em reconhecimento facial, com um caráter marcadamente pautado em raça. No estudo do Cesec, 90% das prisões eram de pessoas negras, com enfoque em tráfico de drogas e furto. “Em um país onde 78% das pessoas mortas por agentes de estado são negras isso importa muito”, disse Pablo. Nunes destacou o monitoramento feito pelo Cesec e o coletivo AqualtuneLab, formado um grupo de juristas negros e multidisciplinar, dedicado à intersecção entre direitos digitais e lutas antirracistas.

Brenda Cunha explicou as novas iniciativas de pesquisa da ONG na área de segurança pública e a importância de fazer pesquisa acadêmica e incidir na discussão pública feita pela Comissão Nacional de Juristas que se dedica a um anteprojeto de lei sobre proteção de dados pessoais, segurança pública e investigações criminais. “Precisamos definir melhor os conceitos e diminuir a confusão sobre as competências sobre segurança pública e investigações criminais”, concluiu Brenda.

O webinário faz parte do projeto “Novas fronteiras dos direitos digitais” lançado pela Associação Data Privacy Brasil de Pesquisa em 2020 e integra a linha de pesquisa “Poder público, segurança e dados” da ONG.