A inteligência artificial pode ajudar a identificar criminosos, mas também pode cometer erros capazes de levar pessoas inocentes à prisão. E os riscos não são iguais para todos. Um levantamento realizado em 2019 pelo Centro de Estudos de Segurança e Cidadania (CESeC) revelou que cerca de 90% das pessoas presas a partir do uso de reconhecimento facial nos casos analisados eram negras. O dado não significa que todas essas prisões tenham sido equivocadas, mas evidencia a preocupação com possíveis desigualdades raciais na utilização da tecnologia.
O problema também aparece em pesquisas internacionais. Um estudo publicado pelo Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST), em 2019, identificou que determinados algoritmos de reconhecimento facial apresentavam taxas de falsos positivos de 10 a 100 vezes maiores para rostos de pessoas negras e asiáticas em comparação com pessoas brancas, dependendo do sistema analisado. Diferenças também foram observadas para populações indígenas. Os resultados variam conforme o algoritmo e a modalidade de reconhecimento utilizada.
Esses números ajudam a dimensionar uma questão cada vez mais presente na segurança pública e no sistema de Justiça: até que ponto é possível confiar em uma identificação realizada por inteligência artificial quando a liberdade de uma pessoa está em jogo?
Evento na OAB Londrina debate o tema
Para discutir os riscos jurídicos e sociais dessas tecnologias, a OAB Londrina promove, no dia 12 de novembro, às 19h, o evento “Inteligência Artificial, Racismo Algorítmico e Justiça Criminal”, com a participação do juiz de Direito Carlos Eduardo da Silva Camillo, do Tribunal de Justiça da Bahia (TJBA). O encontro será realizado no Edifício Tuparandi, em Londrina, e integra as atividades alusivas ao Dia da Consciência Negra, celebrado em 20 de novembro.
Tecnologia avança e amplia preocupações
O uso do reconhecimento facial na segurança pública brasileira está em expansão. Segundo relatório divulgado em maio de 2025 pela Defensoria Pública da União (DPU), em parceria com o CESeC, o Brasil contabilizava, em abril daquele ano, 376 projetos ativos de reconhecimento facial, com potencial de atingir aproximadamente 83 milhões de pessoas, o equivalente a 41% da população brasileira.
O mesmo relatório chama a atenção para falhas na transparência dos sistemas, ausência de auditorias independentes e dificuldades para contestar identificações equivocadas.
Quando um algoritmo associa incorretamente o rosto de uma pessoa ao de um suspeito, o resultado pode desencadear abordagens policiais, investigações e até prisões indevidas, sobretudo quando não há procedimentos adequados de verificação.
Outro levantamento, realizado pela Defensoria Pública do Rio de Janeiro em conjunto com o Colégio Nacional de Defensores Públicos Gerais, identificou ao menos 90 prisões injustas relacionadas a reconhecimentos fotográficos equivocados entre 2012 e 2020. Entre os casos com informação racial disponível, 81% envolviam pessoas negras. Embora esse levantamento trate de reconhecimento fotográfico, e não exclusivamente de sistemas automatizados, ele reforça a importância de discutir a confiabilidade das identificações utilizadas em investigações criminais.
Como contestar uma identificação feita por inteligência artificial?
Além da discussão sobre discriminação racial, o encontro promovido pela OAB Londrina terá enfoque nos desafios enfrentados pela advocacia e pelo Poder Judiciário diante da utilização crescente de ferramentas automatizadas.
Como saber se um algoritmo apresentou um resultado confiável? Quais informações a defesa deve ter acesso para questionar uma identificação? Uma ferramenta tecnológica pode influenciar uma decisão judicial sem que seu funcionamento seja devidamente compreendido?
Essas são algumas das questões que estarão em debate, incluindo temas como transparência algorítmica, produção de provas, direito de defesa, presunção de inocência e proteção dos direitos fundamentais.
A discussão também abordará o chamado racismo algorítmico, que ocorre quando sistemas automatizados reproduzem ou ampliam desigualdades raciais, seja pelos dados utilizados em seu desenvolvimento, seja pelas condições em que são aplicados.
Debate integra o mês da Consciência Negra
O evento contará com a participação de Carlos Eduardo da Silva Camillo, juiz do Tribunal de Justiça da Bahia, com especialização em Direito Público e Direito Digital. O magistrado também atua como professor na Escola da Magistratura da Bahia (EMAB) e na Universidade Corporativa do TJBA.
A iniciativa é promovida pela Comissão da Igualdade Racial da OAB Londrina, com a participação das Comissões da Advocacia Criminal e de Inteligência Artificial e Direito Digital, do Núcleo de Estudos Afro-Brasileiros da Universidade Estadual de Londrina (UEL) e do Conselho Municipal de Promoção da Igualdade Racial (CMPIR).
Realizado durante o mês da Consciência Negra, o encontro pretende ampliar a discussão sobre o enfrentamento do racismo no ambiente tecnológico e contribuir para que a utilização da inteligência artificial na Justiça seja acompanhada de transparência, fiscalização e respeito às garantias constitucionais.
A programação é aberta à advocacia, estudantes, pesquisadores, profissionais do Direito e demais interessados no tema.
Serviço
Evento: Inteligência Artificial, Racismo Algorítmico e Justiça Criminal
Data: 12 de novembro de 2026 (quinta-feira)
Horário: Das 19h às 22h
Local: Edifício Tuparandi – Rua Professor João Cândido, 344, Centro, Londrina (PR)
Palestrante: Carlos Eduardo da Silva Camillo, juiz de Direito do Tribunal de Justiça da Bahia
Investimento:
• Advocacia e público em geral: R$ 40
• Possibilidade de utilização do programa Anuidade Vira Crédito pela advocacia
Inscrições: https://eventos.oabpr.org.br/iaracismoalgoritimo
Realização: OAB Londrina, por meio da Comissão da Igualdade Racial, com a participação das Comissões da Advocacia Criminal e de Inteligência Artificial e Direito Digital, do Núcleo de Estudos Afro-Brasileiros da UEL e do Conselho Municipal de Promoção da Igualdade Racial (CMPIR).
