Ministra Edilene Lobo debate sobre racismo algorítmico
A primeira magistrada negra da história do Tribunal Superior Eleitoral (TSE), ministra Edilene Lobo, participou do Seminário “Construindo a Defensoria do Futuro”, promovido pela Escola Superior da Defensoria Pública do Ceará, com uma palestra intitulada “Defensoria Pública, Inteligência Artificial e a (des)estruturação das injustiças”. Durante sua fala, reforçou que os sistemas algorítmicos utilizados pela inteligência artificial reproduzem o padrão excludente presente na sociedade brasileira. Também participaram do debate, a diretora da Escola Superior (ESDP), defensora Amélia Rocha e o defensor público titular em Sobral, Igor Barreto.
No livro “Direitos fundamentais e inteligência artificial: reflexões sobre os impactos das decisões automatizadas”, lançado em dezembro de 2024, Edilene Lobo aborda o tema de racismo algorítmico, que, segundo ela, tem se manifestado de forma cada vez rápido e forma mais violenta no mundo digital, em um fenômeno que transcende fronteiras, tornando-se desterritorializado.
Ao falar sobre a aplicação da tecnologia no direito, Edilene Lobo alertou para o fato de que as desigualdades sociais se reproduzem nesses sistemas. “A tecnologia também não é amigável às pessoas negras, muito menos às mulheres”, afirmou, explicando que a linguagem excludente reflete a forma como os algoritmos são desenvolvidos, seguindo modelos e padrões pré-estabelecidos pelos seus criadores. Ela destacou ainda que, no sistema de justiça, a participação de mulheres na elaboração dessas tecnologias é limitada, pois muitas vezes há a ideia de que “mulher não se interessa por isso”
Para a magistrada, há um grande risco na utilização de decisões judiciais baseadas exclusivamente em sistemas automatizados, como o ChatGPT, uma vez que essas máquinas não possuem inteligência natural para refletir, raciocinar ou pensar no futuro. “Elas trabalham com dados para encontrar respostas. Se nos dados que elas consultam não há uma resposta, elas inventam uma”, alertou. Ela reforçou a importância de desenvolver e utilizar sistemas tecnológicos que tenham a cara da realidade brasileira, com o objetivo de promover a justiça social.
A diretora da Escola Superior da Defensoria Pública do Ceará, defensora Amélia Rocha, destacou a relevância do tema para o futuro da instituição. “A ministra Edilene Lobo tem uma história que se confunde com a luta contra as injustiças no Brasil. É uma imensa alegria poder compartilhar seu saber técnico e humano conosco, para que possamos fortalecer cada vez mais a nossa atuação”, afirmou.
