Racismo algorítmico: como a Inteligência Artificial pode reforçar desigualdades já existentes
Especialista explica por que sistemas de IA aprendem preconceitos presentes nos dados e alerta para impactos em processos seletivos, segurança pública e atendimento ao consumidor
Divulgação UNIASSELVI
O avanço da Inteligência Artificial tem ampliado discussões sobre ética e desigualdade, especialmente quando algoritmos repetem padrões históricos de discriminação. No Dia da Consciência Negra, comemorado neste 20 de novembro, a professora Greisse Moser, coordenadora dos cursos de Tecnologia da Informação da UNIASSELVI, explica como esse fenômeno ocorre e por que é conhecido como racismo algorítmico. Segundo a especialista, a ideia de neutralidade tecnológica não se sustenta diante da forma como os modelos aprendem. Greisse destaca que os sistemas são treinados com registros históricos que carregam desigualdades raciais. “A IA tem a capacidade de aprender e refletir as desigualdades e o racismo que já existem na nossa sociedade. Pense nela como um espelho extremamente poderoso e veloz. Você alimenta esse espelho com dados que já carregam preconceitos e ele devolve esses mesmos preconceitos na forma de decisões automatizadas”, afirma. Para ela, é justamente esse processo que define o racismo algorítmico. Os impactos aparecem em áreas sensíveis. No recrutamento profissional, sistemas podem reforçar perfis historicamente privilegiados. “Se, no passado, a liderança de uma empresa era composta quase exclusivamente por homens brancos, o algoritmo aprende a valorizar esse perfil. Candidatos negros, mesmo altamente qualificados, podem ser descartados automaticamente”, explica. Na segurança pública, Greisse lembra que modelos preditivos reproduzem ciclos de vigilância desproporcional em comunidades negras. Já em atendimentos automatizados, a baixa diversidade de dados pode prejudicar o reconhecimento de fala e gerar respostas de pior qualidade. Embora a consciência sobre o problema tenha crescido, a professora avalia que o preparo das empresas ainda é desigual. “Grandes empresas já investem em equipes de ética e maior transparência, mas muitas vezes a resposta é reativa. O cuidado ético precisa começar antes, no nível dos dados, que são a raiz do problema”, afirma. Ela reforça que diversidade nas equipes e auditorias contínuas são passos essenciais para reduzir danos. Na formação dos profissionais que atuarão na área, Greisse destaca o papel central das instituições de ensino. Para ela, cursos de Inteligência Artificial devem integrar técnica e ética desde o início. “A sala de aula se torna um espaço em que o estudante não aprende apenas algoritmos, mas desenvolve a capacidade de questionar os impactos reais que essas ferramentas têm na vida das pessoas”, afirma. Segundo a coordenadora, compreender a origem dos dados, avaliar representatividade e reconhecer possíveis efeitos discriminatórios são pontos indispensáveis para uma atuação responsável. Ao refletir sobre o Dia da Consciência Negra, Greisse reforça que o desenvolvimento de tecnologias deve considerar o compromisso com a equidade. “Os profissionais precisam se preparar para atuar de maneira cuidadosa, transparente e comprometida com a redução de danos, e não apenas com a eficiência do algoritmo”, conclui. Sobre a UNIASSELVI A UNIASSELVI é uma das mais conceituadas instituições de ensino superior do Brasil. Com uma oferta diversificada de mais de 500 cursos, que incluem Graduação, Pós-Graduação, Profissionalizantes e Técnicos, tanto na modalidade presencial quanto a distância (EAD), a instituição se destaca pela sua abrangência e qualidade educacional. Presente em todos os estados brasileiros, a UNIASSELVI conta com uma ampla rede de mais de 1,2 mil polos e mais de 16 unidades de ensino presencial. É reconhecida como a única instituição de grande porte nacional a receber nota máxima no Recredenciamento Institucional, concedido pelo Ministério da Educação (MEC). A missão da UNIASSELVI é fornecer os recursos e o suporte necessários para que os alunos construam suas próprias histórias e alcancem o sucesso acadêmico e profissional, promovendo assim o desenvolvimento pessoal e profissional de cada estudante. Notícia distribuída pela saladanoticia.com.br. A Plataforma e Veículo não são responsáveis pelo conteúdo publicado, estes são assumidos pelo Autor(a):
JOSE RENAN VALLIM
[email protected]
