# data[].attributes.body
O racismo algorítmico refere-se à discriminação que ocorre quando sistemas de inteligência artificial (IA) e algoritmos reproduzem ou amplificam preconceitos raciais presentes na sociedade. Embora esses sistemas sejam projetados para serem imparciais, eles muitas vezes aprendem com dados históricos que contêm viéses, refletindo desigualdades estruturais. Isso pode levar a decisões injustas em áreas como emprego, educação, saúde, justiça criminal e até nas redes sociais, afetando negativamente a vida de indivíduos de minorias raciais. Com a crescente dependência dessas tecnologias, é crucial entender e combater o racismo algorítmico para garantir que as ferramentas digitais promovam igualdade e justiça para todos.

A seguir, veremos algumas reportagens e notícias que abordam o impacto do racismo algorítmico em diferentes áreas da sociedade:

# data[].attributes.headline
Reconhecimento Facial e Identificação Errada

# data[].attributes.subject
Reconhecimento Facial e Identificação Errada

# data[].attributes.body
Relato do NIST (Instituto Nacional de Padrões e Tecnologia dos EUA): Um estudo mostrou que sistemas de reconhecimento facial possuem taxas de erro significativamente mais altas para pessoas negras e de outras etnias não brancas. Em um caso, Robert Julian-Borchak Williams, um homem negro de Detroit, foi injustamente preso após ser identificado erroneamente por um sistema de reconhecimento facial. Esse erro foi atribuído à baixa precisão da tecnologia para identificar pessoas negras, gerando questionamentos sobre o uso desse tipo de IA em segurança pública.

https://www.technologyreview.com/2021/04/14/1022676/robert-williams-facial-recognition-lawsuit-aclu-detroit-police/

# data[].attributes.body
Amazon e o sistema de IA de recrutamento: Em 2018, a Amazon abandonou um sistema de recrutamento automatizado após descobrir que ele tendia a desvalorizar currículos que mencionavam termos ligados ao gênero feminino, como "escola de mulheres". Embora o viés de gênero tenha sido o foco principal, estudos posteriores mostraram que esse tipo de algoritmo pode também incorporar preconceitos raciais, favorecendo candidatos com perfis historicamente associados a grupos privilegiados, em detrimento de minorias.

https://forbes.com.br/negocios/2018/10/amazon-desiste-de-ferramenta-secreta-de-recrutamento/

# data[].attributes.attachment_link.title
Amazon desiste de ferramenta secreta de recrutamento

# data[].attributes.attachment_link.description
Sistema automatizado mostrou viés contra as mulheres . Leia na íntegra na Forbes Brasil.

# data[].attributes.body
Relatos de candidatos marginalizados: Muitos candidatos negros e latinos relataram que sistemas de triagem de currículos, como aqueles usados pelo LinkedIn e outras plataformas de emprego, raramente selecionam seus perfis, mesmo quando as qualificações são semelhantes às de candidatos brancos. Isso sugere um viés nos algoritmos que favorecem padrões de carreira e educação associados a grupos majoritários.

https://www.infomoney.com.br/business/global/o-que-pesquisadores-descobriram-ao-enviar-80-mil-curriculos-falsos-para-empresas/

# data[].attributes.attachment_link.authors[].name
Claire Cain Miller e Josh Katz, The New York Times

# data[].attributes.attachment_link.title
O que pesquisadores descobriram ao enviar 80 mil currículos falsos para empresas

# data[].attributes.attachment_link.description
Empregadores contatavam os candidatos brancos fictícios com uma frequência 9,5% maior do que os candidatos negros fictícios.

# data[].attributes.headline
Redes Sociais e Sombreamento Algorítmico (Shadowbanning)

# data[].attributes.subject
Redes Sociais e Sombreamento Algorítmico (Shadowbanning)

# data[].attributes.body
Relatos no TikTok e Instagram: Criadores de conteúdo negros relatam frequentemente que suas postagens e hashtags relacionadas a questões raciais, como “Black Lives Matter” e outras, recebem menos visibilidade do que conteúdo semelhante publicado por criadores brancos. Esse fenômeno, conhecido como shadowbanning, faz com que publicações de criadores negros tenham menos engajamento, limitando sua visibilidade e potencial de crescimento. Por esse motivo foi criada a #MinhaVozImporta

https://newsroom.tiktok.com/pt-br/minhavozimporta

# data[].attributes.attachment_link.title
#MinhaVozImporta celebra histórias inclusivas no Mês da Consciência Negra

# data[].attributes.attachment_link.description
Durante o todo o mês, promoveremos transmissões, desafios e lives musicais buscando fortalecer a representatividade de criadores negros e avançar na implementação de ações de diversidade e inclusão e

# data[].attributes.body
Censura algorítmica: Durante as manifestações do Black Lives Matter em 2020, houve uma série de relatos de que publicações de ativistas e criadores de conteúdo negros foram marcadas ou ocultadas por algoritmos das redes sociais, supostamente por conterem "conteúdo sensível". O TikTok, por exemplo, foi criticado por diminuir a visibilidade de conteúdos de usuários negros, o que foi atribuído a problemas no algoritmo que mal interpretava conteúdo sobre questões raciais.

https://www.ufes.br/conteudo/estudo-aponta-black-lives-matter-internacionalizou-debate-da-violencia-contra-negros

# data[].attributes.attachment_link.title
Estudo aponta: Black Lives Matter internacionalizou debate da violência contra negros

# data[].attributes.attachment_link.description
Um ano após as manifestações do movimento Black Lives Matter (em português, Vidas Negras Importam), que tiveram como estopim o assassinato de George Floyd pela polícia estadunidense, a discussão sobre a violência policial contra a população negra ganhou força em todo o mundo, inclusive no Brasil. É o que aponta o estudo do pesquisador do Núcleo de Estudos Afro-Brasileiros (Neab) da Ufes Washington Siqueira.

# data[].attributes.body
Recidivismo e risco de reincidência: Nos EUA, algoritmos como o COMPAS são usados para prever o risco de reincidência de criminosos e ajudar em decisões judiciais. Relatos mostram que o COMPAS tende a dar pontuações de risco mais altas para pessoas negras em comparação com brancos, mesmo quando suas condições são semelhantes. Em um estudo realizado pelo ProPublica, foi descoberto que o COMPAS classifica injustamente negros como “mais propensos a reincidir”, o que leva a punições mais severas e menos chances de condicional para esses indivíduos.

https://www.bbc.com/portuguese/brasil-37677421

# data[].attributes.attachment_link.title
Sistema de algoritmo que determina pena de condenados cria polêmica nos EUA - BBC News Brasil

# data[].attributes.attachment_link.description
Algoritmos usados nos EUA para avaliar criminosos ajudam mesmo a fazer justiça?

# data[].attributes.body
Discriminação em anúncios de emprego: Um estudo do Upturn e do ProPublica revelou que o algoritmo de anúncios do Facebook apresentava vagas de emprego diferentes para usuários com base na raça, gênero e outros fatores demográficos. Em um caso, o algoritmo mostrou vagas de trabalho de menor prestígio e salários para usuários negros, enquanto perfis de usuários brancos viam oportunidades mais vantajosas. Essa prática foi considerada discriminatória, pois restringia o acesso igualitário ao mercado de trabalho.

https://www.intercept.com.br/2019/04/05/facebook-como-maquina-de-preconceito/

# data[].attributes.attachment_link.title
Algoritmo do Facebook é uma máquina de preconceito

# data[].attributes.attachment_link.description
É o que revela um novo estudo feito nos EUA.

# data[].attributes.body
Preconceito em anúncios de imóveis: Em 2019, o Facebook foi processado pelo Departamento de Habitação e Desenvolvimento Urbano dos EUA por permitir que anunciantes direcionassem anúncios imobiliários com base em “afinidades culturais” — o que significava que certos grupos, como usuários negros e latinos, não viam anúncios de imóveis em áreas específicas.

https://g1.globo.com/economia/tecnologia/noticia/2019/03/28/governo-americano-processa-facebook-por-discriminacao-racial-em-anuncios-de-moradia.ghtml

# data[].attributes.attachment_link.readable_text
facebook silhuetas celular companhia empresa - Foto: Dado Ruvic/Reuters

O Departamento de Habitação e Desenvolvimento Urbano dos Estados Unidos (HUD, na sigla em inglês) processou o Facebook nesta quinta-feira (28) de violar o Fair Housing Act (Ato de Habitação Justa, em tradução livre) alegando que a publicidade direcionada da empresa é discriminatória com base em raça e cor.

O HUD afirma que o Facebook restringe quem pode ver anúncios relacionados a moradia com base na origem nacional, religião, status familiar, sexo e deficiência. No processo, o departamento diz que a empresa usa seu processo de filtragem de dados para determinar quem pode ver um anúncio com nesses aspectos.

O Facebook diz que ficou surpreso com a decisão e vem trabalhando com o departamento para resolver suas preocupações, tomando medidas significativas para impedir a discriminação em anúncios em suas plataformas.

"O Facebook está discriminando as pessoas com base em quem são e onde vivem", disse o secretário do HUD, Ben Carson. "Usar um computador para limitar as escolhas de moradia de uma pessoa pode ser tão discriminatório quanto bater uma porta na cara de alguém".

O Fair Housing Act proíbe a discriminação em moradia e serviços relacionados, incluindo anúncios online, com base em raça, cor, nacionalidade, religião, sexo, deficiência ou status familiar.

A rede social disse na semana passada que criaria um novo portal de publicidade para anúncios ligados a moradia e emprego que limitaria as opções de segmentação para os anunciantes.

# data[].attributes.attachment_link.title
Governo americano processa Facebook por discriminação racial em anúncios de moradia

# data[].attributes.attachment_link.description
facebook silhuetas celular companhia empresa - Foto: Dado Ruvic/Reuters O Departamento de Habitação e Desenvolvimento Urbano dos Estados Unidos (HUD, na sigla em inglês) processou o Facebook nesta quinta-feira (28) de violar o Fair Housing Act (Ato de Habitação Justa, em tradução livre) alegando que a publicidade direcionada da empresa é discriminatória com base em raça e cor.

# data[].attributes.body
Predição de necessidades médicas com viés racial: Um estudo publicado na Science revelou que um algoritmo de IA usado em hospitais americanos para prever quais pacientes precisariam de cuidados adicionais estava favorecendo pacientes brancos. O algoritmo foi treinado para prever os cuidados médicos com base nos gastos de saúde anteriores, e como as populações brancas geralmente têm acesso a cuidados médicos mais caros, o sistema indicava uma necessidade maior para esses pacientes, deixando pacientes negros sem o devido suporte.

https://epocanegocios.globo.com/Tecnologia/noticia/2019/10/algoritmo-usado-em-hospitais-nos-eua-para-selecionar-pacientes-reforca-discriminacao-racial-diz-estudo.html

# data[].attributes.attachment_link.authors[].name
Época Negócios Online Época Negócios Online 26 Out 2019 - 06h01
Atualizado em 26 Out 2019 - 09h22

# data[].attributes.attachment_link.title
Algoritmo usado em hospitais nos EUA para selecionar pacientes reforça discriminação racial, diz estudo

# data[].attributes.attachment_link.description
Pesquisa mostra que software usado para atendimento de milhões de pessoas privilegia pacientes brancos em vez dos negros

# data[].attributes.headline
 Acesso a Crédito e Serviços Financeiros

# data[].attributes.subject
 Acesso a Crédito e Serviços Financeiros

# data[].attributes.body
Um estudo mostrou que algoritmos usados por bancos e empresas de crédito favorecem clientes brancos e desfavorecem clientes negros , considerando fatores como histórico de crédito e região.

https://exame.com/pme/disparidade-entre-brancos-e-negros-no-acesso-a-credito-cresce-na-crise/

# data[].attributes.attachment_link.title
Disparidade entre brancos e negros no acesso a crédito cresce na crise | Exame

# data[].attributes.attachment_link.description
Segundo levantamento do Sebrae, feito em parceria com a FGV, o sucesso na solicitação de empréstimos foi significativamente maior entre empresários brancos

# data[].attributes.body
Relatórios apontam que algoritmos usados por universidades para selecionar candidatos podem incorporar preconceitos raciais, já que muitos dados históricos usados para treinar esses sistemas favorecem grupos mais privilegiados.

https://jornal.usp.br/atualidades/inteligencia-artificial-utiliza-base-de-dados-que-refletem-preconceitos-e-desigualdades/

# data[].attributes.attachment_link.readable_text
Moacir Ponti diz que IA tende a perpetuar as desigualdades sociais por ter "aprendido da forma errada" algumas de suas informações

Em meio à rápida expansão da inteligência artificial (IA), crescem as preocupações com a possibilidade da tecnologia perpetuar e até mesmo intensificar as disparidades sociais. As IAs, como também podem ser chamadas, são cada vez mais empregadas em processos de tomada de decisões cruciais, como seleção de candidatos a emprego, concessão de empréstimos, definição de sentenças judiciais e até mesmo diagnósticos médicos. Porém, a recente identificação de casos em que a IA foi influenciada pela cultura dominante presente nos bancos de dados, contribuindo para a estratificação social e acentuando a desigualdade, levanta questionamentos sobre o impacto desses algoritmos.

Os bancos de dados utilizados como base para o desenvolvimento dos sistemas de IAs muitas vezes refletem preconceitos e desigualdades já existentes, o que acaba sendo reproduzido pelas decisões tomadas, como pode ser analisado recentemente, quando o The Bulimia Project , um grupo de conscientização sobre distúrbios alimentares, testou geradores de imagens de inteligência artificial, incluindo Dall-E 2, Stable Diffusion e Midjourney, para revelar como é a ideia dos programas de um físico "perfeito" em mulheres e homens.

De acordo com o resultado obtido, 40% das imagens mostravam mulheres loiras, 30% mulheres de olhos castanhos e mais de 50% tinham pele branca, enquanto quase 70% dos homens "perfeitos" tinham cabelos castanhos e 23% olhos castanhos. Semelhante às mulheres, a grande maioria dos homens tinha pele branca e quase metade tinha pelos faciais.

Muitos dos designs ainda apresentavam características quase caricatas, como os lábios carnudos, maçãs do rosto esculpidas e músculos superdefinidos, além de pele sem rugas e sem poros e narizes perfeitos. Todos os recursos altamente cobiçados e imitados usando cirurgia plástica e preenchimentos.

Mas as complicações dos dados já pré-concebidos com informações, valores e ideais possuem consequências nos mais diversos setores. O professor Moacir Ponti, do Instituto de Ciências Matemáticas e de Computação de São Carlos (ICMC) da USP, aponta que o problema está no desenvolvimento das inteligências artificiais por indivíduos que não possuem compreensão dessa possível desigualdade e no uso delas por usuários que não sabem como foram criadas.

O professor exemplifica: "Algoritmos na seleção de candidatos a emprego são treinados com base em currículos anteriores e, por isso, tendem a favorecer certos perfis e marginalizar outros". Se o histórico de contratação passado for desigual, como a seleção de homens para cargos de chefia, como diretores, gerentes, juízes e superintendentes, e a seleção de mulheres para cargos como secretárias, enfermeiras e camareiras, "a IA tende a perpetuar esses padrões de forma automática e até mesmo intensificar a disparidade", relata Ponti.

O ocorrido foi visto na empresa Amazon, que usava uma ferramenta de inteligência artificial para ajudar a equipe do RH a contratar profissionais, automatizando a busca por candidatos para empregos e realizando uma pré-seleção dos candidatos. O sistema analisava os currículos enviados, dando uma nota de 1 a 5 estrelas para cada, no mesmo esquema dos produtos vendidos na sua loja on-line.

A discriminação da ferramenta contra candidatas do sexo feminino no processo de seleção de novos funcionários acontecia porque ela foi criada em cima de padrões de currículos enviados para a empresa nos últimos dez anos. Na imensa maioria, esses currículos eram de homens, como acontece na maior parte da indústria de tecnologia, assim considerava os candidatos homens naturalmente mais aptos para as vagas.

Uma simples menção ao termo de mulheres no currículo era penalizada pela ferramenta e reduzia as chances das profissionais à vaga, "não pela ferramenta ser machista e sim por ter aprendido da forma errada", informa Ponti.

Já Lívia Oliveira, professora de Ciência da Computação, diz que injustiças raciais podem surgir a partir do uso da inteligência artificial, principalmente no gerenciamento de sentenças judiciais. Ela comenta que a IA é muito mais rígida com pessoas negras do que com pessoas brancas. "Um juiz, ao inserir os dados de duas pessoas para calcular o tempo de encarceramento, atribuiria um valor muito menor para a pessoa branca em comparação à pessoa negra. Esse viés racial contribui para o encarceramento desproporcional de pessoas não brancas."

Lívia também correlaciona o banco de dados e a estratificação social ao ChatGPT e explica como as IAs tendem a se fundamentar no ponto de vista dominante da sociedade. "O ChatGPT, ao ser questionado sobre quem construiu o avião, mencionaria os irmãos Wright, enquanto os brasileiros associariam a Santos Dumont, isso porque os irmãos Wright são figuras dos Estados Unidos, que têm o ponto de vista dominante nessa ferramenta."

Ela continua, afirmando que esse tipo de uniformização do conhecimento de acordo com quem comanda as IA tem o poder de esmagar histórias e conclusões de minorias, privilegiando o ponto de vista majoritário.

Diante dessas questões, ambos os professores concordam que os programadores possuem uma obrigação ética e moral, pois são responsáveis por moldar sistemas que podem impactar a sociedade de maneira significativa. "É uma máxima entre os profissionais da computação que todos os modelos estão errados e por isso devem ser avaliados, reavaliados, testados e verificados." relata Lívia.

Para ela, o profissional que trabalha dentro da ética deve testar falsos positivos e falsos negativos, identificar erros e os efeitos das decisões baseadas nos algoritmos. "O treinamento de IA não é rodar algoritmos, mas sim entender os seus dados e o impacto que podem causar, porque a compreensão deles e o treinamento adequado são cruciais para o desenvolvimento responsável da IA."

# data[].attributes.attachment_link.title
Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades

# data[].attributes.attachment_link.description
Moacir Ponti diz que IA tende a perpetuar as desigualdades sociais por ter "aprendido da forma errada" algumas de suas informações