De que forma os algoritmos podem afetar pessoas que já enfrentam preconceitos na sociedade? by Aline Lima

2025-08-13 15:47:34 UTC

Os algoritmos podem piorar a vida de quem já sofre preconceito/exclusão, porque aprendem com dados que carregam esses mesmos vieses. Assim, eles acabam repetindo ou até ampliando discriminações e reforçando estereótipos.

2025-08-13 15:49:06 UTC

Os algoritmos podem prejudicar ainda mais pessoas que já sofrem preconceito porque eles aprendem com informações do mundo real, e o mundo real tem desigualdades.

Se os dados usados para ensinar o algoritmo já têm preconceitos, ele vai repetir e até aumentar esses erros.
Usando o exemplo que a Naeli comentou, um sistema de seleção de empregos, por exemplo, pode dar mais chances para homens se, no passado, a empresa contratou mais homens. Não contratando mulheres, ou até mesmo pessoas que não se encaixam no perfil de determinada empresa.

2025-08-13 15:52:43 UTC

A IA pode prejudicar enraizando ainda mais preconceitos colocando pessoas sempre em comparação/oposição com o padrão cultivado. A desigualdade se torna algo escancarado e banal.

2025-08-13 15:53:45 UTC

Acredito que necropolítica colabora com que os algoritmos sejam usados de maneira aleatória, sem fiscalização o que promove o necroalgoritmo e marginaliza ainda mais os grupos que não são minorizados, como os pretos, mas que se os mantêm no grupo dos excluídos...

chalubnaif — 2025-08-13 16:03:41 UTC

Algoritmos podem reforçar preconceitos ao reproduzir tendências presentes nos dados usados para treiná-los.
Isso leva à discriminação automatizada em áreas como crédito, emprego, segurança, entre outras.
Grupos já marginalizados tendem a ser mais afetados por essas distorções.
A forma "fechada" dos sistemas dificulta a identificação e contestação dessas injustiças.