Recomendar acciones que las empresas de tecnología deberían implementar para evitar sesgos en sus algoritmos de procesamiento de imágenes, tomando como ejemplo el caso del algoritmo de recorte de fotografías de Twitter que mostró preferencia por rostros de piel más clara. by Lurmis Maidoly Godoy https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb en-us 2024-11-14 14:27:36 UTC 2024-11-14 15:20:54 UTC hello@padlet.com Patrick Lopez https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217267397 Hacer pruebas con todos los tipos de piel: Asegurarse de entrenar a la IA con imágenes de personas de todas las tonalidades de piel, géneros, edades, etc. Esto ayuda a que el algoritmo no desarrolle preferencias.

]]> 2024-11-14 15:10:19 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217267397 Frida Huamán https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217268491 Para evitar sesgos en los algoritmos de procesamiento de imágenes, las empresas de tecnología deben recolectar datos más diversos y realizar pruebas constantemente para evaluar la efectividad. Además, sería beneficioso aplicar técnicas que detecten y corrijan sesgos para garantizar una experiencia satisfactoria para los usuarios.

]]> 2024-11-14 15:10:52 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217268491 Nicole Antezano https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217272319 Las empresas de tecnología deberían implementar acciones para evitar sesgos en sus algoritmos de procesamiento de imágenes. Una de las acciones que pueden implementar es la diversificación de los datos de entrenamiento. Con esto se pueden asegurar de que el conjunto de datos usados para entrenar al algoritmo incluya diferentes características físicas como diferentes tonos de piel, géneros, edades, etc. Además, la prueba de estos algoritmos en un ambiente real podría ser una comprobación más precisa, ya que se podrían detectar posibles problemas que no se observan en un entorno controlado de pruebas.

]]> 2024-11-14 15:12:49 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217272319 Maria Paz Farfán https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217274693 2024-11-14 15:14:08 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217274693 Micaela Sánchez https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217278373 Algunas medidas que uno puede aplicar son:

  1. Realizar aprendizaje por refuerzo en vez de supervisado: La inteligencia artificial podría aprender mediante la interacción de los usuarios con diferentes imágenes y videos en Twitter. Para ello, se debería recopilar todos los datos de todas las publicaciones en la plataforma y comparar su viralidad con el contenido de la foto más que de las características únicas de la persona. Uno debería modificar el algoritmo para que considere este grupo de datos a diferencia de características étnicas o de comunidad.

]]> 2024-11-14 15:16:12 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217278373 Leopoldo Vega V https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217278714 Recomendar acciones que las empresas de tecnología deberían implementar para evitar sesgos en sus algoritmos de procesamiento de imágenes, tomando como ejemplo el caso del algoritmo de recorte de fotografías de Twitter que mostró preferencia por rostros de piel más clara:

Para evitar sesgos en algoritmos de imágenes, las empresas deben diversificar sus datos de entrenamiento, incluyendo características de diversas etnias, géneros y edades. También es clave realizar pruebas demográficas y usar herramientas automatizadas que monitoreen el sesgo en tiempo real. Equipos de desarrollo multiculturales y asesores éticos ayudan a reducir prejuicios desde el diseño. Además, las auditorías externas y la retroalimentación de usuarios permiten identificar problemas no detectados internamente. Finalmente, la capacitación en sesgos para desarrolladores es esencial para promover una IA inclusiva y justa.

]]> 2024-11-14 15:16:25 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217278714 Mathías Mejía https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217280124 Loa más probable que paso con la IA de Twitter es que las imágenes que pusieron para entrenar al algoritmo de recorte tenía un desbalance de más caras blancas comparados con otros tonos, por eso siempre cuando se recolectan información para entrenar una IA, siempre se tiene que ver que haya un balance, para que no haya ningún tipo de sesgo.

]]> 2024-11-14 15:17:07 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217280124 Diana Yanque https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217282492 Para evitar sesgos en algoritmos de procesamiento de imágenes, las empresas deberían usar datos más diversos, hacer auditorías constantes y ser transparentes sobre cómo funcionan sus modelos. Además, contar con equipos de desarrollo variados y recibir feedback de los usuarios ayudaría a mejorar el algoritmo y detectar problemas en tiempo real.

]]> 2024-11-14 15:18:31 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217282492 Sebastián Sánchez https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217284745 Para evitar sesgos en sus algoritmos de procesamiento de imágenes, como en el caso del algoritmo de recorte de Twitter que mostró preferencia por rostros de piel más clara, las empresas de tecnología deben implementar diversas estrategias. Primero, deben diversificar sus conjuntos de datos de entrenamiento para incluir una amplia variedad de tonos de piel, géneros y edades, asegurando así que el algoritmo responda de manera equitativa. También es fundamental realizar evaluaciones de sesgo antes del lanzamiento, así como contar con un equipo de desarrollo diverso que aporte diferentes perspectivas. Además, deben aplicar técnicas de mitigación de sesgo, como ajustes en la ponderación de datos, y establecer monitoreo y retroalimentación continua para ajustar el algoritmo conforme se identifiquen problemas.

]]> 2024-11-14 15:19:42 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217284745 Sofia Basilio https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217286204 Un recomendación para evitar sesgos en los algoritmos de procesamiento de imágenes podría ser crear mecanismos para que los usuarios puedan reportar situaciones en las que perciban sesgos en el procesamiento de imágenes es fundamental para que se notifique a la app. La retroalimentación puede ayudar a identificar problemas que el equipo de desarrollo no detectó, y permite ajustar el algoritmo en función de la experiencia de los usuarios. Un ejemplo sería Instagram, que implementó un sistema de retroalimentación que permite a los usuarios reportar si sienten que sus publicaciones están siendo tratadas de manera injusta, especialmente en temas de activismo. A través de esta retroalimentación, pudieron identificar posibles sesgos en sus algoritmos y realizaron ajustes para mejorar la visibilidad del contenido.

]]> 2024-11-14 15:20:32 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217286204 Larissa Contreras https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217287235

  • Las empresas deben ser transparentes sobre cómo funcionan sus algoritmos y qué datos se utilizan para entrenarlos. Publicar informes y abrir sus modelos a la revisión externa puede ayudar a identificar y mitigar sesgos.

  • Capacitar continuamente sus equipos en temas de diversidad e inclusión.

    • ]]>     2024-11-14 15:21:06 UTC https://padlet.com/lurmisgodoy1/1ulcm2s4f04himhb/wish/3217287235