# data[].attributes.body
Zaida Sánchez Matos

# data[].attributes.custom_properties.KOHylUrQ
Tomando como ejemplo lo que sucedió en este caso, concuerdo con lo que indica MIT Technology Review (2018) que el fracaso en este caso fue un recordatorio de que la supervisión humana es esencial cuando se construye y se utiliza la inteligencia artificial. Así que el factor humano dentro el desarrollo de las tecnologías debe estar presente en el proceso de desarrollo, implantación y seguimiento. De este modo más entes contribuyen a la pureza del proceso. Además, como indica Dastin (2018) y es importante que nuestra sociedad continúe enfocándose hacia el aprendizaje de las máquinas, pero con la atención especial a los prejuicios que se añaden de forma inconsciente a estos programas. Por lo tanto, siempre hay una responsabilidad humana dentro de todo el proceso.

# data[].attributes.custom_properties.OGTL3Urc
Me parece que cada una de las partes tiene un grado de responsabilidad. Los desarrolladores quienes son la parte humana y que no lograron anticipar: (a) que los datos eran homogéneos a favor de los hombres, (b) que la respuesta de la inteligencia artificial ante los datos podía favorecer al género masculino por su contenido, (c) no tomaron consideraciones las repercusiones para los propios candidatos reales que se afectarían por las decisiones. Los datos utilizados nos llevan nuevamente a los desarrolladores y su equipo de trabajo quienes eran los responsables de seleccionar los datos con los cuales alimentaría con el “machine learning”. En el caso de los datos, era importante que se tomara en cuenta los factores a favor y en contra de su uso y cómo reaccionarían ante el algoritmo utilizado en el análisis. La empresa hizo bien en hacer público el dilema ético en su la filtración de datos. Aunque no fue intencional en que surgiera esta discriminación de los datos por género, es responsable de todos los factores que rodean el caso.

# data[].attributes.custom_properties.W6mi0j6o
Considero que el principal problema ético estaba en el discrimen por género favoreciendo hombre sobre mujeres en el proceso de reclutamiento automático que generó el algoritmo de la inteligencia artificial desarrollada por Amazon. Este dilema ético surge porque la información con la cual fueron alimentados los datos, con resumés recopilados durante 10 años, eran pedominantemente de hombres (Aryan, 2024; MIT). Esto favoreció que surgieran patrones discriminatorios de la data.

# data[].attributes.body
Enid J. Montalbán Torres

Análisis del caso Amazon y la ética en la IA

El dilema ético principal en este caso es la discriminación hacia la mujer.  Un sistema de nuevas tecnologías (Inteligencia Artificial) favorecía al hombre para contratar o promover candidatos masculinos a puestos técnicos en la compañía Amazon.  Este proyecto se comenzó a desarrollar en el 2014.  El mismo clasificaba a los solicitantes con una puntuación entre uno o cinco estrellas.  Este entrenamiento duró unos 10 años.  Se justifica este sesgo como uno involuntario, dado que la tecnología es un campo dominado por hombres (Winick, 2018).

Se entiende que es una cadena donde cada eslabón contribuye a solucionar un problema o crearlo.  Dentro de una empresa existen posiciones jerárquicas.  Estas posiciones están divididas entre: CEO o director ejecutivo, presidente, vicepresidente, jefes de cada departamento, gerentes, supervisores y empleados. No hay duda de que estos datos son manejados por toda la alta jerarquía de la empresa.  Y los desarrolladores no están fuera de este sesgo, premeditado.  Le llamamos así porque un sistema de cómputos no se adiestra solo.  Siempre hay un ser humano detrás de las tareas de este, alimentándole con data o dando instrucciones para realizar la tarea encomendada.  La responsabilidad del sesgo recae sobre la empresa y sus directivos.

Ya de por sí el proceso de contratación en cualquier agencia o empresa debe ser regido por políticas de recursos humanos.  Para lograr la transparencia y equidad en un proceso de contratación utilizando IA, es necesario crear un algoritmo donde no se afecten los derechos civiles y humanos de todos los ciudadanos.  Según Ammanath y Blackman (2022) en su artículo: "Incorporando transparencia en los proyectos de IA” indica que la transparencia es un elemento importante para ganarse la confianza de los clientes y consumidores en cualquier ámbito.  Y que cuando se trata de IA, la transparencia no solo consiste en informar a las personas cuando interactúan con una IA, sino también en comunicarse con las partes interesadas importantes sobre las razones por las cuales se seleccionó una solución de IA.  Además de cómo se diseñó y se desarrolló, sobre qué bases se implementó, cómo se supervisa, se actualiza y las condiciones bajo las cuales puede retirarse.

# data[].attributes.body
¿Cuál es el dilema ético principal en este caso?

El principal dilema ético de este caso es la discriminación. Como parte de su proceso de contratación de la empresa, comenzó a utilizar inteligencia artificial para identificar talentos, sin embargo, culminó con un problema de sesgo discriminatorio por género. Debemos recordar que los patronos deben proteger a los aspirantes a empleo de las distintas manifestaciones discriminatorias, evitando así las “clasificaciones sospechosas” del discrimen en el empleo, tales como discrimen por razón de sexo, orientación sexual o identidad de género, entre otros.

¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?

Una combinación de todos. Los desarrolladores son responsables toda vez que no proveyeron que algo así podría ocurrir.  Previo al proyecto, o durante la implantación del mismo, debieron suponer que algo así podía pasar, quizás debido al constante desarrollo de la tecnología. Los datos utilizados fueron obsoletos, ya que los mismos fueron obtenidos de los pasados diez (10) años. El utilizar datos de diez (10) años atrás no es cónsono con las mejores prácticas de la administración de recursos humanos (adquisición de talento) ya que, por ejemplo, las habilidades, conocimientos y destrezas de los candidatos o aspirantes a empleo pudieron haber cambiado durante dicho periodo. Asimismo, la empresa es responsable debido a que no ejerció su responsabilidad de supervisor a los desarrolladores. De conformidad con ello, la empresa no puede quedarse de brazos cruzados ante este dilema y actuar posterior cuando los problemas ya han surgido.

¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

Una forma de mejorar sería que las empresas revisen y verifiquen los sistemas de IA para divisar posibles impactos adversos por motivos de las clasificaciones sospechosas del discrimen. Como es de esperarse, los patronos que manejen IA deben cumplir con las disposiciones legales y reglamentarias contra el discrimen en el empleo. De igual forma, deben garantizar que los datos utilizados para preparar los sistemas de IA, así como sus algoritmos, no representen sesgos ni discriminación. Todo proceso de contratación debe conllevar el elemento de equidad, no es otra cosa que el trato coherente y sistemáticamente justo e imparcial para todos los empleados por igual, incluyendo a aquellos que pertenecen a comunidades desatendidas a los cuales se les pueda haber denegado dicho trato.

# data[].attributes.body
¿Cuál es el dilema ético principal en este caso?

El principal dilema ético de este caso es la discriminación. Como parte de su proceso de contratación de la empresa, comenzó a utilizar inteligencia artificial para identificar talentos, sin embargo, culminó con un problema de sesgo discriminatorio por género. Debemos recordar que los patronos deben proteger a los aspirantes a empleo de las distintas manifestaciones discriminatorias, evitando así las “clasificaciones sospechosas” del discrimen en el empleo, tales como discrimen por razón de sexo, orientación sexual o identidad de género, entre otros.

¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?

Una combinación de todos. Los desarrolladores son responsables toda vez que no proveyeron que algo así podría ocurrir.  Previo al proyecto, o durante la implantación del mismo, debieron suponer que algo así podía pasar, quizás debido al constante desarrollo de la tecnología. Los datos utilizados fueron obsoletos, ya que los mismos fueron obtenidos de los pasados diez (10) años. El utilizar datos de diez (10) años atrás no es cónsono con las mejores prácticas de la administración de recursos humanos (adquisición de talento) ya que, por ejemplo, las habilidades, conocimientos y destrezas de los candidatos o aspirantes a empleo pudieron haber cambiado durante dicho periodo. Asimismo, la empresa es responsable debido a que no ejerció su responsabilidad de supervisor a los desarrolladores. De conformidad con ello, la empresa no puede quedarse de brazos cruzados ante este dilema y actuar posterior cuando los problemas ya han surgido.

¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

Una forma de mejorar sería que las empresas revisen y verifiquen los sistemas de IA para divisar posibles impactos adversos por motivos de las clasificaciones sospechosas del discrimen. Como es de esperarse, los patronos que manejen IA deben cumplir con las disposiciones legales y reglamentarias contra el discrimen en el empleo. De igual forma, deben garantizar que los datos utilizados para preparar los sistemas de IA, así como sus algoritmos, no representen sesgos ni discriminación. Todo proceso de contratación debe conllevar el elemento de equidad, no es otra cosa que el trato coherente y sistemáticamente justo e imparcial para todos los empleados por igual, incluyendo a aquellos que pertenecen a comunidades desatendidas a los cuales se les pueda haber denegado dicho trato.

# data[].attributes.body
¿Cuál es el dilema ético principal en este caso?

El principal dilema ético de este caso es la discriminación. Como parte de su proceso de contratación de la empresa, comenzó a utilizar inteligencia artificial para identificar talentos, sin embargo, culminó con un problema de sesgo discriminatorio por género. Debemos recordar que los patronos deben proteger a los aspirantes a empleo de las distintas manifestaciones discriminatorias, evitando así las “clasificaciones sospechosas” del discrimen en el empleo, tales como discrimen por razón de sexo, orientación sexual o identidad de género, entre otros.

¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?

Una combinación de todos. Los desarrolladores son responsables toda vez que no proveyeron que algo así podría ocurrir.  Previo al proyecto, o durante la implantación del mismo, debieron suponer que algo así podía pasar, quizás debido al constante desarrollo de la tecnología. Los datos utilizados fueron obsoletos, ya que los mismos fueron obtenidos de los pasados diez (10) años. El utilizar datos de diez (10) años atrás no es cónsono con las mejores prácticas de la administración de recursos humanos (adquisición de talento) ya que, por ejemplo, las habilidades, conocimientos y destrezas de los candidatos o aspirantes a empleo pudieron haber cambiado durante dicho periodo. Asimismo, la empresa es responsable debido a que no ejerció su responsabilidad de supervisor a los desarrolladores. De conformidad con ello, la empresa no puede quedarse de brazos cruzados ante este dilema y actuar posterior cuando los problemas ya han surgido.

¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

Una forma de mejorar sería que las empresas revisen y verifiquen los sistemas de IA para divisar posibles impactos adversos por motivos de las clasificaciones sospechosas del discrimen. Como es de esperarse, los patronos que manejen IA deben cumplir con las disposiciones legales y reglamentarias contra el discrimen en el empleo. De igual forma, deben garantizar que los datos utilizados para preparar los sistemas de IA, así como sus algoritmos, no representen sesgos ni discriminación. Todo proceso de contratación debe conllevar el elemento de equidad, no es otra cosa que el trato coherente y sistemáticamente justo e imparcial para todos los empleados por igual, incluyendo a aquellos que pertenecen a comunidades desatendidas a los cuales se les pueda haber denegado dicho trato.

# data[].attributes.custom_properties.KOHylUrQ
Asegurarse de que los resultados y decisiones tomadas por la IA sean explicadas de manera comprensible para los usuarios Un vocabulario basico, que  incluya  las decisiones se basan en los datos y qué factores influyen más en la elección de un resultado. Dando ejemplos de como mejorarian las cosas.

# data[].attributes.custom_properties.OGTL3Urc
Para mi la responsabilidad del sesgo en un sistema de inteligencia artificial (IA) recae en varias partes, aunque en última instancia, el desarrollador y la empresa que crea y despliega la IA son los principales responsables. Todos tienen que ver. Esto es ciencia, y la ciencia se equivoca. Todos deben ser responsables. Aqui nadie se lava las manos como Pilato.  

# data[].attributes.custom_properties.W6mi0j6o
El dilema ético principal en este caso se centra en el sesgo algorítmico y la justicia en los procesos de contratación. El sistema de IA desarrollado por Amazon para ayudar a seleccionar candidatos mostraba preferencias por hombres en lugar de mujeres, debido a que fue entrenado con datos históricos de contrataciones previas,las cuales eran predominantemente masculinas, especialmente en campos tecnológicos. (machismo grabado por años y siglos  en la tecnologia ) Interesante!!!

# data[].attributes.custom_properties.KOHylUrQ
Para mejorar la transparencia y equidad en la contratación con IA, se podrían tomar varias medidas. En primer lugar, diversificar los datos utilizados, ademas, creo que se podría complementar la IA con la revisión humana, así asegurando que los reclutadores puedan intervernir en caso de observar alguna injusticia en el sistema. 

# data[].attributes.custom_properties.OGTL3Urc
Pienso que la responsabilidad del sesgo la tienen todos, tanto los desarrolladores por los datos que utilizaron para crear la automatización. Los datos reflejaban una desigualdad en la industria, lo que llevó al algoritmo a aprender patrones discriminatorios. La empresa, tambien tenía la responsabilidad de garantizar que la aplicación fuera justa.

# data[].attributes.custom_properties.W6mi0j6o
El dilemma ético principal en este caso es la discriminacion de género causada por el sesgo en la IA utilizada para contratar a empleados. El sistema de Amazon estaba penalizando a las mujeres debido a los datos históricos que predominaban los hombres en la industria de la tecnología.

# data[].attributes.body
El dilema ético principal es la falta de transparencia.  Era un proyecto secreto que, posiblemente, para no crear incertidumbre entre los que relazaban este trabajo, lo mantuvieron en "prueba" hasta que comprobaron que no fue eficiente. Es posible que esto les costó presupuesto que, tal vez, querían ahorrar en busca de un proceso automatizado.

La responsabilidad es unilateral porque el programador pasó por alto los datos actuales. Si se hubiese hecho un análisis de la data existente, haciendo la salvedad de que no es culpa de nadie el que los solicitantes predominantes fueran masculinos, por lo que el programador debió ver el patrón antes de iniciar el proyecto. Además, Como en todo piloto y durante el proyecto, se debió contemplar el delegar una supervisión más allá de los resultados esperados. Al descansar en la IA, olvidaron que sigue siendo un sistema creado por humanos por lo que depende de su creador para funcionar eficientemente y adaptar los resultados a la vida real.

Se puede mejorar la transparencia haciendo un cotejo periódico de la recopilación de datos y así poder identificar, los ajustes necesarios antes de perjudicar a los solicitantes y a la empresa.

# data[].attributes.body
¿Cuál es el dilema ético principal en este

caso?

El dilema ético central en el estudio de caso de Amazon se encuentra en los problemas relacionados con los algoritmos y los parámetros empleados para analizar los currículos de los futuros candidatos. Estos presentaban un sesgo evidente, favoreciendo a los hombres para ciertos tipos de empleo, lo que dificultó la identificación de una igualdad de género. Surge la pregunta: ¿quién es responsable de este sesgo? ¿Los desarrolladores, los datos o la empresa? La responsabilidad sobre este sesgo puede ser compartida, tanto por los desarrolladores como por los datos utilizados para crear la automatización esperada. Es fundamental verificar qué tipo de información se introdujo en los sistemas y cómo esta fue utilizada en la programación para identificar patrones. ¿De qué manera se podría mejorar la transparencia y la equidad en la contratación mediante inteligencia artificial? La transparencia para un funcionamiento óptimo implicaría conocer los datos específicos que el sistema necesita para generar algoritmos que sean más equitativos al seleccionar candidatos.

# data[].attributes.custom_properties.KOHylUrQ
La transparencia y equidad en la contratación con IA debe optimizarse desarrollando un monitoreo continuo. Además, es recomendable que se generen nuevas regulaciones y se desarrollen en las empresas políticas éticas en el uso de estas tecnologías.

# data[].attributes.custom_properties.OGTL3Urc
A mi entender la responsabilidad del sesgo debe ser compartida entre los desarrolladores y la empresa. En este caso de estudio la empresa al percatarse de lo ocurrido, el grupo de investigación afirmó que hizo modificaciones a los algoritmos para que fueran neutrales en cuanto a los sesgos de género. Sin embargo, no hubo total garantía que el motor de búsqueda no generara otros mecanismos prejuiciados para clasificar los solicitantes. 

# data[].attributes.custom_properties.W6mi0j6o
Este caso nos muestra como la inteligencia artificial basada en datos históricos que guarda el algoritmo puede sesgar información. Considero que el dilema ético principal del artículo se basa en la responsabilidad y transparencia en el uso de la inteligencia artificial para la contratación de personal. Esto propulsó que las decisiones de Amazon al reclutar empleados fueran discriminatorias y sesgadas al considerar en preferencia a los hombres sobre las mujeres. 

# data[].attributes.custom_properties.KOHylUrQ
Para mejorar la transparencia y equidad se debe revisar los datos para evitar discrimen. Más importante, la intervención y supervisión humana.

# data[].attributes.custom_properties.OGTL3Urc
La responsabilidad recae en todos ellos porque tanto está el que desarrolló la herramienta, como en los datos históricos que se escogieron.

# data[].attributes.custom_properties.W6mi0j6o
El dilema ético en el caso Amazon el sesgo en su sistema de contratación por medio de la inteligencia artificial. Desarrolló  un sistema para filtrar los curriculums y reducir prejuicios. en el proceso de selección de candidatos. El problema estriba en que se basó en un banco de datos donde la mayoría de los solicitantes eran hombres. Por tal razón, prefirió a los hombres y descartó a las mujeres.

# data[].attributes.custom_properties.KOHylUrQ
Explicar cómo funciona el sistema de IA y qué factores influyen en las decisiones de contratación. Mantener un componente humano que sea supervisado y capacitado sobre los riesgos que pueden ocurrir. Eliminar información sensible (como género) durante el entrenamiento del modelo para evitar que la IA . Capacitar a los desarrolladores y empleados sobre los riesgos de los sesgos en la IA y cómo prevenirlos. Evaluar periódicamente el sistema para detectar y corregir sesgos antes de su implementación a gran escala. Advertir a los candidatos como se van a llevar a cabo los procesos de contratación.

# data[].attributes.custom_properties.OGTL3Urc
Entiendo que esto es una responsabilidad compartida. Los desarrolladores no analizaron correctamente como los sesgos en los datos podía afectar el comportamiento del sistema. El conjunto de datos utilizados para entrenar el algoritmo reflejaba prácticas de contratación sesgadas, lo que llevó a la IA a aprender y replicar esos sesgos. Amazon no implementó suficientes controles para garantizar que la IA fuera justa y equitativa antes de su uso.

# data[].attributes.custom_properties.W6mi0j6o
El dilema ético que presenta este caso es el sesgo de género en el algoritmo de reclutamiento incorporado en el sistema IA. Discriminaba a las mujeres durante el proceso de contratación. Se reflejaban preferencias por candidatos masculinos, lo que resultó en una discriminación y desigualdad que favoreció a hombres sobre mujeres. Debemos evaluar y analizar con sumo cuidado el uso de IA en decisiones tan críticas e importantes, como lo son la contratación. Nos hace plantear sobre la importancia de la ética , justicia y transparencia en los procesos.

# data[].attributes.body
¿Cuál es el dilema ético principal en este caso?

# data[].attributes.body
¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

# data[].attributes.body
¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?