caso?

El dilema ético central en el estudio de caso de Amazon se encuentra en los problemas relacionados con los algoritmos y los parámetros empleados para analizar los currículos de los futuros candidatos. Estos presentaban un sesgo evidente, favoreciendo a los hombres para ciertos tipos de empleo, lo que dificultó la identificación de una igualdad de género. Surge la pregunta: ¿quién es responsable de este sesgo? ¿Los desarrolladores, los datos o la empresa? La responsabilidad sobre este sesgo puede ser compartida, tanto por los desarrolladores como por los datos utilizados para crear la automatización esperada. Es fundamental verificar qué tipo de información se introdujo en los sistemas y cómo esta fue utilizada en la programación para identificar patrones. ¿De qué manera se podría mejorar la transparencia y la equidad en la contratación mediante inteligencia artificial? La transparencia para un funcionamiento óptimo implicaría conocer los datos específicos que el sistema necesita para generar algoritmos que sean más equitativos al seleccionar candidatos.

La responsabilidad es unilateral porque el programador pasó por alto los datos actuales. Si se hubiese hecho un análisis de la data existente, haciendo la salvedad de que no es culpa de nadie el que los solicitantes predominantes fueran masculinos, por lo que el programador debió ver el patrón antes de iniciar el proyecto. Además, Como en todo piloto y durante el proyecto, se debió contemplar el delegar una supervisión más allá de los resultados esperados. Al descansar en la IA, olvidaron que sigue siendo un sistema creado por humanos por lo que depende de su creador para funcionar eficientemente y adaptar los resultados a la vida real.

Se puede mejorar la transparencia haciendo un cotejo periódico de la recopilación de datos y así poder identificar, los ajustes necesarios antes de perjudicar a los solicitantes y a la empresa.

El principal dilema ético de este caso es la discriminación. Como parte de su proceso de contratación de la empresa, comenzó a utilizar inteligencia artificial para identificar talentos, sin embargo, culminó con un problema de sesgo discriminatorio por género. Debemos recordar que los patronos deben proteger a los aspirantes a empleo de las distintas manifestaciones discriminatorias, evitando así las “clasificaciones sospechosas” del discrimen en el empleo, tales como discrimen por razón de sexo, orientación sexual o identidad de género, entre otros.

¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?

Una combinación de todos. Los desarrolladores son responsables toda vez que no proveyeron que algo así podría ocurrir.  Previo al proyecto, o durante la implantación del mismo, debieron suponer que algo así podía pasar, quizás debido al constante desarrollo de la tecnología. Los datos utilizados fueron obsoletos, ya que los mismos fueron obtenidos de los pasados diez (10) años. El utilizar datos de diez (10) años atrás no es cónsono con las mejores prácticas de la administración de recursos humanos (adquisición de talento) ya que, por ejemplo, las habilidades, conocimientos y destrezas de los candidatos o aspirantes a empleo pudieron haber cambiado durante dicho periodo. Asimismo, la empresa es responsable debido a que no ejerció su responsabilidad de supervisor a los desarrolladores. De conformidad con ello, la empresa no puede quedarse de brazos cruzados ante este dilema y actuar posterior cuando los problemas ya han surgido.

¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

Una forma de mejorar sería que las empresas revisen y verifiquen los sistemas de IA para divisar posibles impactos adversos por motivos de las clasificaciones sospechosas del discrimen. Como es de esperarse, los patronos que manejen IA deben cumplir con las disposiciones legales y reglamentarias contra el discrimen en el empleo. De igual forma, deben garantizar que los datos utilizados para preparar los sistemas de IA, así como sus algoritmos, no representen sesgos ni discriminación. Todo proceso de contratación debe conllevar el elemento de equidad, no es otra cosa que el trato coherente y sistemáticamente justo e imparcial para todos los empleados por igual, incluyendo a aquellos que pertenecen a comunidades desatendidas a los cuales se les pueda haber denegado dicho trato.

El principal dilema ético de este caso es la discriminación. Como parte de su proceso de contratación de la empresa, comenzó a utilizar inteligencia artificial para identificar talentos, sin embargo, culminó con un problema de sesgo discriminatorio por género. Debemos recordar que los patronos deben proteger a los aspirantes a empleo de las distintas manifestaciones discriminatorias, evitando así las “clasificaciones sospechosas” del discrimen en el empleo, tales como discrimen por razón de sexo, orientación sexual o identidad de género, entre otros.

¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?

Una combinación de todos. Los desarrolladores son responsables toda vez que no proveyeron que algo así podría ocurrir.  Previo al proyecto, o durante la implantación del mismo, debieron suponer que algo así podía pasar, quizás debido al constante desarrollo de la tecnología. Los datos utilizados fueron obsoletos, ya que los mismos fueron obtenidos de los pasados diez (10) años. El utilizar datos de diez (10) años atrás no es cónsono con las mejores prácticas de la administración de recursos humanos (adquisición de talento) ya que, por ejemplo, las habilidades, conocimientos y destrezas de los candidatos o aspirantes a empleo pudieron haber cambiado durante dicho periodo. Asimismo, la empresa es responsable debido a que no ejerció su responsabilidad de supervisor a los desarrolladores. De conformidad con ello, la empresa no puede quedarse de brazos cruzados ante este dilema y actuar posterior cuando los problemas ya han surgido.

¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

Una forma de mejorar sería que las empresas revisen y verifiquen los sistemas de IA para divisar posibles impactos adversos por motivos de las clasificaciones sospechosas del discrimen. Como es de esperarse, los patronos que manejen IA deben cumplir con las disposiciones legales y reglamentarias contra el discrimen en el empleo. De igual forma, deben garantizar que los datos utilizados para preparar los sistemas de IA, así como sus algoritmos, no representen sesgos ni discriminación. Todo proceso de contratación debe conllevar el elemento de equidad, no es otra cosa que el trato coherente y sistemáticamente justo e imparcial para todos los empleados por igual, incluyendo a aquellos que pertenecen a comunidades desatendidas a los cuales se les pueda haber denegado dicho trato.

El principal dilema ético de este caso es la discriminación. Como parte de su proceso de contratación de la empresa, comenzó a utilizar inteligencia artificial para identificar talentos, sin embargo, culminó con un problema de sesgo discriminatorio por género. Debemos recordar que los patronos deben proteger a los aspirantes a empleo de las distintas manifestaciones discriminatorias, evitando así las “clasificaciones sospechosas” del discrimen en el empleo, tales como discrimen por razón de sexo, orientación sexual o identidad de género, entre otros.

¿Quién es responsable del sesgo? ¿Los desarrolladores, los datos, o la empresa?

Una combinación de todos. Los desarrolladores son responsables toda vez que no proveyeron que algo así podría ocurrir.  Previo al proyecto, o durante la implantación del mismo, debieron suponer que algo así podía pasar, quizás debido al constante desarrollo de la tecnología. Los datos utilizados fueron obsoletos, ya que los mismos fueron obtenidos de los pasados diez (10) años. El utilizar datos de diez (10) años atrás no es cónsono con las mejores prácticas de la administración de recursos humanos (adquisición de talento) ya que, por ejemplo, las habilidades, conocimientos y destrezas de los candidatos o aspirantes a empleo pudieron haber cambiado durante dicho periodo. Asimismo, la empresa es responsable debido a que no ejerció su responsabilidad de supervisor a los desarrolladores. De conformidad con ello, la empresa no puede quedarse de brazos cruzados ante este dilema y actuar posterior cuando los problemas ya han surgido.

¿Cómo se podría mejorar la transparencia y equidad en la contratación con IA?

Una forma de mejorar sería que las empresas revisen y verifiquen los sistemas de IA para divisar posibles impactos adversos por motivos de las clasificaciones sospechosas del discrimen. Como es de esperarse, los patronos que manejen IA deben cumplir con las disposiciones legales y reglamentarias contra el discrimen en el empleo. De igual forma, deben garantizar que los datos utilizados para preparar los sistemas de IA, así como sus algoritmos, no representen sesgos ni discriminación. Todo proceso de contratación debe conllevar el elemento de equidad, no es otra cosa que el trato coherente y sistemáticamente justo e imparcial para todos los empleados por igual, incluyendo a aquellos que pertenecen a comunidades desatendidas a los cuales se les pueda haber denegado dicho trato.

 Análisis del caso Amazon y la ética en la IA 

El dilema ético principal en este caso es la discriminación hacia la mujer.  Un sistema de nuevas tecnologías (Inteligencia Artificial) favorecía al hombre para contratar o promover candidatos masculinos a puestos técnicos en la compañía Amazon.  Este proyecto se comenzó a desarrollar en el 2014.  El mismo clasificaba a los solicitantes con una puntuación entre uno o cinco estrellas.  Este entrenamiento duró unos 10 años.  Se justifica este sesgo como uno involuntario, dado que la tecnología es un campo dominado por hombres (Winick, 2018). 

Se entiende que es una cadena donde cada eslabón contribuye a solucionar un problema o crearlo.  Dentro de una empresa existen posiciones jerárquicas.  Estas posiciones están divididas entre: CEO o director ejecutivo, presidente, vicepresidente, jefes de cada departamento, gerentes, supervisores y empleados. No hay duda de que estos datos son manejados por toda la alta jerarquía de la empresa.  Y los desarrolladores no están fuera de este sesgo, premeditado.  Le llamamos así porque un sistema de cómputos no se adiestra solo.  Siempre hay un ser humano detrás de las tareas de este, alimentándole con data o dando instrucciones para realizar la tarea encomendada.  La responsabilidad del sesgo recae sobre la empresa y sus directivos. 

Ya de por sí el proceso de contratación en cualquier agencia o empresa debe ser regido por políticas de recursos humanos.  Para lograr la transparencia y equidad en un proceso de contratación utilizando IA, es necesario crear un algoritmo donde no se afecten los derechos civiles y humanos de todos los ciudadanos.  Según Ammanath y Blackman (2022) en su artículo: "Incorporando transparencia en los proyectos de IA” indica que la transparencia es un elemento importante para ganarse la confianza de los clientes y consumidores en cualquier ámbito.  Y que cuando se trata de IA, la transparencia no solo consiste en informar a las personas cuando interactúan con una IA, sino también en comunicarse con las partes interesadas importantes sobre las razones por las cuales se seleccionó una solución de IA.  Además de cómo se diseñó y se desarrolló, sobre qué bases se implementó, cómo se supervisa, se actualiza y las condiciones bajo las cuales puede retirarse.