Análisis Ético de Casos de IA by Nazly Rocio Hincapie Monsalve https://padlet.com/nrhincapie/ybpaz9slwn3tub7w Analizar situaciones reales o hipotéticas en las que se aplica inteligencia artificial, identificando los dilemas éticos que surgen y evaluando cómo se relacionan con el marco normativo colombiano vigente. en-us 2025-06-20 20:08:47 UTC 2025-10-30 13:50:22 UTC hello@padlet.com https://elvis.padletcdn.com/1/fetch/e_in/pixabay.com/get/g0ff0b260020af2f666a71e49f8763307c4ff5adc9438f0e33c67759bf621f91e307b7445fd4455d9d2115dd3043f967a.jpg nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497394129 Un hospital de la red pública colombiana, ubicado en una ciudad intermedia, implementa un sistema de inteligencia artificial para diagnosticar enfermedades respiratorias a partir de imágenes médicas (rayos X y tomografías). El objetivo es reducir los tiempos de espera y mejorar la eficiencia. Sin embargo, algunos pacientes reportan errores en los diagnósticos y denuncian que no fueron informados de que sus resultados fueron generados por un sistema automatizado. Médicos y directivos se debaten entre defender la eficiencia del sistema o asumir los riesgos que implica.


Preguntas para analizar:

  1. ¿Qué riesgos éticos están involucrados al delegar diagnósticos médicos a un sistema de IA?

  2. ¿Cómo se debe gestionar la responsabilidad ante un error de diagnóstico: es del médico, del sistema o de la institución?

  3. ¿Los pacientes deben ser informados si un diagnóstico fue realizado por una IA? ¿Por qué?

  4. ¿Qué derechos fundamentales podrían verse comprometidos?

  5. ¿Qué recomendaciones darías para el uso responsable de esta tecnología en salud?

  6. ¿Qué principios, lineamientos o exigencias del marco normativo colombiano deberían aplicarse en este caso?

]]> 2025-06-20 20:11:32 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497394129 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497394376 Una reconocida empresa del sector financiero colombiano implementa un sistema de IA para revisar hojas de vida y preseleccionar candidatos a entrevistas, con base en patrones aprendidos de contrataciones anteriores. Pasados unos meses, se identifica que la mayoría de los seleccionados provienen de ciertos barrios, universidades y grupos demográficos, lo que genera sospechas sobre una posible discriminación algorítmica. Los candidatos no son informados sobre el uso de IA, ni tienen forma de saber por qué fueron rechazados.

Preguntas para analizar:

  1. ¿Qué tipo de discriminación podría estar ocurriendo en este caso?

  2. ¿Es ético que un sistema de IA tome decisiones de contratación sin intervención humana?

  3. ¿Cómo se puede garantizar que el algoritmo no reproduzca sesgos sociales?

  4. ¿Qué medidas podrían implementar las empresas para hacer estos procesos más justos y transparentes?

  5. ¿Cómo se debe informar a los candidatos sobre el uso de IA en su proceso de evaluación?

  6. ¿Qué aspectos del marco normativo colombiano sobre IA ayudarían a regular o prevenir estos riesgos?

]]> 2025-06-20 20:12:40 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497394376 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497394669 La alcaldía de una capital departamental instala un sistema de videovigilancia en zonas estratégicas con cámaras que incluyen software de reconocimiento facial. El objetivo es identificar sospechosos en tiempo real y reducir los delitos callejeros. Sin embargo, organizaciones de derechos humanos alertan sobre la falta de transparencia del programa, el posible almacenamiento indebido de datos faciales y los errores del sistema que ya han llevado a la detención injusta de dos personas.

Preguntas para analizar:

  1. ¿Cuál es el conflicto entre seguridad pública y derechos individuales en este caso?

  2. ¿Qué riesgos éticos existen al aplicar reconocimiento facial en espacios abiertos?

  3. ¿Se requiere consentimiento de las personas que transitan por estos espacios? ¿Por qué?

  4. ¿Qué tipo de información debe ser pública sobre el uso de esta tecnología por parte de la alcaldía?

  5. ¿Qué principios éticos deben regir este tipo de proyectos en el sector público?

  6. ¿Qué normas o lineamientos del marco colombiano podrían regular el uso de este tipo de IA?

]]> 2025-06-20 20:13:50 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497394669 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395202 En el marco de la modernización digital, una alcaldía lanza un chatbot con IA generativa para atender de forma inmediata consultas ciudadanas sobre impuestos, servicios, subsidios y procesos de licencias. Si bien mejora la eficiencia, comienzan a detectarse inconsistencias en las respuestas: algunos ciudadanos afirman haber recibido información equivocada sobre plazos tributarios y condiciones de acceso a programas sociales. La alcaldía no ha establecido un protocolo para revisar estas respuestas ni informar que se trata de una IA.

Preguntas para analizar:

  1. ¿Qué consecuencias puede tener para los ciudadanos recibir información incorrecta desde un canal oficial?

  2. ¿Se debería informar al usuario que está interactuando con una IA? ¿Cómo?

  3. ¿Qué medidas podrían implementarse para validar la información que entrega el chatbot?

  4. ¿Quién es responsable en caso de que un ciudadano actúe con base en una respuesta errada?

  5. ¿Qué buenas prácticas debe seguir una entidad pública al usar IA generativa?

  6. ¿Cómo debería actuar una alcaldía teniendo en cuenta el marco normativo colombiano sobre el uso de IA en el sector público?

]]> 2025-06-20 20:15:27 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395202 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395502 Una universidad privada lanza una nueva plataforma para clases virtuales que utiliza IA para monitorear en tiempo real el rostro y comportamiento de los estudiantes mediante su cámara web. El sistema evalúa si están prestando atención, detecta distracciones y genera reportes para el docente. Algunos estudiantes manifiestan incomodidad con el nivel de vigilancia y cuestionan la transparencia en el uso de sus datos personales. Otros temen que el sistema influya negativamente en su evaluación académica.

Preguntas para analizar:

  1. ¿Qué derechos pueden verse comprometidos en este tipo de monitoreo?

  2. ¿Es justificable el uso de IA para verificar la atención de los estudiantes?

  3. ¿Qué tipo de consentimiento debería pedirse?

  4. ¿Qué implicaciones éticas tiene usar el rostro como dato para evaluar el desempeño académico?

  5. ¿Qué límites debe tener el uso de tecnologías de vigilancia en contextos educativos?

  6. ¿Qué principios y regulaciones del marco legal colombiano deberían tenerse en cuenta para proteger a los estudiantes?

]]> 2025-06-20 20:16:17 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395502 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395746 Una corporación autónoma regional (CAR) utiliza drones con IA para sobrevolar bosques y territorios con el fin de detectar deforestación, incendios y minería ilegal. Las comunidades indígenas de la zona expresan preocupación porque los vuelos ocurren sin consulta previa, y sienten que están siendo vigilados sin haber sido informados. También denuncian que no saben si los datos recolectados son almacenados, compartidos con terceros o usados para otros fines no acordados.

Preguntas para analizar:

  1. ¿Qué conflicto puede surgir entre el uso de tecnología y los derechos de comunidades étnicas?

  2. ¿Cómo puede una entidad equilibrar el beneficio ambiental con la privacidad comunitaria?

  3. ¿Debe pedirse consentimiento previo para sobrevolar zonas habitadas por comunidades?

  4. ¿Qué límites debería tener la vigilancia ambiental automatizada?

  5. ¿Qué papel juega la participación ciudadana en el diseño de estas soluciones tecnológicas?

  6. ¿Cómo debería implementarse este sistema según el marco colombiano de IA y protección de derechos colectivos?

]]> 2025-06-20 20:17:16 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395746 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395998 El ICFES desarrolla un sistema de IA para corregir automáticamente respuestas escritas de estudiantes en las pruebas SABER, a fin de reducir el tiempo y costo de los procesos. Sin embargo, en los resultados de un simulacro nacional, se identifican respuestas bien redactadas que fueron evaluadas como incorrectas. Algunos docentes afirman que el sistema no entiende expresiones culturales o formas de argumentar válidas. Las familias y estudiantes no tienen acceso a la explicación del resultado.

Preguntas para analizar:

  1. ¿Qué riesgos existen al automatizar la evaluación de habilidades humanas como la argumentación?

  2. ¿Qué responsabilidad tiene el Estado en garantizar justicia en procesos educativos?

  3. ¿Deben los estudiantes o sus padres tener acceso a cómo el sistema toma decisiones?

  4. ¿Qué ocurre si un estudiante es afectado negativamente por un error del sistema?

  5. ¿Cómo se debería explicar y auditar el funcionamiento del sistema?

  6. ¿Qué principios del marco normativo colombiano sobre IA se deberían aplicar para garantizar equidad educativa?

]]> 2025-06-20 20:18:20 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497395998 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497396173 Un juzgado piloto en Colombia implementa un sistema de IA que analiza los expedientes judiciales para priorizar la atención de casos urgentes. Aunque en principio mejora la eficiencia del sistema judicial, abogados defensores advierten que los casos de violencia de género y otros procesos sensibles están quedando en segundo plano. La Defensoría del Pueblo solicita una revisión del algoritmo, ya que no existen criterios públicos ni mecanismos de rendición de cuentas sobre cómo se definen las prioridades.

Preguntas para analizar:

  1. ¿Qué peligros trae la automatización en la administración de justicia?

  2. ¿Qué sesgos podrían surgir en la priorización de casos?

  3. ¿Cómo se asegura la rendición de cuentas en decisiones tomadas (o influenciadas) por IA?

  4. ¿Qué responsabilidad tiene el Estado frente a víctimas afectadas por un mal funcionamiento del sistema?

  5. ¿Cómo puede garantizarse la no discriminación en sistemas que gestionan justicia?

  6. ¿Qué elementos del marco normativo colombiano sobre IA son esenciales para proteger los derechos en este contexto?

]]> 2025-06-20 20:19:09 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497396173 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497396339 Un estudio académico colombiano analiza el comportamiento de usuarios de redes sociales durante un año electoral. Descubre que los algoritmos de recomendación tienden a mostrar contenidos cada vez más extremos a los usuarios, alimentando la polarización política. Se identifican patrones de desinformación viral que afectan a ciertos grupos vulnerables. La plataforma niega responsabilidad directa y argumenta que la IA responde a las preferencias de los usuarios.

Preguntas para analizar:

  1. ¿Quién es responsable del contenido que se difunde algorítmicamente?

  2. ¿Qué consecuencias sociales pueden derivarse del diseño de estos algoritmos?

  3. ¿Debería el Estado regular los algoritmos de redes sociales? ¿Cómo?

  4. ¿Qué derechos individuales y colectivos se ven afectados?

  5. ¿Cómo se promueve un uso ético y seguro de estas tecnologías desde lo público?

  6. ¿Qué principios del marco colombiano podrían orientar una regulación sobre IA y redes sociales?

]]> 2025-06-20 20:19:55 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497396339 nrhincapie https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497396579 Una ciudad del Eje Cafetero implementa un sistema de predicción criminal que utiliza datos históricos para identificar zonas con mayor probabilidad de delitos y redirigir las patrullas de policía. Sin embargo, barrios de bajos ingresos reciben más vigilancia, lo que genera tensiones entre los residentes, quienes sienten que están siendo estigmatizados. A pesar de que el sistema muestra efectividad en la detección de robos, se cuestiona si reproduce patrones históricos de criminalización.

Preguntas para analizar:

  1. ¿Puede un sistema de IA perpetuar estigmas sociales o discriminación geográfica?

  2. ¿Cómo se puede detectar y corregir sesgos en datos históricos de criminalidad?

  3. ¿Qué impacto puede tener en comunidades marginadas un sistema de este tipo?

  4. ¿Cómo se comunica a la ciudadanía el uso de estas herramientas?

  5. ¿Cuál es el límite entre seguridad preventiva y vigilancia desproporcionada?

  6. ¿Qué lineamientos del marco colombiano sobre IA deberían garantizar que este sistema sea justo y transparente?

]]> 2025-06-20 20:20:57 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3497396579 La IA puede ser utilizada en algunas partes del proceso donde el seleccionador y el candidato no deben tener contacto, no obstante, la decisión final debe ser tomada por una persona, después de analizar coherentemente todas las variables a tener en cuenta, no solo debemos fijarnos en rasgos demográficos la parte psicosocial es muy importante a la hora de evaluar el talento humano. https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3656993321 2025-10-29 16:49:05 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3656993321 Germán https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3657028507

  • Estaría sucediendo discriminación con respecto a los ragos faciales, con respecto a color de piel, con respecto a ubicación demográfica debido a que puede tomar datos de clasificación de barrios y estratos sociales, con respecto al tipo de universidad donde recibió la formación.

  • No es correcto dejar que la IA decida por los humanos, ya que debido a que la IA aprende de toda la información que toma de internet o de la introducida por los humanos, pueden generarse sesgos de todo tipo contra los humanos.

  • Estableciendo políticas de uso de información y de ética sobre las IA.

  • Basándose en las políticas definidas por el gobierno nacional sobre el uso de información en las IA.

  • Se debe informar a través de correo electrónico que serán evaluados bajo unos aspectos meramente técnicos, que lo comportamental se debe evaluar por un humano calificado para esto.

  • Regulación sobre el uso correcto de la información personal y de bases de datos privadas como su historial médico.

    • ]]>     2025-10-29 17:13:05 UTC https://padlet.com/nrhincapie/ybpaz9slwn3tub7w/wish/3657028507