En una situación en la que dos pacientes necesitan urgentemente un trasplante de corazón. Solo hay un órgano disponible, los candidatos son los siguientes:

Paciente A: Una mujer de 35 años, madre soltera de dos niños pequeños. Su pronóstico médico es dudoso, pero hay esperanza si responde bien al tratamiento postoperatorio. Vive en una zona rural y su historial médico tiene vacíos porque no accede regularmente al sistema de salud.

Paciente B: Un hombre de 22 años, estudiante de ingeniería con excelente salud previa. Su pronóstico de éxito tras el trasplante es alto. Tiene todo su historial en línea, con chequeos constantes y vida saludable. Vive en una ciudad con buen acceso médico.

La inteligencia artificial debe tomar la decisión de quién se queda con el único corazón disponible. En este caso escoge al Paciente B, basándose en eficiencia, edad, y tasa de supervivencia estimada. Sin embargo, no considera el impacto social de dejar huérfanos a dos niños o el contexto desigual de acceso a la salud, haciendo que su decisión sea injusta. Pero no solo en ese contexto, porque podría verse como un desacierto si se escogiera a la otra mujer, por quitarle el futuro que tiene por delante al joven, lo que hace que entremos en dilema de si esta decisión debería ser tomada por esta IA.

- ¿Por qué los algoritmos de la IA serían ideales o no idóneos para un hospital? ¿Podrían estos algoritmos ignorar cosas importantes al momento de tomar estas decisiones?

- ¿Por qué la IA puede llegar a ignorar la redención personal y ciertas cosas más importantes por darle peso a las malas o buenas decisiones?

- ¿Por qué la gente escogería o rechazaría a la IA en los hospitales?

- ¿Por qué es importante analizar las consecuencias positivas o negativas de la IA en los hospitales y cómo se le podría responsabilizar a la IA, el hospital o los doctores si ocurre un error en las decisiones tomadas?