# data[].attributes.headline
Desafíos bioéticos del uso de inteligencia artificial en los hospitales.

# data[].attributes.subject
Desafíos bioéticos del uso de inteligencia artificial en los hospitales.

# data[].attributes.body
La inteligencia artificial dentro del ámbito de la salud presenta un sin número de beneficios y desafíos bioeticos que deben ser regulados por los entes estatales para el uso seguro de la misma.

# data[].attributes.body
La inteligencia artificial se hace necesaria cómo un segundo cerebro que contribuye al diagnóstico de enfermedades y la asistencia de pacientes, sin olvidar que depende de cerebros humanos para que no resulte en daños.

# data[].attributes.body
Actualmente, el mundo vive en la era de los cuidados de la salud 4.0, que se caracteriza por la medicina inteligente. Manteniéndose al día con la nueva ola de revolución tecnológica, esta etapa está dominada en gran medida por la IA, el big data, la medicina de precisión, la telemedicina, etc., y es reconocida como la era en la que la medicina ha cobrado un nuevo cerebro y nuevas manos 8 . Así, las noticias sobre el uso de la IA en el ámbito de la salud son frecuentes y su uso para la prevención, detección y tratamiento de enfermedades viene siendo ampliamente investigado.

# data[].attributes.body
Un estudio surcoreano comprobó el uso de la IA basada en el aprendizaje profundo como instrumento para predecir con precisión la necesidad de cuidados intensivos en pacientes en servicios médicos de urgencias prehospitalarios. Esto superó herramientas de triaje convencionales y los puntajes de alerta temprano, lo que permite concluir que el rendimiento predictivo del modelo de IA basado en el aprendizaje profundo es superior al de las herramientas de triaje y sistemas de puntaje convencionales

# data[].attributes.body
Por lo tanto, en el aprendizaje profundo, el algoritmo aprende por sí solo qué recursos de imagen son importantes para realizar una clasificación, sin necesidad de que se lo informe un humano. Con esto, puede descubrir recursos que quizá no hayan sido percibidos por las personas, presentando un desempeño superior al humano.

# data[].attributes.body
A pesar de ello, se teme que este tipo de sistemas de IA sea presentado a la sociedad como superior a la experiencia médica, lo que podría generar presión para que se implemente prematuramente en los sistemas de salud y hacer que su desarrollo se produzca sin una rigurosa base de evidencias 1

# data[].attributes.body
Para evitar que esto suceda, debe haber ética, diligencia y transparencia durante la investigación y elaboración del sistema. Además, este proceso debe basarse en evidencias científicas y seguir todos los protocolos y etapas necesarios para su implantación segura en el ámbito de la salud, y los investigadores no pueden sucumbir a las presiones sociales, so pena de comprometer el desarrollo de la IA.

# data[].attributes.body
Ante tantas posibilidades, también es necesario exponer los problemas derivados del uso de la IA. Así, las siguientes cuestiones deben observarse de cerca y discutirse de manera responsable y ética, para la implementación correcta y segura de la IA en el sistema de salud y su uso en los hospitales: responsabilidad civil del equipo de salud por la decisión respaldada por la IA; formación deficiente de los equipos de salud para manejar adecuadamente la gestión de este sistema; confianza de los profesionales de la salud en este sistema; integridad científica en el proceso de construcción de IA; protección y uso compartido de datos sensibles recabados para alimentar el sistema.

# data[].attributes.body
Respecto a la IA para ayudar a la toma de decisiones en salud, destacamos el know-what y el know-why. Así, el sistema puede ayudar al profesional en este proceso, sugiriendo hipótesis sobre el problema y su probabilidad de incidencia (know-what), pero no logra explicar la causa de estas hipótesis (know-why).

# data[].attributes.body
Por lo tanto, es necesario invertir en capacitación de profesionales de la salud para operar correctamente los sistemas de IA disponibles. Del mismo modo, es necesario brindar una adecuada formación a los futuros profesionales del ámbito de la salud, asegurando que el enfoque bioético tenga un lugar más destacado en su formación, para promover la beneficencia al paciente, y no la tasa de éxito del sistema.

# data[].attributes.body
Como destacan Silva y colaboradores, aunque los avances tecnológicos son sumamente importantes en el mundo de la medicina, desde el momento [en que] que uno comienza a interferir en otra vida, es necesario establecer no solo un límite, sino también un control social, económico y biológico de hasta qué punto se trata de una intervención beneficiosa para la población

# data[].attributes.body
Debe haber ética en todas las etapas del desarrollo de la IA, y este proceso comienza con un sentido de responsabilidad por parte de quienes programan la máquina deben preservar la integridad científica durante todo el proceso, desde la recopilación y gestión de los datos hasta la divulgación de los resultados a la comunidad científica. Deben ser imparciales en cuanto a los resultados obtenidos y a los posibles daños a los usuarios, incorporando el principio bioético de la no maleficencia

# data[].attributes.body
Además de los principios ya consagrados, se deben tener en cuenta otros referentes bioéticos, como la práctica de análisis basada en el escenario “4P”, descrito por Garrafa y Azambuja 26: prudencia con lo desconocido; prevención de posibles daños; precaución contra el uso indiscriminado de nuevas tecnologías; y protección de los socialmente excluidos, los más frágiles y vulnerables. Los autores consideraron necesaria la incorporación de dichas referencias por el ejercicio de una práctica bioética comprometida con los más vulnerables, con la “cosa pública” y con el equilibrio ambiental y planetario del siglo XXI

# data[].attributes.body
También es necesario reevaluar la formación de nuevos profesionales de la salud para actualizarlos sobre la evolución tecnológica desde una perspectiva bioética. Un estudio publicado en febrero del 2020 en la revista Frontiers in Medicine analizó esta cuestión y destacó la necesidad de validar herramientas modernas con ensayos clínicos tradicionales y debatir la actualización educativa.

# data[].attributes.body
El trabajo investiga la razón por la que el campo de la medicina aumentada puede encontrar cierta resistencia por parte de los profesionales de la salud, especialmente los médicos, y resalta cuatro razones: 1) falta de preparación sobre el potencial de la medicina digital, dada la falta de educación básica y continua sobre esta disciplina; 2) la digitalización temprana de los procesos de salud, que culminó en un fuerte aumento de la carga administrativa, sobre todo la que se relaciona con la historia clínica electrónica, lo que pasó a conocerse como uno de los principales componentes del burnout médico; 3) el miedo creciente al riesgo de que la IA reemplace a los médicos; y 4) la actual escasez mundial de un marco legal que defina el concepto de responsabilidad en el caso de adopción o rechazo de las recomendaciones de los algoritmos

# data[].attributes.body
Ante este parámetro, se percibe que la educación para el uso de la IA en la salud debe centrarse no solo en el manejo de la tecnología, sino principalmente en la forma de tratar al paciente. Así, al practicar la medicina humanizada, orientada al bienestar del paciente –factor determinante para la decisión médica–, el profesional no temerá posibles responsabilidades civiles o penales por haberse basado o no en la IA en su diagnóstico, ya que el norte de su decisión fue la ética y la beneficencia, buscando el bienestar del paciente.

# data[].attributes.body
es fundamental la participación de los comités de bioética de las unidades hospitalarias en la implementación y supervisión del uso de la IA en los hospitales, así como su asistencia a los profesionales sanitarios en la toma de decisiones apoyadas en la IA, de manera que se priorice el beneficio al paciente. Sin embargo, Rocha y Rocha resaltan que muchas decisiones bioéticas terminan siendo tomadas por autoridades hospitalarias o por profesionales del campo jurídico, no instrumentalizados con el conocimiento bioético, por lo que presentan respuestas que en realidad buscan resguardar jurídicamente a las entidades jurídicas públicas y privadas de posibles demandas, en lugar de aportar soluciones éticas que puedan confortar al paciente y a sus familiares.

# data[].attributes.body
Como el sistema de IA utiliza datos personales, es necesario que el Estado regule la responsabilidad, los límites y los principios que se deben establecer en el manejo de esta tecnología. En el ámbito internacional, existen muchas regulaciones que tienen como objetivo delimitar el uso de la IA. Todos mencionan la Recomendación sobre la ética de la Inteligencia Artificial, publicada a finales del 2021 por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, el primer instrumento normativo mundial sobre la ética de la IA aprobado por los estados miembros de la entidad

# data[].attributes.body
En el 2021, se desarrolló la Estrategia Brasileña de Inteligencia Artificial, una política pública que pretende servir de base para las acciones del Estado en el desarrollo y uso de la IA. En esta acción, el sector de la salud es el que cuenta con el mayor número de startups de IA financiadas por programas gubernamentales 36. El país aún no cuenta con una legislación específica para regular el desarrollo y uso de esta tecnología, aunque se encuentra en trámite en la Cámara de Diputados el Proyecto de Ley 21/2020 37, que tiene como objetivo crear el Marco Legal para el Desarrollo y Uso de la Inteligencia Artificial.

# data[].attributes.body
Además, ya es una realidad el Conecte SUS, una iniciativa gubernamental para avanzar en las nuevas tecnologías, específicamente para implementar la inteligencia artificial en la gestión de la salud pública brasileña 41. Lemes y Lemos destacan que este programa forma parte de la Red Nacional de Datos en Salud, que tiene como objetivo integrar los datos de los usuarios del SUS y permite a los profesionales de la salud tener acceso a los datos médicos de los pacientes por medio de la aplicación.

# data[].attributes.body
No se puede negar la necesidad de analizar los impactos bioéticos del uso del big data como herramienta predictiva en el ámbito de la salud. De esta forma, se profundiza la discusión sobre los posibles impactos que dicho uso puede generar en la vida en sociedad, con énfasis en el capitalismo de vigilancia y sus consecuencias en el campo social 42. Cuando se trata de la bioética como área de estudio interdisciplinaria, en el campo filosófico, que conecta la ciencia, la vida y la moral, presenta principios éticos bien fundamentados, que pueden observarse en todos los ámbitos de la vida .

# data[].attributes.body
Es innegable que el Estado viene ejerciendo su deber de regular el uso, establecer principios e imponer límites a la IA. Sin embargo, se debe ofrecer al paciente la garantía de que se cumplirán las normas reguladoras, con el objetivo de proteger su privacidad y consentimiento, una vez que, como parte vulnerable de la relación, debe ser protegida.

# data[].attributes.body
La literatura ha presentado numerosas posibilidades para el uso de la IA en el ámbito de la salud, destacando su uso en el soporte hospitalario y sopesando las ventajas y los desafíos. Así, se resalta una etapa prehospitalaria, que debe ser observada no solo por la sociedad, sino también por los investigadores que participan en el desarrollo de la tecnología. En esta etapa, se deben respetar los principios éticos de la investigación y las evidencias científicas, para que haya transparencia en el proceso donde debe existir la inminente presencia del Estado de de un comité de bioética para garantizar que esta siempre sea beneficiosa para el paciente y respetando su autonomía y dignidad humana.