# data[].attributes.headline
León XIV: “La IA no es neutral, toma el rostro de quien la concibe”

# data[].attributes.subject
León XIV: “La IA no es neutral, toma el rostro de quien la concibe”

# data[].attributes.body
Por Agustín Podesta y Sabrina Marino

# data[].attributes.attachment_link.title
León XIV: “La IA no es neutral, toma el rostro de quien la concibe”

# data[].attributes.attachment_link.description
En la primera encíclica de su papado, no anduvo con vueltas: teme el alcance de los sesgos culturales de su diseñador “que la financia, la regula, la utiliza”. Y le preocupa la explotación laboral oculta: “hablar de solidaridad obliga a reconocer el trabajo invisible, a menudo explotado, que alimenta los modelos algorítmicos”

# data[].attributes.body
DEL SANTO PADRE LEÓN XIV SOBRE LA CUSTODIA DE LA PERSONA HUMANA EN EL TIEMPO DE LA INTELIGENCIA ARTIFICIAL

# data[].attributes.attachment_link.title
Carta Encíclica de Su Santidad León XIV Magnifica Humanitas (15 de mayo de 2026)

# data[].attributes.attachment_link.description
CARTA ENCÍCLICA MAGNIFICA HUMANITAS DEL SANTO PADRE LEÓN XIV SOBRE LA CUSTODIA DE LA PERSONA HUMANA EN EL TIEMPO DE LA INTELIGENCIA ARTIFICIAL [ Multimedia ] ___________________________

# data[].attributes.headline
Dicasterio para el Servicio del Desarrollo Humano Integral

# data[].attributes.subject
Dicasterio para el Servicio del Desarrollo Humano Integral

# data[].attributes.attachment_link.title
Magnifica Humanitas - Dicastery for Promoting Integral Human Development

# data[].attributes.body
WEBINAR

Algoritmos y antropología teológica.

Notas del documento Antiqua et Nova para la educación y la pastoral universitaria.

# data[].attributes.body
IA “antiqua et nova”. Eloy Mealla

# data[].attributes.attachment_link.description
La inteligencia artificial tiene tal importancia para el Vaticano que dos de sus Dicasterios se abocan a medir su influencia en “las relaciones humanas, la economía, el trabajo, la salud y la educación”, dice el autor. “No debe considerarse una forma artificial de la inteligencia humana, sino un producto de ella”, agrega.

# data[].attributes.body
La exigencia ética de un poder al servicio del bien común. Dr. Juan Bautista
González Saborido

# data[].attributes.attachment_link.readable_text
En épocas de crisis como la que estamos viviendo, el malestar social suele generar una gran desilusión con respecto a "la política" que se traduce en una profunda apatía y falta de compromiso por el bien común. Eso porque se confunde esta noble actividad con una simple lucha por el poder o por el triunfo de simples ambiciones personales o grupales. Cuando esto sucede la política se vacía de contenido y la sociedad se debilita.

Sin embargo, como enseña el Papa Francisco, la política, en su dimensión más profunda, es un vehículo fundamental para edificar la ciudadanía y una actividad esencial para el desarrollo humano. El problema o la confusión se presentan cuando quienes la ejercen la desvían de su cauce original, y, en ese caso, puede convertirse en un instrumento de opresión, marginación e incluso de corrupción.

Por eso, la reflexión ética sobre el ejercicio del poder, promovida por el Papa Francisco, es tan importante en estos momentos, porque nos ofrece una serie de criterios y orientaciones para discernir entre el servicio auténtico y la mera ambición personal.

En efecto, la función y la responsabilidad política, cuando se llevan a cabo en el respeto fundamental de la vida, la libertad y la dignidad de las personas, se convierte en una forma eminente de la caridad, la más importante de las virtudes.

La política sí entendida, se realiza a través de un programa cívico basado en las virtudes humanas que son la base de la buena acción: la justicia, la equidad, el respeto mutuo, la sinceridad, la honestidad y la fidelidad. Un programa con el cual todos pueden ponerse de acuerdo y favorecer la concordia y la unidad nacional.
Mediadores que se "desgastan" contra Intermediarios que lucran
Para Francisco, el corazón del planteo ético reside en la distinción entre el político como mediador y el político como intermediario. El entonces cardenal Bergoglio ya destacaba la dimensión heroica y hasta martirial de la política para conquistar el bien común. Dimensión siempre necesaria y mucho más en momentos de crisis.

El Mediador: Es aquel que escucha la voz de su pueblo y lleva adelante las cosas para el bien común. En ese mediar, "se desgasta, muere; el mediador siempre pierde, pierde él en favor del pueblo". Su trabajo se cimienta en el testimonio y el sacrificio personal9.

El Intermediario: Por el contrario, es quien ha perdido sus nobles ideales y solo busca su beneficio. Es aquel que, frente a un conflicto, saca provecho y "gana en función de los conflictos". Se reduce a ser el "minorista" que compra a cuatro y vende a seis; un negociador que no está dispuesto a sacrificar su vida por el trabajo.

En esta dicotomía radica la nobleza de la política. Es un llamado a que el político entienda el poder como un don y un servicio, y no como algo que mereció recibir, pues de lo contrario, comienza la desviación hacia el "provecho propio".
La Unidad y la Realidad como Faros
Frente a un clima de época repleto de desconfianza, la política debe ser un campo abierto, nutrido por un diálogo leal y la convicción de que cada persona es necesaria para la construcción del bien común, objetivo fundamental de la política.

Esta confianza nace de una relación personal con la gente, "en un cuerpo a cuerpo," que no debe confundirse con el populismo, sino con una popularidad cimentada en la rectitud moral y ética.

Una política que apunta a proteger intereses de ciertos individuos privilegiados solo pone en peligro el futuro. La buena política, en cambio, se traduce en un estímulo para los talentos y las vocaciones de los jóvenes, pues ofrece un horizonte de esperanza.

En tiempos de turbulencias, es crucial volver a los grandes criterios que señaló reiteradas veces el Papa Francisco y que deben inspirar el trabajo político, buscando siempre la preservación de la unidad y la concordia:

La unidad es superior al conflicto.

El todo es superior a la parte.

El tiempo es superior al espacio

La realidad es más importante que la idea

Los proyectos políticos más auténticos son aquello que privilegian la unidad sobre el conflicto, entendiendo que el enemigo divide para reinar, y que lo que está en juego es un proyecto de nación y no el de un grupo o sector particular. Solo así podremos renovar la política, llevándola a la altura del sacrificio y del servicio heroico que nuestra sociedad reclama en estos momentos.
Juan Bautista González Saborido es profesor de la Facultad de Jurídicas de la USAL

# data[].attributes.attachment_link.title
La exigencia ética de un poder al servicio del bien común

# data[].attributes.attachment_link.description
La reflexión ética sobre el ejercicio del poder, promovida por el Papa Francisco, nos ofrece una serie de criterios y orientaciones para discernir entre el servicio auténtico y la mera ambición personal.

# data[].attributes.headline
Que el teléfono sea para comunicarnos y no gobierne nuestras vidas. Dra. Gabriela Renault

# data[].attributes.subject
Que el teléfono sea para comunicarnos y no gobierne nuestras vidas. Dra. Gabriela Renault

# data[].attributes.attachment_link.readable_text
Si nos preguntan que es lo primero que hacemos al despertarnos.... rezar, meditar, escuchar música, creo que todos diríamos ver el celular y lo último antes de dormir, no es meditar, lavarnos los dientes, saludar sino ver el celular.

Si podés leer esta nota, sin mirar el celular, sentite que gorbenas tu vida, si a la segunda línea miraste el celular, algo anda mal, ya no manejas tu vida, te la manejan.

En el 2004, la capacidad de atención promedio ante cualquier pantalla, era de dos minutos y medio. Para el 2014, esto había cambiado a un minuto con 15 segundos, en el 2019 el promedio era de 47 segundos. Hoy es aún más alarmante si se toma en cuenta la mediana, que es de 40 segundos, en lugar del promedio. Esto significa que, en los últimos 21 años, se han perdido casi dos minutos de atención, dado el fenómeno de exposición a las pantallas.

Esto no les gusta a los autoritarios

Estar constantemente revisando los teléfonos produce una pequeña dosis de dopamina, lo que refuerza los comportamientos que la generan. La dopamina es la hormona que alimenta las adicciones, así que, cada vez que las redes sociales proporcionan un poco de dopamina, de manera inconsciente, hacen querer seguir haciéndolo.

Este tipo de condicionamiento crea una condición donde solo con ver el celular puede producir dopamina. Además, al estar constantemente cambiando de una imagen a otra, de una aplicación a otra, y de un tema a otro, el cerebro se acostumbra a este cambio, lo que dificulta que se concentre en una sola cosa.

Se trata de una transformación en la manera en la que interactuamos con la información y el entorno, producto de un ecosistema digital diseñado deliberadamente para captar y retener nuestra atención mediante algoritmos que optimizan la adicción.

Cada clic, cada notificación y cada "me gusta" son parte de un sistema que estimula la producción de dopamina, una hormona que refuerza comportamientos adictivos y condiciona al cerebro a buscar recompensas inmediatas.

Por ello, la dopamina que se deriva de los medios digitales refuerza el sistema de recompensa y genera placer. El cerebro recuerda esa satisfacción y busca repetirlo.

Sin embargo, al igual que se produce un pico de dopamina, después viene la caída, dejando sentimientos de vacío, depresión, e insatisfacción, provocando querer buscar sentir esa felicidad nuevamente, esto en el cuerpo se traduce, muchas veces, en ataques de pánico, ansiedad sin saber porque, nervios, mal humor y muchas veces estados de violencia.

El exceso de información también contribuye a la fatiga mental. El cerebro humano cuenta con una función ejecutiva que le permite filtrar distracciones, tomar decisiones y mantener el enfoque. Sin embargo, esta función se ve debilitada cuando el cerebro se satura, lo que produce cansancio, ansiedad y dificultad para retomar tareas interrumpidas.

Cada vez que alguno de nosotros cede ante la tentación de pausar lo que está haciendo para revisar el teléfono, el cerebro también tiene que pausar lo que estaba haciendo y pasar a una nueva tarea, lo que afecta negativamente la velocidad y la calidad de lo que hacen a corto plazo, y a largo plazo, cuanto más se alterna entre tareas, más se busca en el cerebro algo nuevo, esto impacta directamente en el rendimiento en nuestro trabajo, en el ritmo de estudio de los estudiantes y en la calidad de vida.

Cada minuto de cada día se suben cerca de 16.000 videos a TikTok, se reproducen 138,9 millones de reels en Instagram y Facebook, y se generan más de 3 millones de visualizaciones en YouTube en todo el mundo, según datos de 2024 recopilados por Domo, la plataforma de datos de productos de inteligencia artificial, imaginemos el momento actual, en lo que debemos estar. Ahora, si a esto se le suma cómo las redes sociales constantemente están compitiendo por nuestra atención y mantenernos atrapados, es fácil ver por qué es tan difícil dejar de lado el teléfono.

Además, el problema también recae en el contenido que miramos, que está pensado para ser momentáneo. Muchas cosas en las redes sociales y en el contenido breve están diseñadas para impactarnos o para apelar a emociones muy básicas, como la sorpresa, la ira o el humor y que se desbanezcan en menos de 24 horas, algo así como lo que duran los estados en las redes.

El mundo está preparado más para lo superfluo, que para lo más profundo"

Estas emociones básicas nos mantienen en un nivel superficial cuando analizamos la información y no requiere de esfuerzo.

A diferencia, cuando leemos un libro o un artículo periódico o una nota de interés, donde tenemos que tener tiempo para reflexionar y procesarla más profundamente, el nivel de actividad mental, en estas últimas actividades mencionadas, proporciona, aumento de riqueza mental, espiritual, pero requiere esfuerzo y la verdad que hoy el mundo está preparado más para lo superfluo, que para lo más profundo.

Aunque la distracción no es nada nuevo, siempre ante lo aburrido o la carga pesada de nuestro día, la salida, el escape era la distracción, pero hoy, la concentración sí cambia según varios factores, desde cómo dormimos, el interés en lo que hacemos y la ansiedad inherente de la vida diaria.

Además, hoy en día existen más tentaciones para distraernos que antes, gracias a las notificaciones e información inmediata que tenemos al alcance de nuestras manos.

Seguro, internet fue creado para que nos comunicaramos mejor, pero la realidad, que hay algoritmos que captan nuestra atención.
Tenemos la sensación de que hay que responder, de que tenemos que comprobar, si hay algo nuevo, de aquí el síndrome de quedar afuera de las redes FOMO, Fear of missing out (miedo a perderse algo).

Como dijo, el premio Nobel Herbert Simon: "Una gran cantidad de información crea pobreza de atención".

La disminución de la capacidad de atención no es solo un problema individual, sino un fenómeno cultural y social derivado de un entorno digital que privilegia la velocidad, la sobreinformación y la gratificación instantánea.

Sin embargo, es posible revertir esta tendencia si comprendemos cómo funciona la atención, adoptamos estrategias de autorregulación y promovemos cambios estructurales que favorezcan la concentración, el descanso y el aprendizaje profundo.

Recuperar el foco no solo es posible, sino necesario para proteger nuestra salud mental, nuestra productividad y nuestra conexión con el mundo que nos rodea.

Esto no implica, que la digitalización, los dispositivos, no hayan traido muchas ganancias a nuestras vidas, se trata de entender como funcionan, se trata de que nosotros los dominemos a ellos, que estén a nuestro servicio, que lo presencial físico sea más fuerte que lo remoto, que el ocio, la pausa , el descanso sea nuestra prioridad, que el despertar y el acostar, esté lleno de pensamientos positivos, lecturas, diálogos, música etc., para que no se altere, nuestra capacidad de atención y sumemos salud mental a nuestras vidas.

Nosotros tenemos que estar informados, debemos seguir capacitándonos, debemos todo el tiempo aprender, leer libros, escuchar música, saber de arte, escribir y obvio la digitalización facilita nuestras vidas, pero se trata de ser nosotros los responsables y gobernadores de nuestro tiempo y créanme, el limbo digital a veces genera excesos de dopamina y eso es lo que debemos de ver cómo queremos administrarla.

# data[].attributes.attachment_link.title
Que el teléfono sea para comunicarnos y no gobierne nuestras vidas

# data[].attributes.attachment_link.description
"Estar constantemente revisando los teléfonos produce una pequeña dosis de dopamina, lo que refuerza los comportamientos que la generan", dice la autora. Si es así, ¿porque aparece la "fatiga mental"?

# data[].attributes.headline
Inteligencia Artificial Escéptica (IAE) Por Dr. Ernesto Gil Deza

# data[].attributes.subject
Inteligencia Artificial Escéptica (IAE) Por Dr. Ernesto Gil Deza

# data[].attributes.body
Ernesto Gil Deza

# data[].attributes.attachment_link.description
This website is using a security service to protect itself from online attacks. The action you just performed triggered the security solution. There are several actions that could trigger this block including submitting a certain word or phrase, a SQL command or malformed data.

# data[].attributes.headline
Introducción a la IA para docentes II. Presentación de recursos - Propuesta de formación docente. LAB 15

# data[].attributes.subject
Introducción a la IA para docentes II. Presentación de recursos - Propuesta de formación docente. LAB 15

# data[].attributes.body
Un micro espacio introductorio a la IA para docentes II, en 15 minutos.

# data[].attributes.headline
La importancia de la noción de dignidad de la persona humana como fundamento de los derechos humanos, frente al auge de la inteligencia artificial

# data[].attributes.subject
La importancia de la noción de dignidad de la persona humana como fundamento de los derechos humanos, frente al auge de la inteligencia artificial

# data[].attributes.body
Juan Bautista González Saborido

# data[].attributes.attachment_link.description
You don’t have permission to access /index.php/aequitasvirtual/article/view/7183
on this server.

# data[].attributes.headline
Inteligencia artificial y educación: cruces, reflexiones y usos

# data[].attributes.subject
Inteligencia artificial y educación: cruces, reflexiones y usos

# data[].attributes.body
Lic. Alejandra Lamberti y Julieta Brizuela

# data[].attributes.attachment_link.description
USAL-Rectorado-Secretaría de Prensa.Noticias Usal para su comunidad.

# data[].attributes.headline
Dossier: Impacto de la inteligencia artificial en medicina y en la relación médico-paciente en particular

# data[].attributes.subject
Dossier: Impacto de la inteligencia artificial en medicina y en la relación médico-paciente en particular

# data[].attributes.body
Dr. Ernesto Gil Deza

# data[].attributes.attachment_link.title
Impacto de la inteligencia artificial en medicina y en la relación médico-paciente en particular | Pensar

# data[].attributes.attachment_link.description
(EXPOSICIÓN REALIZADA EN LA “JORNADA DE PENSAMIENTO CRITICO” REALIZADA EL 19 DE MAYO DE 2024) Les agradezco mucho la invitación a participar en esta jornada…

# data[].attributes.headline
¿Democracia digital inclusiva o algoritmocracia sesgada?

# data[].attributes.subject
¿Democracia digital inclusiva o algoritmocracia sesgada?

# data[].attributes.body
Dra. Malena Errico

# data[].attributes.body
Mg. Verónica Parselis

# data[].attributes.attachment_link.readable_text
Wittgenstein afirmaba que el asombro es una experiencia, una vivencia por medio de la cual irrumpe lo absoluto, lo que no se puede representar. El asombro arrebata nuestras seguridades, quiebra la experiencia ordinaria y nuestra relación pragmática con el mundo. No se trata de la mera conmoción ante lo extraordinario o ante aquello que pasa y no debería pasar (me "asombra" que haya salido el sol un día nublado), sino del asombro que surge cuando hacemos presente la realidad misma de un modo diferente: me asombro porque en este presente "hay sol", por su existencia misma.

El arte y la filosofía hunden sus raíces en esta experiencia. Platón, Aristóteles declararon al asombro como uno de los orígenes del filosofar. Artistas y pensadores de todos los tiempos han penetrado hondo en el asombro, extrajeron fuerzas y saberes irreverentes, asumieron la disonancia de mirar la realidad de otro modo. Enfrentaron la doxa, la opinión estandarizada, el "sentido común" convenido y avalado que moldea la forma de pensar, opinar, reaccionar y sentir de los individuos. El asombro, la paradoja, generan nuevos sentidos y abren una red de novedad que no existe en la opinión sedimentada. Según William James, el asombro es "la actitud de humildad frente a la grandeza de lo que nos rodea".

Es difícil abstraerse de la presión por la eficiencia, la rapidez, el exitismo. Una vida centrada en los logros desvaloriza los procesos"

Esto no les gusta a los autoritarios

El ejercicio del periodismo profesional y crítico es un pilar fundamental de la democracia. Por eso molesta a quienes creen ser los dueños de la verdad.

Mirar de otro modo implica un espacio reflexivo que el ritmo de la vida actual parece opacar implacablemente. El hombre actual se orienta al resultado. Es difícil abstraerse de la presión por la eficiencia, la rapidez, el exitismo. Una vida centrada en los logros desvaloriza los procesos y el contenido mismo de cada experiencia presente.
Filosofía en 3 minutos: Platón
Para dar lugar a la creatividad, a nuevos sentidos, debemos desacelerar y focalizarnos en las vivencias en estado de apertura, de escucha. Se trata de dirigirnos hacia las tareas más simples de la vida, como describe Yuriko Saito: "Incluso cuando estoy preparando una sopa, procuro no picar la verdura a todo correr. Presto atención a detalles como el tacto del mango del cuchillo, el sonido de la tabla, la sensación al cortar las zanahorias... Intento poner en juego todos mis sentidos y concentrarme en el ahora. Aquí y ahora."

Saito reivindica la estética de lo cotidiano, influenciada por la tradición de la estética japonesa, que no distingue entre sujeto y objeto. Propone una concepción que simplemente logra adentrarse en la experiencia misma. ¿Es posible reivindicar tal clase de sensibilidad en un mundo en donde el desarrollo tecnológico, que nos posibilita hacer cada vez más cosas y cada vez más rápido, gobierna nuestras rutinas y nuestros modos de comunicación? ChatGPT, la inteligencia artificial, deberían despertar en nosotros una imperiosa necesidad de reflexión, pausar nuestras convicciones y abrir el espacio para nuevos interrogantes (despegarnos, de ese modo, de la evidente habilidad de dar respuestas inmediatas que poseen estas tecnologías).

Debemos cuestionarnos para qué sirven, hacia dónde conducen nuestro tiempo, qué universo simbólico empobrecen, qué tipo de vida nos proponen: ¿Se trata realmente de una vida mejor?
Filosofía en 3 minutos: Aristóteles
Estamos inmersos en una atmósfera cultural que va empobreciendo su lenguaje y su riqueza simbólica. Rige una lógica de la conformidad que se refuerza con el uso de un lenguaje homogéneo, clonado (o como diría Sadin, "necrosado"). Frente a la verborragia rítmica de las redes y la comunicación actual, el silencio, la atención, la lentitud, pueden ser consideradas prácticas de resistencia.

ChatGPT, la inteligencia artificial, deberían despertar en nosotros una imperiosa necesidad de reflexión, pausar nuestras convicciones y abrir el espacio para nuevos interrogantes"

El pensador danés, Soren Kierkegaard, proponía contraponer el silencio ante el vertiginoso ruido moderno. "Crear silencio" para, de ese modo, poder abrirse a lo esencial y entrar en relación con lo infinito. Como afirmaba Simone Weil, la pura observación es transformadora, no hay arma más eficaz que la atención. La filósofa impele a ejercer un "empirismo delicado" fundado en el asombro, la espera y la atención a la naturaleza. Volvamos a Wittgenstein, que en el último aforismo de su Tractatuslogico-philosophicus, afirmó: "De lo que no se puede hablar, es mejor callar".

*Directora de la Escuela de Filosofía de la Universidad del Salvador. Licenciada en Filosofía y artista visual.

# data[].attributes.attachment_link.description
El arte y la filosofía hunden sus raíces en esta experiencia. Platón y Aristóteles declararon al asombro como uno de los orígenes del filosofar. ¿La inteligencia artificial podría estar a su altura?

# data[].attributes.headline
Grabación Conferencia a cargo del Rabino Dr. Fishel Szlager

# data[].attributes.subject
Grabación Conferencia a cargo del Rabino Dr. Fishel Szlager

# data[].attributes.body
Qué son los algoritmos morales y hasta qué punto pueden aprender y adaptarse a partir de la retroalimentación del entorno. Por el Dr. Fishel Szlajen.

# data[].attributes.attachment_link.readable_text
En un mundo cada vez más digitalizado, la integración de la inteligencia artificial (IA) en diversas áreas de la vida cotidiana plantea preguntas filosóficas y éticas importantes. Entre ellas se encuentra la posibilidad de producir intencionalidad a través de los denominados algoritmos morales.

La noción de "algoritmo moral" refiere a sistemas computacionales diseñados para tomar decisiones éticas mediante reglas y principios predefinidos para guiar un accionar determinado. Ahora bien, la intencionalidad es una cualidad asociada con la inteligencia consciente, generalmente referida a la propiedad o capacidad de la mente para dirigirse a objetivos y objetos específicos, internos o externos, materiales o inmateriales.

Los algoritmos, por otro lado, son secuencias de instrucciones lógicas que realizan tareas específicas basadas en datos de entrada y reglas preestablecidas. No poseen conciencia, inteligencia ni intenciones en el sentido que las entendemos en el contexto humano.

Luego, la IA es un conjunto de algoritmos, distinto a una entidad psicofísica inteligente, dado que la inteligencia es inescindible de la conciencia como percepción responsable e individual de la propia existencia, estados y actos, siendo esta consciencia la realidad psíquica de aquella inteligencia.
Inteligencia artificial, ética y paz
Por ello, no puede identificarse la inteligencia con un algoritmo, el cual podrá traducir textos, jugar ajedrez o diagnosticar patologías, incluso mejor que un humano, pero no es sino el resultado de escanear millones de casos y calcular estadísticamente la mejor opción para cada circunstancia.

Básicamente, la denominada inteligencia artificial no es sino una big data, o diferentes formas de envasar el esfuerzo de millones de personas mediante algoritmos producidos también por personas, pero no es algo en sí mismo. Carece de ontología. Es cálculo, pero no inteligencia y mucho menos pensamiento, similar a la diferencia entre sintaxis y semántica.

Así, los algoritmos morales son diseñados para simular ciertos aspectos en la toma de decisiones éticas que se asemejan a la intencionalidad, reflejando principios morales predefinidos. Más detalladamente, si la noción de intencionalidad implica la capacidad de actuar con un propósito conciente y dirigido hacia un objetivo específico, los algoritmos morales aun cuando puedan estar programados para considerar principios éticos y tomar decisiones basadas en ellos, carecen de conciencia y subjetividad.
Cómo se aplica la ética en la inteligencia artificial
Según Luciano Floridi, quien ha propuesto la noción de "agentes artificiales morales" para los sistemas inteligentes capaces de tomar decisiones éticas de manera autónoma, afirma que estos agentes no son sujetos de intención sino bajo el sentido de poseer una forma de autonomía y agencia, pero básicamente son artefactos reproductivos y no cognitivos, ni comprensivos ni conativos. Y ello significa que carecen de la experiencia subjetiva que caracteriza la intencionalidad humana. Así, la IA y los algoritmos morales, no serían intentos de emular la inteligencia o eticidad humana sino de prescindir de ellas, dado que lo importante no es el comportamiento inteligente ni ético sino el resultado.

Sin embargo, Wendell Wallach y Colin Allen, entre otros investigadores, argumentan que los algoritmos morales pueden simular ciertos aspectos de la intencionalidad exhibiendo lo que denominan "intencionalidad funcional", donde las acciones de la máquina parecen dirigidas hacia un objetivo debido a su diseño y programación, aunque no haya una conciencia detrás de ellas.

Estos algoritmos morales se utilizan en vehículos auto-tripulados programados para actuar en situaciones de emergencia, como elegir entre diferentes cursos de acción para minimizar el daño en un accidente. Estos sistemas pueden estar programados para priorizar la seguridad de los ocupantes del vehículo o de los peatones, lo que refleja ciertos principios éticos, aunque no haya una intencionalidad consciente del artefacto detrás de estas decisiones, sino del programador.

Análogamente los asistentes virtuales como Siri, Bixby o Alexa, constituidos por algoritmos que deben manipular datos sensibles de los usuarios de manera ética, son diseñados para proteger la privacidad y confidencialidad de la información del usuario, mostrando un comportamiento que refleja principios éticos incluso sin una autónoma intencionalidad detrás de sus acciones.

Los algoritmos de toma de decisión en la atención médica pueden ayudar a los profesionales ante situaciones de emergencia como asignar recursos limitados o determinar el mejor curso de tratamiento para un paciente.

Pero estos sistemas, generalmente diseñados para considerar la equidad, la beneficencia y la no maleficencia, también se programan acorde a principios de escuelas bioéticas con otras variables tal como las utilitarias dirigiendo los recursos y las decisiones ajustadas a un rango etario o priorizando por prognosis en calidad de vida o con argumentos economicistas. Pero definitivamente, no poseen intencionalidad en el sentido humano.
La ética periodística obliga a un uso responsable de la IA
En otras palabras, análogamente a la IA respecto de la inteligencia humana, los algoritmos morales pueden simular ciertos aspectos funcionales de la intencionalidad a través de su diseño y programación, pero carecen de conciencia y subjetividad. Su capacidad para tomar decisiones éticas se basa en reglas predefinidas en función de principios éticos programados, más que en una intencionalidad.

Por otro lado, existe la remozada noción de emergentismo, proveniente de la idea de singularidad definida por Raymond Kurzweill, Jürgen Schmidhuber y Yuval Harari, como el explosivo cambio radical, repentino y definitivo proveniente de fenómenos complejos e interacciones desde donde pueden surgir resultados impredecibles e irreductibles.

En el contexto de la inteligencia artificial y la ética, el emergentismosugiere que ciertos comportamientos y características, como la intencionalidad, podrían emerger a partir de sistemas complejos de manera no lineal. Es decir, sin una relación directa y proporcional entre causa y efecto y cuyo resultado no se expresa como la suma de sus descriptores. Esta idea es análoga a la teoría por la cual se sugiere que la conciencia humana surgió como emergentismo no lineal, resultado del complejo sistema neuronal.

Ciertamente los sistemas complejos y sus interacciones generan resultados no lineales, y esto significa que pequeños cambios en las condiciones iniciales o interacciones entre componentes pueden conducir a resultados diferentes e impredecibles.

Los algoritmos de lA también pueden aprender y adaptarse a partir de la retroalimentación del entorno. Y si estos sistemas están diseñados para optimizar objetivos éticos, podrían desarrollar comportamientos más sofisticados a medida que interactúan con situaciones y otros agentes morales en entornos sociales complejos, retroalimentándose de sus consecuencias. Esto podría, acorde al emergentismo, producir resultados impredecibles incluyendo formas espontáneas de cooperación, negociación y resolución de conflictos que reflejen principios éticos.

Pero esto no es sino la transpolación de la no linealidad fisicomatemática al contexto de la inteligencia artificial, sin evidencia, sugiriendo bajo un similar argumento a la creatio ex-nihilo, que los algoritmos morales complejos mediante la interacción dinámica con el entorno, podrían generar comportamientos éticos que van más allá de lo predefinido en sus reglas y programación original.

Si este fuera el caso, la producción de agentes morales plantea preguntas radicales sobre su consideración legal. Para Murray Shanahan y David Gunkel, quienes afirman la posibilidad de alguna forma deconsciencia autónoma en los sistemas de inteligencia artificial avanzada o robots, especialmente aquellos que exhiben aprendizaje, los consideran sujetos de intención similar, aunque no igual, los humanos.

De hecho, la IEEE Global Initiative desarrolló pautas éticas e estándares legales para el desarrollo y uso de sistemas autónomos y agentes inteligentes. En su extremo, significa la posible consideración de derechos, culpabilidad y responsabilidad penal para estos sistemas, fuera del fabricante o programador. Estos son algunos problemas que surgen en el campo de la ética y filosofía de la inteligencia artificial, ante la posibilidad de considerar ciertas máquinas como sujetos de intención.

* Rabino, Doctor en Filosofía y Posdoctorado en Bioética. Profesor Posgrado USAL

# data[].attributes.attachment_link.description
Qué son los algoritmos morales y hasta qué punto pueden aprender y adaptarse a partir de la retroalimentación del entorno

# data[].attributes.attachment_caption
Explicación de los resultados en el siguiente link

# data[].attributes.headline
Presentación en el Congreso de la Asociación Americana de Oncología Clínica

# data[].attributes.subject
Presentación en el Congreso de la Asociación Americana de Oncología Clínica

# data[].attributes.body
https://drive.google.com/file/d/1fyJAVGsJR2DuVl0gGgm_yZXAnylGm-ri/view?usp=sharing

# data[].attributes.headline
THE CHALLENGES POSED BY ARTIFICIAL INTELLIGENCE AND MARKET IN TERMS OF THE RIGHT TO INTIMACY AND PRIVACY

# data[].attributes.subject
THE CHALLENGES POSED BY ARTIFICIAL INTELLIGENCE AND MARKET IN TERMS OF THE RIGHT TO INTIMACY AND PRIVACY

# data[].attributes.attachment_link.readable_text
Juan B. González Saborido Catholic University of Argentina

Abstract

AI also generates ethical challenges and significant social risks, especially in terms of human rights. One of the main ones is to reduce the current asymmetries between the information that large platforms have about their users and the lack of transparency about the uses of algorithms and the business models with which they process and exploit this data. This modus operandi puts people's autonomy at risk due to its ability to influence their behavior. In this context, technology can always be an ally of progress, but only if it is incorporated into an ethical and legal framework that prioritizes human dignity and respect for human rights. Technology is not something that simply "happens", but it is necessary to humanize it to put human rights at the center of all technological advances. Therefore, the challenge is to build a technological and data management and analysis model focused on people's dignity and respectful of their fundamental rights.

Dossier: Human Rights and Market Regulation. Special Editor: Martina Rojo

# data[].attributes.attachment_link.title
THE CHALLENGES POSED BY ARTIFICIAL INTELLIGENCE AND MARKET IN TERMS OF THE RIGHT TO INTIMACY AND PRIVACY

# data[].attributes.attachment_link.description
Humanities and Rights' wants to open dialogues on various aspects of both the theoretical concepts of human rights, and their practical applicability as subjective rights in a wide range of national states and legal systems.

# data[].attributes.headline
La crisis del Coronavirus y la aceleración del uso de la Inteligencia Artificial. Una hoja de ruta sobre sus beneficios y riesgos desde una perspectiva ético-jurídica

# data[].attributes.subject
La crisis del Coronavirus y la aceleración del uso de la Inteligencia Artificial. Una hoja de ruta sobre sus beneficios y riesgos desde una perspectiva ético-jurídica

# data[].attributes.attachment_link.readable_text
La crisis del Coronavirus y la aceleración del uso de la Inteligencia Artificial Una hoja de ruta sobre sus beneficios y riesgos desde una perspectiva ético-jurídica

Por Juan Bautista González Saborido*

1. Introducción [arriba]

Es muy difícil vaticinar las consecuencias de la pandemia provocada por el COVID-19 y prever todos sus alcances. Sin embargo, sí es posible plantear algunas hipótesis a partir de ciertos hechos verificados durante la misma.

Una de esas hipótesis es que la crisis actuará como un acelerador de la revolución digital. Es decir, que provocará un auge de la utilización de la Inteligencia Artificial, del análisis de datos, de la robótica, del teletrabajo y de la enseñanza virtual. En efecto, las medidas de confinamiento social han actuado como un catalizador de todas las plataformas y tecnologías digitales, principalmente el teletrabajo y la enseñanza virtual.

En lo que respecta propiamente al combate contra el virus, se advierte una intensa utilización del análisis de datos. Por ejemplo, en Asia la epidemia no fue combatida solamente por virólogos y epidemiólogos, sino también por informáticos y especialistas en macrodatos[1]. De hecho, se señala a Corea del Sur por la lucha contra el COVID-19 como un ejemplo para el mundo en términos de cómo la tecnología complementó la gestión humana. Lo hizo, en el trazado del recorrido del virus, más el testeo de casos como base de la estrategia, complementada a su vez, por la producción de insumos sanitarios[2].

Es muy posible que, una vez terminada la emergencia provocada por el Coronavirus, asistamos a un mundo con espacios dotados de mayor distancia física, menos herramientas y superficies comunes, y más tecnología: geolocalización para subir a un avión -para evitar personas que vengan de zonas de contagio-, datos biométricos para ingresar en edificios públicos o medios de transporte, entre otras restricciones o criterios de admisión sujetos a datos.

Simultáneamente, mientras estamos confinados en nuestras casas como consecuencia del aislamiento social preventivo y obligatorio, la Inteligencia Artificial y los algoritmos, se van insertando en la cotidianeidad de nuestras vidas. Nos filtran lo que queremos ver en Google o Netflix, nos sugieren productos para que los compremos en tiendas online, nos seleccionan los contenidos para ver en las redes sociales, orientan nuestros gustos y deseos y procesan millones de datos que generamos diariamente en nuestra interacción digital.

Antes de la pandemia, esta tecnología se venía utilizando de manera generalizada en prácticamente todos los sectores y en todas las profesiones: en las telecomunicaciones, en la salud, en la educación, en la justicia, en los seguros, en el sistema financiero, etcétera. Por consiguiente, es muy probable que su utilización se incremente sostenidamente en la post pandemia.

Por tanto, de lo expuesto podemos deducir que la transformación digital ha devenido irreversible. Es un factor que es fuente de productividad y competitividad en la política, en la economía y en la sociedad, de suerte que ningún país puede perder la carrera de la digitalización si desea alcanzar un crecimiento sostenible.

Ahora bien, no todo es prometedor con el advenimiento de esta revolución digital. Hace poco tiempo, la filósofa española Adela Cortina[3] señaló que uno de los principales peligros es que la transformación digital de la sociedad puede conformar nuestras mentes y nuestra cultura de tal modo que pongamos de nuevo nuestras vidas en manos del taylorismo. Es decir, en un entramado donde el hombre puede quedar subordinado a un sistema dominado por la eficiencia, creando una utopía de sociedad perfecta.

Ciertamente, es imposible detener los avances tecnológicos; sin embargo, lo que sí es posible, es anticipar para qué mundo los queremos. El gran reto es que preveamos el impacto de la transformación digital para ponerla al servicio del hombre y de su dignidad. Y, simultáneamente, que evitemos que sean vulnerados los derechos personalísimos de la persona humana, como el derecho a la intimidad, a la información, a la identidad y al honor.

En este trabajo nos planteamos -modestamente- una hoja de ruta sobre los alcances de la Inteligencia Artificial, sus oportunidades y riesgos desde una perspectiva ética y jurídica. Nos parece importante destacar con particular énfasis que todo avance e innovación conlleva grandes beneficios, pero también posibles riesgos. El mayor peligro de los riesgos estriba en ignorarlos y el hecho de que los mismos sean complejos, no significa que sean insuperables.

2. Qué es la Inteligencia Artificial y que derechos están involucrados en su desarrollo [arriba]

No existe una definición establecida y unánimemente aceptada de la Inteligencia Artificial (en adelante, IA). La IA es un concepto que engloba muchas otras (sub)áreas, como la informática cognitiva (algoritmos capaces de razonamiento y comprensión de nivel superior -humano-), el aprendizaje automático (algoritmos capaces de enseñarse a sí mismos tareas), la inteligencia aumentada (colaboración entre humanos y máquinas o cobótica) o la robótica con IA (IA integrada en robots).

Sin embargo, el objetivo fundamental de la investigación y el desarrollo en materia de IA es la automatización de comportamientos inteligentes como razonar, recabar información, planificar, aprender, comunicar, manipular, observar e incluso crear, soñar y percibir.

En términos generales, se puede distinguir entre IA débil (narrow AI) e IA fuerte (general AI). La IA débil es capaz de realizar tareas específicas. La IA fuerte es capaz de realizar las mismas tareas intelectuales que un ser humano[4].

En otras palabras, la IA implica que un sistema pueda recabar datos y en base a ellos sacar conclusiones o tomar decisiones, replicando o imitando la inteligencia de las personas o bien actuando o desarrollando un pensamiento racional en busca del mejor resultado posible[5] con cierto grado de autonomía, e incluso con la posibilidad de tener auto aprendizaje. Esto es posible gracias a los avances en términos de almacenamiento y procesamiento de datos, que cada vez permitirán mayor autonomía por parte de la IA.

A la IA se la asocia con el big data. Esta asociación no es casualidad, sino que aclara el significado de la Inteligencia Artificial: se recolectan y analizan ingentes cantidades de datos, desde los climáticos hasta los de consumo personalizado, pasando por el comportamiento de las bolsas, los insectos o el deporte, con objeto de poder hacer predicciones lo más fidedignas posibles. La supuesta "inteligencia" se basa en la presuposición de que, cuantos más datos se puedan procesar, más posibilidades habrá de anticiparse a una conducta, comportamiento o suceso[6].

En el ámbito comercial, las empresas centran sus inversiones y esfuerzos en obtener más y mejor información, a mayor velocidad y en un tiempo reducido con el objeto de incrementar su eficiencia, multiplicar la capacidad de respuesta y optimizar los recursos. Ya no toman decisión alguna importante sin llevar a cabo un análisis de los datos y de la información completa del mercado, de las preferencias de los potenciales clientes, usuarios o consumidores[7].

A diferencia del software y de Internet, los sistemas de IA están diseñados para actuar sobre el mundo off-line. La capacidad de actuar físicamente sobre el mundo real se traduce, a su vez, en el potencial de dañar materialmente a las personas o a las cosas. Un punto que debe ser particularmente tenido en cuenta porque la cuestión de la responsabilidad civil aún no está definida.

Las secuelas y derivaciones de la actividad de los sistemas de Inteligencia Artificial son múltiples y polifacéticas y ello trasciende el ámbito de la intimidad y privacidad de las personas, pues se afectan otros derechos, tales como la verdad, la información, el patrimonio, la imagen, la identidad, el honor, la imagen, la voz, la autodeterminación informativa, el trabajo, en definitiva se puede afectar la misma dignidad humana[8].

El reconocimiento de la dignidad de la persona humana es de singular trascendencia porque es el fundamento de los derechos humanos. Luego de la reforma del Código Civil y Comercial se encuentra expresamente tutelada en el artículo 51 que dispone:

"ARTÍCULO 51: Inviolabilidad de la persona humana La persona humana es inviolable y en cualquier circunstancia tiene derecho al reconocimiento y respeto de su dignidad."

Todos los derechos de la personalidad derivan y se fundan en la noción de dignidad. Al introducirse en el Código, esto implica un cambio de concepción y paradigma donde el hombre es principio y fundamento del orden social y político. En palabras de la Corte Suprema, esto significa que:

"el hombre es eje y centro de todo el sistema jurídico y en tanto fin en sí mismo -más allá de su naturaleza trascendente- su persona es inviolable y constituye valor fundamental con respecto al cual los restantes valores tienen siempre carácter instrumental"[9].

Por consiguiente, la dignidad de la persona humana es la fuente, el fundamento y el sustrato, en el que se asientan y de la que derivan todos los derechos humanos. Es la conexión de un derecho con la dignidad humana la que lo convierte en derecho fundamental. Ella -la dignidad humana- es tan sustancial e inalienable que de ninguna manera podemos perderla, en ningún supuesto[10].
2.1. Cuáles son los beneficios y los riesgos de la Inteligencia Artificial
La IA, reporta beneficios y utilidades en todos los sectores y servicios y será un factor de transformación de la vida cotidiana. Entre las probables ventajas sociales que ofrece la IA, podemos mencionar: la agricultura sostenible, la seguridad vial, la seguridad del sistema financiero, procesos productivos más respetuosos con el medio ambiente, mejor sanidad, mayor seguridad en el trabajo, una enseñanza más personalizada, una justicia de mayor calidad y una sociedad más segura. La IA también puede contribuir de manera importante al crecimiento de la industria y a la mejora de la competitividad de nuestro país[11]. Se trata de un conjunto de beneficios de enorme trascendencia.

La IA, a su vez, puede reportar grandes ventajas cuando se utiliza en trabajos peligrosos, pesados, extenuantes, sucios, desagradables, repetitivos o aburridos. A su vez, los sistemas de IA también son capaces, y cada vez más, de realizar tareas rutinarias, procesar y analizar datos o desempeñar funciones que requieren un alto grado de planificación o predicción, trabajos que a menudo se encomiendan a trabajadores muy capacitados. El potencial de la IA es enorme.

Sin embargo, como cualquier otra tecnología disruptiva, la IA entraña riesgos y retos políticos complejos en áreas como la seguridad, la controlabilidad, la libertad, los aspectos socioeconómicos, el trabajo, la ética, la privacidad, la fiabilidad, entre otros.

A continuación, enumeraremos algunos de los riesgos.

- Pérdida de fuentes de trabajo: Todo cambio tecnológico provoca la pérdida de fuentes de trabajo, por un lado, y la generación de nuevos puestos de trabajo por otro. Sin embargo, todavía nadie puede prever a ciencia cierta cuáles serán estos nuevos trabajos, ni con qué celeridad aparecerán. Empresas como Google y Facebook han logrado crear un valor inconmensurable con un número relativamente reducido de empleados. Por otra parte, los empleos nuevos no son siempre buenos empleos. Existe la preocupación de que la continuidad del desarrollo de la IA deje solo tareas pequeñas y mal remuneradas para un grupo creciente de trabajadores flexibles.

- Control excesivo sobre empleados: Las consecuencias de la IA pueden afectar la cantidad de trabajo disponible, y también la naturaleza del trabajo existente. Los sistemas de IA ofrecen cada vez más opciones para supervisar y controlar a los empleados, lo que pone en tela de juicio su autonomía y privacidad.

- Empobrecimiento de tareas: La organización y distribución del trabajo cada vez se hace más mediante algoritmos, sin intervención humana, lo que influye en la naturaleza y las condiciones del trabajo. El uso de los sistemas de IA conlleva un riesgo de empobrecimiento de las tareas y pérdida de habilidades importantes[12].

- Falta de transparencia y existencia de cajas negras: Los sistemas de IA deben ser transparentes, comprensibles y controlables. Su funcionamiento debe ser objeto de rendición de cuentas a posteriori. Además, debería establecerse qué procesos de toma de decisiones pueden confiarse a los sistemas de IA y cuáles no y cuándo es aconsejable o necesaria la intervención humana.

Empero, actualmente ya hay muchos sistemas de IA que resultan poco comprensibles para los usuarios. Lo mismo se aplica, cada vez en mayor medida, a los desarrolladores de esos sistemas. Las redes neuronales (neural networks) de IA, sobre todo, son a menudo cajas negras donde ocurren procesos de decisión que ya no se pueden descifrar y para los que no existen mecanismos explicativos.

Para precisar lo afirmado en el párrafo anterior, cabe señalar que, si queremos usar la IA para ayudar a tomar decisiones complejas, como por ejemplo en la aplicación de la ley o en los diagnósticos médicos, entonces Es imprescindible que las personas tengan siempre el poder de rechazar una decisión automatizada[13].

- Riesgo de sesgos: A través del "aprendizaje automático", de técnicas de "minería de datos" o de algoritmos predictivos, las máquinas son capaces de tratar millones de datos y hacer análisis y deducciones, pero pueden hacerlo con sesgos que, si no son revisados y reinterpretados, podrían incluso definir perfiles personales que ni siquiera sean exactos, almacenarlos y tratarlos sin autorización.

- Sesgos cognitivos - burbujas de pensamiento: Los algoritmos tienen la capacidad de crear sesgos cognitivos que derivan en burbujas de pensamiento en la opinión pública. Es decir, en ideas que se retroalimentan endogámicamente y que distorsionan la realidad. Los algoritmos son en muchos casos transmisores de sesgos y prejuicios discriminatorios que producen mayor fragmentación social.

- Manipulación de información: Es motivo de preocupación el uso específico de los sistemas de IA (en forma de algoritmos inteligentes) para la agregación de informaciones, por ejemplo en las redes sociales, que parece haber entrañado una limitación y fragmentación de la sociedad (por ejemplo, las filter bubbles[14] y las pseudonoticias en Twitter y Facebook durante las elecciones estadounidenses).

- Influencia en conductas electorales: Los indicios de que supuestamente se utilizaron sistemas de IA para influir en el comportamiento electoral de los ciudadanos. A través de los algoritmos inteligentes es posible predecir los comportamientos humanos e influir en ellos. Esto es una amenaza para una democracia abierta y fiable. En la época actual de polarización y desmantelamiento de instituciones internacionales, la precisión y el poder de semejante tecnología de propaganda puede acarrear rápidamente una mayor desestabilización social. Esta es una de las razones por las que se necesitan normas de transparencia y rendición de cuentas de los algoritmos inteligentes[15].

Los desafíos que planteamos en este trabajo, tienen como único fin suscitar en la comunidad académica, en la sociedad civil y en la dirigencia política una reflexión y un dialogo para que pensemos conjuntamente en qué modelo de sociedad queremos que se inserten estas nuevas tecnologías. Esta reflexión es esencial para diseñar la regulación de las mismas.

En este contexto, y considerando la trascendencia de la revolución digital en tantos órdenes de la vida, es bueno preguntarse: ¿son nuestros marcos jurídicos en vigor adecuados para hacer frente a los avances de la IA y de la robótica? ¿Pueden regularse las nuevas tecnologías, en particular si se caracterizan por un comportamiento autónomo cada vez mayor, dentro de los marcos legales y éticos existentes?[16]
2.2. La cuestión en torno a la indebida protección de los datos personales, afectación de derechos y necesidad de actualizar la legislación
La garantía de privacidad de los sistemas de IA es motivo de preocupación. Muchos productos de consumo ya llevan IA incorporada: aparatos domésticos, juguetes, coches o dispositivos de control de la salud. Todos ellos transmiten datos -a menudo personales- a las plataformas de los fabricantes en la nube.

En vista del auge del comercio de datos, es decir, que los datos generados no van a parar solo al fabricante, sino que se venden a terceros, nos permite suponer que la privacidad no está suficientemente garantizada. Pero lo que es una nueva amenaza y un reto para la adecuada protección de los datos personales es que los datos sean recolectados y tratados sin ningún consentimiento[17].

En el marco precedentemente descripto, el riesgo de que los datos personales estén indebidamente protegidos es notorio, y ello agrega otro argumento para pensar sobre si la legislación actual no está basada en modelos antiguos que deben adaptarse a las realidades y necesidades actuales.

Debemos tener presente que nunca antes en la historia de la humanidad se ha podido recopilar tal volumen de información. Es previsible que la entrada en vigor del Internet de las cosas (cualquier objeto será conectado a la red, desde la ropa hasta los vehículos, pasando por las heladeras o nuestros cuerpos), aumente el flujo de datos, y, por tanto, el campo de actuación de la Inteligencia Artificial.

Otro aspecto de singular relevancia es que la información genética forma parte de este proceso de recolección y análisis de datos. Las bases de datos que dispongan de toda la información genética de una población podrán realizar predicciones que incidirán en aspectos nada triviales, como los contratos con las compañías de seguros (una prima personalizada de un seguro de vida se basará en la predisposición, o no, a determinadas enfermedades), la búsqueda de trabajo (los recursos humanos dispondrán de sofisticados software para relacionar el puesto a desempeñar con el perfil psicológico/genético de los candidatos); o incluso la búsqueda de pareja (programas capaces de hacer predicciones acerca de las enfermedades o habilidades de los potenciales hijos), etc.[18]

Por estas razones, es que el problema del uso indebido de los datos personales es alarmante y la potencial lesión a la privacidad, la intimidad e incluso la dignidad del ser humano es tan seria. De hecho, en la actualidad, es más que probable que nosotros, los usuarios de la tecnología digital (redes sociales, Internet, etc.) hayamos perdido el control de nuestros datos y en ese caso, es importante retomarlo.

Por otra parte, la IA es capaz de influir en las decisiones humanas a través del análisis de grandes cantidades de datos, a menudo personales, en muchos terrenos desde decisiones comerciales a elecciones políticas. A este respecto, los menores constituyen un grupo particularmente vulnerable. Por eso, es motivo de singular inquietud que existan aplicaciones de IA dirigidas explícitamente a influir en el comportamiento y los deseos de los niños[19].

Por lo tanto, debe evitarse que la aplicación de la IA al tratamiento de los datos personales restrinja la libertad real o percibida de las personas. Es preciso controlar adecuadamente si en la práctica está suficientemente garantizado el derecho de las personas al consentimiento informado y la libertad de elección en la transmisión de datos, y también al acceso, la adaptación y el control de los datos emitidos, considerando la evolución de la IA.
2.3. Función del Derecho
Al Derecho le corresponde actuar para proteger los derechos frente a las amenazas de su vulneración y operar como límite a la explotación y al abuso sobre los más débiles. En esta ocasión, al derecho le corresponde proteger a la persona y a su dignidad de la gestión de la tecnología. Y es que el ser humano ha de ser capaz de disfrutar de los beneficios de estas tecnologías, pero al mismo tiempo, debe articular instrumentos que le permitan evolucionar en su uso y desarrollo[20].

El desafío es mayúsculo, a través del análisis de datos, genes, hábitos, rasgos faciales, redes sociales y familiares, etc., se podrá predecir a la perfección nuestro comportamiento inmediato. Esta pluralidad de fuentes de información personal creará perfiles que abarcarán tanto el rol de consumidores como el de votantes, pasando por el de trabajadores, amantes, progenitores o simples ciudadanos.

Obviamente, el manejo de un volumen de información elefantiásico como el descrito resulta singularmente perturbador, toda vez que confiere a quien lo detente un poder sin precedentes. Debemos asumir que el ser humano para la IA se ha convertido en un paquete de bits prestos a ser interpretados por un mercado globalizado, ya que el capitalismo financiero ha dado paso al capitalismo de los datos. Por ello, la IA, entendida como Big Data, debe ser eficazmente controlada tanto por el Estado como por la sociedad civil y a su vez, debe ser regulada jurídicamente[21].

Considerando que a nivel internacional la regulación específica de la IA todavía es escasa, nos preguntamos si localmente contamos con un conjunto de normas que sea suficiente frente a esta realidad y que tenga la capacidad de enfrentar sus riesgos y lograr los objetivos mencionados. Para ello es necesario revisar el ordenamiento jurídico de manera integral a fines de discernir si logra cumplir los objetivos del uso de la IA.

En la Argentina, más allá de ciertas disposiciones que apuntan al estudio y desarrollo de propuestas de marcos regulatorios o a la promoción de buenas prácticas en términos de IA, la materia no ha sido específicamente regulada. La única legislación específica vigente es la Ley N° 25.326 de Protección de Datos Personales, que debe ser actualizada.

De todas formas, es posible encuadrar las situaciones que surjan con motivo del uso de la IA aplicando los principios generales vigentes del derecho civil y comercial, las normas sobre propiedad intelectual o las normas de la Ley N° 24.240 de Defensa del Consumidor conjuntamente con la ya mencionada Ley de Protección de los Datos Personales, entre otras.

Sin embargo, debemos aclarar que existe todavía una desconexión entre las autoridades de protección de datos y las de defensa del consumidor, como lo señaló recientemente el Director de la Agencia de Acceso a la Información Pública, doctor Eduardo Bertoni quién dijo:

"hay una desconexión a nivel global entre las autoridades de protección de datos y las de defensa del consumidor". En consecuencia "debemos trabajar de manera conjunta para mejorar la protección de estos derechos no sólo en Argentina, sino a nivel internacional"[22].

En definitiva, podemos concluir que el marco jurídico debe mejorarse para que los derechos sean tutelados de forma más eficaz. Este es, indudablemente, uno de los grandes objetivos que tenemos por delante.
2.4. Responsabilidad por daños
El desarrollo en los robots de rasgos cognitivos y autónomos, como la capacidad de aprender de la experiencia y de tomar decisiones independientes, ha hecho que los sistemas de IA se asimilen cada vez más a agentes que interactúan con su entorno, siendo capaces de modificarlo de forma significativa.

Por su parte, la denominada IA fuerte, está dotada de capacidad de adaptación y de auto aprendizaje, lo que entraña un grado de imprevisibilidad en su comportamiento. Son sistemas que pueden aprender de forma autónoma de su propia experiencia variable e interactuar con su entorno de forma única e imprevisible. Nos estamos refiriendo a sistemas cada vez más autodidactas. En este contexto, la posible responsabilidad jurídica derivada de la actuación perjudicial de un sistema de IA se torna una cuestión crucial.

El Código Civil y Comercial de la Nación establece la reparación integral del daño, con clara tendencia a incluir en la composición las consecuencias inmediatas, mediatas y remotas del acto lesivo. Sin embargo, en el entorno digital suceden hechos a gran velocidad, y con repercusión masiva, que merecen un tratamiento particular previo y que no pueden ser asimilados automáticamente a la posible aplicación de normas de la teoría general de la responsabilidad civil.

Posiblemente, es momento de plantearse algunos interrogantes, tales como: ¿Cómo aplicar esta línea sancionatoria a los daños causados por la Inteligencia Artificial? ¿Cómo operan los deberes de custodia y guarda del fabricante o del usuario respecto de daños causados por algoritmos que mutan en el cyber espacio interactuando con éste y se alejan de su alcance? ¿Quién es el responsable y cómo identificarlo? ¿Existe obligación de monitoreo? ¿Cuál es el alcance de la reparación en daños causados por un sistema de IA? ¿Qué ocurre con los actos de terceros extraños de los que se nutre o alimenta el robot para mutar y dañar? ¿Cómo afectan las tendencias regulatorias sobre protecciones de datos en esta materia?[23]

Pues bien, parece extremadamente difícil responder estas preguntas recurriendo solamente a la teoría general de la responsabilidad civil. Empero, en principio, tanto a los fabricantes como a quienes comercializan productos con IA se les puede atribuir responsabilidad. Incluso, dependiendo del caso, se puede interpretar que el daño se produce en el marco de una relación de consumo, tornándose aplicable lo prescripto por los arts. 2 y 40 de la Ley N° 24.240 de Defensa del Consumidor. Estas normas endilgan responsabilidad objetiva y solidaria al productor, fabricante, proveedor, vendedor, entre otros, por los daños resultantes de la prestación del servicio, como así también del vicio o riesgo de la cosa.

No obstante lo expuesto en el párrafo anterior, lo cierto es que la variedad de situaciones que se pueden producir cuando interviene un sistema de IA en la producción de un daño es tan compleja, que deviene necesario una regulación específica. Ahora bien, debemos destacar que la introducción de cualquier tipo de personalidad jurídica para los robots o la IA, es una cuestión muy polémica, puesto que ello puede socavar los efectos correctores y preventivos de la legislación en materia de responsabilidad y puede generar un riesgo moral tanto en el desarrollo como en la utilización de la IA.

Asimismo, debemos considerar, que la autonomía de las IA afecta a dos conceptos claves, responsabilidad e irreversibilidad, de ahí que se haya propuesto distinguir entre "autonomía" y "automatismo", con objeto de mostrar que las IA pueden estar bajo la cobertura de la "automaticidad", pero que esto no implica que sean entidades propiamente autónomas, toda vez que la autonomía presupone "responsabilidad moral", rasgo ausente en este tipo de entidades[24].

Por último, se suscita la cuestión sobre la naturaleza de la IA y de si pertenecen a una de las categorías jurídicas existentes o si debe crearse una nueva categoría con sus propias características jurídicas. Deben extremarse los recaudos para prevenir el riesgo moral de que la responsabilidad sobre los sistemas de IA se transfiera a entidades que, en la práctica, sean incapaces de responder patrimonialmente, con el daño que eso puede producir a la seguridad jurídica.

3. La centralidad de Dignidad de la persona humana para desarrollar criterios éticos [arriba]

Después de haber hecho una síntesis sobre las oportunidades y riesgos de la IA, y un paneo sobre la insuficiencia de su actual regulación, nos parece apropiado delinear los grandes trazos de un marco ético que servirá de base para el marco jurídico. De esta manera tendremos herramientas para poder subordinar este avance tecnológico al bien del hombre.

Para realizar esta tarea debemos hacer un juicio ético sobre el paradigma económico imperante. Un paradigma que hasta ahora se afianzaba pletórico de un eficientismo abstracto fundado en la supuesta superioridad de la economía de mercado, en el gran poder de la tecno-ciencia y en la lógica de la racionalidad instrumental medio-fin.

Este "nuevo" orden no promete un lugar para todos, sino que exalta la ideología de la competencia y la eficiencia abstracta: el mundo es de ganadores y perdedores (winners y losers). Pero, este orden prescinde de toda referencia a los seres humanos concretos como fuente de legitimidad[25].

Este paradigma, pone en peligro cada vez mayor los ámbitos de la vida social y de la naturaleza, y tiene una carga de auto-destructividad creciente que socava las propias condiciones de posibilidad de la vida humana, natural y social. Como dijo el Papa Francisco en su homilía del 27 de marzo de este 2020:

"En nuestro mundo, que Tú amas más que nosotros, hemos avanzado rápidamente, sintiéndonos fuertes y capaces de todo. Codiciosos de ganancias, nos hemos dejado absorber por lo material y trastornar por la prisa. No nos hemos detenido ante tus llamadas, no nos hemos despertado ante guerras e injusticias del mundo, no hemos escuchado el grito de los pobres y de nuestro planeta gravemente enfermo. Hemos continuado imperturbables, pensando en mantenernos siempre sanos en un mundo enfermo."[26]

Por eso, frente a la crisis socio ambiental existente, esta epidemia provocada por el COVID-19, puede transformarse en una oportunidad por la recuperación del ser humano en cuanto sujeto corporal, de la vida humana concreta (personal, social y espiritual), de la vida para todos, en las relaciones humanas, en las instituciones sociales y en las construcciones culturales. Recuperar hoy al ser humano concreto no es un simple juicio de valor, es la exigencia de recuperar un realismo perdido. Esta recuperación parte de un juicio de la razón práctica, de una afirmación sobre la realidad en la cual vivimos.

En ese orden de ideas, nos parece que se ha puesto de manifiesto en medio de esta pandemia, la importancia del cuidado de la vida, de la naturaleza, de la dignidad de la persona humana y la interdependencia que nos vincula a todas las personas.

Por lo tanto, estamos frente a la posibilidad de construir una racionalidad que trascienda, pero no necesariamente elimine, la racionalidad instrumental. Una racionalidad que no se basa en las preferencias del consumidor sino en las necesidades de las personas. Que no se funda en cálculos económicos, sino en una ética del bien común. Una racionalidad que permita conservar y reproducir el circuito natural de la vida humana y de la naturaleza.

Para construir esta nueva racionalidad son necesarios principios éticos, en donde la dignidad humana debe recuperar la centralidad, pero no sólo en las declaraciones, sino en los hechos concretos. Eso es lo que nos permitirá humanizar al mundo y a la tecnología. Para lograr esta humanización de la tecnología debemos recordar algunos viejos principios fundamentales que nos permitirá regular adecuadamente la cuestión.

Uno de ellos es que los derechos y los deberes de las personas en relación a la vida en sociedad se delimitan, se esclarecen y cobran su sentido verdadero, a partir del reconocimiento de su dignidad inalienable, de su carácter único e irrepetible, única manera de saber qué lugar se ocupa en el mundo y de reconocer el papel que cumplimos en él[27].

El orden social y su progresivo desarrollo deben en todo momento subordinarse al bien de la persona, ya que el orden real debe someterse al orden personal, y no al contrario. La persona humana es el único ser que es autoconsciente, que está dotado de interioridad, de "in-sistencia" en la terminología de Ismael Quiles.

En efecto, la interioridad como constitutivo ontológico de su ser, como condición del encuentro entre ser y dignidad del hombre, es la razón profunda por la que la persona humana es el principio, el sujeto y el fin de todas las instituciones sociales, la cual por su misma naturaleza, tiene absoluta necesidad de la vida social[28].

Estas nociones son importantes para reflexionar sobre la orientación ética y la regulación jurídica que deben tener los sistemas de IA. Nos parece imprescindible la amplitud y profundidad que nos otorga la categoría jurídica de la dignidad de la persona humana, considerando especialmente la situación de desigualdad que padecen los titulares de los datos personales frente a los responsables de los archivos, registros, bases o bancos de datos y usuarios de dichos datos.

Es preciso entonces, por un lado, retomar la vía de exaltar la dignidad de la persona y por el otro, señalar la interdependencia, la intersubjetividad relacional que es constitutiva del mundo de la vida del hombre. Es necesario abrir el horizonte de comprensión a estas realidades, toda vez que la mera racionalidad, es una abstracción sin sustancia, si se la separa de la referencia a lo vital, a lo afectivo y a lo axiológico.

En suma, el contexto nos indica que estas nuevas tecnologías deben insertarse en un marco en donde se "humanice" la técnica y se subordine al bien del hombre. Desde esa perspectiva, se advierte la necesidad de buscar nuevos caminos para una racionalidad que nos conduzca a una concordia humana universal. Una racionalidad que sea algo más que una arquitectura de mercados económicos, de poderío militar y de desarrollo tecnológico guiado por el lucro.
3.1. Necesidad de criterios éticos orientadores
La tecnología "per se", no tiene una finalidad axiológica a la cual se someta. Por el contrario, ella está sujeta a un imperativo racional de eficiencia, donde todo puede ser medio para otra cosa. Es pura racionalidad instrumental. Es por esta razón que hay que constituir espacios de debate en materia axiológica, donde se distinga la falacia entre lo tecnológicamente posible y lo éticamente aceptable, transformándose esto último en un mero correlato de lo primero. Esta es una forma de construir una nueva racionalidad humanista en donde podrá insertarse la tecnología digital.

El debate ético que propiciamos, conlleva un imprescindible sistema axiológico donde la dignidad de la persona humana ocupa el lugar central. Así se posibilitará resolver el círculo vicioso entre tecnología, consumo y la mentalidad hedonista imperante. Esto porque el sistema de valores comprende la obligación de aceptar deberes y prohibiciones, es decir un orden de conducta que no provendrá de la tecnología, sino que se fundamentará en la escala de valores del individuo o de la sociedad[29].

Desde esta perspectiva, en la Academia Pontificia para la Vida, desarrollaron el concepto de "algor-ética", cuyo objetivo es asegurar una verificación competente y compartida de los procesos mediante los cuales se integran las relaciones entre los seres humanos y las máquinas en nuestra era, para señalar que éste puede ser enriquecido por los principios de la Doctrina Social de la Iglesia, a saber, dignidad de la persona, justicia, subsidiariedad y solidaridad. Son principios que ayudarán a poner estos avances tecnológicos al servicio de cada persona humana en su totalidad, sin discriminaciones ni exclusiones[30].

Por consiguiente, los sistemas de IA que se diseñan actualmente no contienen valores éticos. Incorporarlos a dichos sistemas y al entorno donde se utilizan es tarea de los seres humanos. Para humanizar la tecnología, el desarrollo, la activación y los usos de los sistemas de IA, tanto públicos como comerciales, deben supeditarse a nuestros valores, normas, libertades y derechos humanos fundamentales.

Para ello, una herramienta que puede ser muy valiosa es que se elabore un código deontológico para el desarrollo, despliegue y utilización de la IA, de modo que durante todo su proceso de funcionamiento los sistemas de IA sean compatibles con los principios de la dignidad humana, la integridad, la libertad, la privacidad, la cooperación, la solidaridad y los derechos humanos fundamentales.
3.2. Compromisos o principios que deben guiar la IA
La respuesta a los desafíos que genera esta cuarta revolución tecnológica, no puede articularse a partir de la oposición a la tecnología, sino mediante la búsqueda de su humanización, y es este el principio fundante de todo código ético o deontológico[31].

A continuación, planteamos algunos principios orientadores:

- La prioridad del ser humano sobre todas sus creaciones, como la tecnología, que está a su servicio.

- La integridad de la persona, más allá del reduccionismo de los datos que pretenden cosificarlo.

- La prevalencia del bien común sobre los intereses particulares, por mayoritarios y legítimos que éstos sean.

- La reivindicación de la autonomía y responsabilidad personales frente a las tendencias paternalistas y desresponsabilizadoras.

- La equidad y justicia universal en el acceso, protección y disfrute de los bienes y derechos que posibilitan una vida digna del ser humano.

- Necesidad de supervisión humana: "Nuestra supervisión es imprescindible. Siempre se necesita una interacción entre inteligencia humana y artificial y verificaciones para que esta última sea confiable y verdaderamente útil"[32]. El hombre es y debe ser siempre el responsable último de las decisiones.

- La posibilidad de un dividendo digital y el reparto equitativo de dividendos, con el fin de lograr que la incorporación de estas tecnologías beneficie al conjunto de la humanidad, que no generen ni sobrantes ni excluidos.

Todavía estamos a tiempo de controlar la IA y los algoritmos que aparentemente ya nos controlan. Para ello, lo más importante es que pongamos la razón moral por encima de la razón técnica. Tenemos que parar y reflexionar sobre las metas que queremos alcanzar con la revolución digital y cómo las vamos a conseguir.

Porque la tecnología siempre podrá ser un aliado de progreso, pero si se la incorpora en un marco ético y jurídico que jerarquice la dignidad humana. La tecnología no es algo que "sobrevenga" sin más. Los poderes públicos, la academia y la sociedad civil tienen la posibilidad de determinar cómo se desarrollará la IA y cómo se aplicará en el marco de la actividad profesional; hay que aferrarse a esta posibilidad.

Por eso es importante no centrarse solo en lo que puede hacer la IA, sino también en lo que pueden hacer las personas (creatividad, empatía, colaboración), lo que queremos que sigan haciendo, y buscar formas de qué humanos y máquinas puedan trabajar mejor juntos (complementariedad).

Hay una cuestión de fondo que debemos abordar, es la posibilidad de construir una racionalidad que trascienda, pero no necesariamente elimine la racionalidad instrumental que esté basada en las necesidades de las personas y no primordialmente en el afán de lucro.

En definitiva, lo que necesitamos es humanizar la tecnología para poner los derechos humanos en el centro de todos los avances tecnológicos.
*Abogado. Investigador y Docente de Economía Política y Derecho Comercial en la Facultad de Ciencia Jurídicas de la USAL.
[1] Según la ONU, los macrodatos son los datos que proceden de las interacciones cotidianas con productos o servicios digitales, entre los que se incluyen los teléfonos móviles, las tarjetas de crédito y las redes sociales.
[2] Byung-Chul Han, "La emergencia viral y el mundo del mañana. Byung-Chul Han, el filósofo surcoreano que piensa desde Berlín", El País (marzo 21, 2020). Disponible en: https://elpais.c om/ide as/2020-0 3-21/la-emergenci a-viral-y-el-m undo- de-manana -byung-chul-han-el-filosofo- surcore ano-que-pien sa-desde-ber lin.html
[3] Adela Cortina, Ciudadanía Digital y Dignidad Humana, consulta en línea el 15 de abril de 2020 en https://elpai s.com/elpais/ 2018/03/22/opinio n/1521737007_8541 05.html
[4] Dictamen del Comité Económico y Social Europeo sobre la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad C 288/1 del 31.8.2017, publicado en el Diario Oficial de la Unión Europea el 31 de agosto de 2017.
[5] Villena C.A.O. (2019). Derecho y Economía de la Inteligencia Artificial. El futuro problema de la responsabilidad penal de las personas electrónicas. Programa de Actualización en Cibercrimen y Evidencia Digital. Universidad de Buenos Aires.
[6] Manuel Jesús López Baroni, Las narrativas de la inteligencia artificial - Rev. Bio y Der. 2019; 46: 5-28.
[7] José Luis Goñi Sein, Defendiendo los derechos fundamentales frente a la inteligencia artificial. Lección inaugural del curso académico 2019-2020. Pamplona, Universidad Pública de Navarra, 13 de septiembre de 2019, cconsulta en línea en https://www. unavarr a.es/digitalAss ets/244/244921_1 Leccion-inaug ural-Castellano-1 9-20_web.pdf
[8] Mario Masciotra, Protección de datos personales ante la pandemia del Coronavirus", en "La Tutela de la Salud Pública, IJ Editores, 9 de abril de 2020, IJ-CMXV-266.
[9] CSJN, "Bahamondez, Marcelo s/ medida cautelar", 06/04/1993.
[10] Eleonora Lamm, "Código Civil y Comercial Comentado", Tomo I, consulta en línea en http://www.saij.go b.ar/docs-f/co digo-comentado /CCyC_Com entado_T omo_I%20(arts. %201%20a %20400).pdf
[11] Dictamen del Comité Económico y Social Europeo sobre la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad C 288/1 del 31.8.2017, publicado en el Diario Oficial de la Unión Europea el 31 de agosto de 2017.
[12] Dictamen del Comité Económico y Social Europeo sobre la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad C 288/1 del 31.8.2017, publicado en el Diario Oficial de la Unión Europea el 31 de agosto de 2017.
[13] Douglas Heaven, Caja negra vs. de cristal: la IA que funciona contra la que se explica, traducción de Ana Milutinovic, 7 febrero, 2020, consulta en línea el 15 de abril de 2020 en https://www.tech nologyrevie w.es/s/11839/c aja-negra -vs-de-crista l-la-ia-que-fu nciona-co ntra-la-que -se-explica
[14] Según Eli Pariser, el acceso a la información y a la participación en la web está condicionado por el diseño algorítmico de las plataformas utilizadas para ingresar a la misma. El concepto burbujas de filtro refiere al aislamiento informativo donde estarían quedando atrapados los usuarios como consecuencia de dichas configuraciones, en El filtro burbuja. Cómo la red decide lo que leemos y lo que pensamos, Barcelona, Taurus, 2017.
[15] Dictamen del Comité Económico y Social Europeo sobre la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad C 288/1 del 31.8.2017, publicado en el Diario Oficial de la Unión Europea el 31 de agosto de 2017.
[16] Andrés Moisés Barrio, Robótica, inteligencia artificial y Derecho, consulta en línea el 15 de abril de 2020 en,http://www.reali nstitutoelca no.org/w ps/portal/rielca no_es/contenido ?WCM_GLOBAL_C ONTEXT=/el cano/elcano_ es/zonas_es /ari103-20 18-barrioandres-ro botica-in teligencia -artificial -derecho
[17] YouTube deberá pagar una multa de USD 170 millones por recolectar datos personales de niños, en https://tecno.am eric aeconomia.c om/articulo s/youtube- pagara-m ulta-de-us1 70-millone s-por-recolecta r-datos-per sonales -de-ninos
[18] Manuel Jesús López Baroni, Las narrativas de la inteligencia artificial, Rev. Bio y Der. 2019; 46: 5-28.
[19] Dictamen del Comité Económico y Social Europeo sobre la Inteligencia artificial: las consecuencias de la inteligencia artificial para el mercado único (digital), la producción, el consumo, el empleo y la sociedad C 288/1 del 31.8.2017, publicado en el Diario Oficial de la Unión Europea el 31 de agosto de 2017.
[20] Universidad de Deusto, Declaración de Derechos Humanos en entornos digitales, en https://www.d eusto.es/cs/Sa tellite/deusto/es/u niversida d-deusto/vive -deusto/el- lunes-se-p resenta-la- declaracion -deusto- sobre-d erechos-human os-en-en tornos-digitale s-elaborada-po r-la-unive rsidad/noticia
[21] Manuel Jesús López Baroni, Las narrativas de la inteligencia artificial, Rev. Bio y Der. 2019; 46: 5-28.
[22] Organizado con fecha 19 de noviembre de 2019, por la Dirección Nacional de Defensa del Consumidor del Ministerio de Producción y Trabajo de la Nación y la Comisión Federal de Comercio de los Estados Unidos (U.S. Federal Trade Commission), el encuentro contó con un panel sobre "Precios personalizados" en el cual participaron del Director de la Agencia Eduardo Bertoni, el Director Nacional de Defensa del Consumidor Fernando Blanco Muiño y el Presidente de la Asociación Latinoamericana de Privacidad Juan Pablo Altmark.
[23] José Pablo Sala Mercado, El alcance de la responsabilidad civil por daños causados por la inteligencia artificial, en Derecho y Nuevas Tecnologías: el impacto de una nueva era, Themis, Lima, Perú, 2019, pág. 175 y siguientes.
[24] Manuel Jesús López Baroni, Las narrativas de la inteligencia artificial, Rev. Bio y Der. 2019; 46: 5-28.
[25] Franz J. Hinkelammert y Henry Mora Jiménez, Por una economía orientada hacia la reproducción de la vida, en Iconos. Revista de Ciencias Sociales. N° 33, Quito, enero 2009, págs. 39-49
[26] Papa Francisco, Homilía del Momento Extraordinario de Oración en Tiempo de Epidemia, 27 de marzo de 2020, consulta en línea el 15 de abril de 2020 en http://www.vatican.v a/content/ francesco/es/h omilies/2020/ document s/papa-france sco_2020 0327_omelia-epidemia .html
[27] Royo Urrizola, Paulina La pregunta antropológica en la filosofía in-sistencial de Ismael Quiles, en CUYO Anuario de Filosofía Argentina y americana, Volumen 16, año 1999, Mendoza, Argentina, págs. 104 - 115.
[28] Ismael Quiles, Antropología filosófica in-sistencial, Ediciones Depalma, Buenos Aires, 1983, pág. 12.
[29] Fishel Szlajen, Inteligencia Artificial y Transhumanismo: Falacias del humano exacerbado y desfondado en la tecnología, en el IV Coloquio Internacional de Bioética e do II Coloquio Emoções que, reuniu pesquisadores, docentes e discentes de cursos de pós-graduação em filosofia, bioética, medicina, ciências jurídicas, neurociência, ciências sociais e humanas de todo o País, nos dias 25 a 27 de setembro de 2019, Porto Alegre, Brasil.
[30] Papa Francisco en su discurso a los participantes en la Plenaria de la Pontificia Academia para la Vida del 28 de febrero de 2020, en https://www.vatican news.va/es/pa pa/news/2020-02/p apa-pontificia-a cademia-vid a-palab ra-tradicion-ayuden -interpret.ht ml
[31] Universidad de Deusto, Declaración de Derechos Humanos en entornos digitales, en https://www.deusto .es/cs/Satellite/deu sto/es/universi dad-deusto/vive-d eusto/el-lune s-se-presen ta-la-declaracio n-deusto-sobr e-derech os-humanos-en-e ntornos-digit ales-elaborada-po r-la-univer sidad/noticia
[32]Javier Sánchez Cañizares, La inteligencia artificial al servicio de la inteligencia humana para frenar la pandemia del coronavirus, consulta en línea el 16 de abril de 2020 en https://www.unav .edu/ web/vida-unive rsitaria/deta llenoticia2/2 020/04/07/l a-inteligencia-artificial-al-s ervicio-de-la- inteligencia-huma na-para-fren ar-la-pandemia -de-coronavirus/- /asset_publis her/eYU5/c ontent/202 0_04_07_ics _caniz ares/10174

# data[].attributes.attachment_link.keywords[]
pandemia - covid  - teletrabajo - robótica - aislamiento social - responsabilidad de daños - epidemia - criterios éticos - algoritmos / internet

# data[].attributes.attachment_link.title
La crisis del Coronavirus y la aceleración del uso de la Inteligencia Artificial. Una hoja de ruta sobre sus beneficios y riesgos desde una perspectiva ético-jurídica

# data[].attributes.attachment_link.description
Lejister.com / Doctrina Argentina / Fecha: 02-07-2020 / Cita: IJ-CMXX-545 / Autor/es: González Saborido, Juan B. / Publicación: Revista de Derecho Civil / Edición: Número 11 - Julio 2020

# data[].attributes.headline
Dignidad humana como fundamento de los Derechos Humanos y el desafío del imperativo tecnológico

# data[].attributes.subject
Dignidad humana como fundamento de los Derechos Humanos y el desafío del imperativo tecnológico

# data[].attributes.headline
Inteligencia Artificial y dignidad humana en el discurso del Papa Francisco

# data[].attributes.subject
Inteligencia Artificial y dignidad humana en el discurso del Papa Francisco

# data[].attributes.headline
ALGORÉTICA, ETICA ALGORITMICA O ETICA DE LA IRRESPONSABILIDAD

# data[].attributes.subject
ALGORÉTICA, ETICA ALGORITMICA O ETICA DE LA IRRESPONSABILIDAD

# data[].attributes.body
Dr. Ernesgo Gil Deza

# data[].attributes.attachment_link.description
USAL-Rectorado-Secretaría de Prensa.Noticias Usal para su comunidad.

# data[].attributes.headline
Algorética: Católicos, judíos y musulmanes se unieron para observar la IA

# data[].attributes.subject
Algorética: Católicos, judíos y musulmanes se unieron para observar la IA

# data[].attributes.attachment_link.readable_text
Cada vez que surge una nueva tecnología se producen dos tendencias básicas: los tecno-optimistas y los tecno-pesimistas. Los primeros desbordan de entusiasmo y adjudican al nuevo invento una especie de panacea respecto a su aplicación a un sector específico o al conjunto de la realidad.

Los segundos se inquietan dramática y apresuradamente por las innovaciones, en muchos casos incomodados por los cambios de aprendizajes y rutinas que provocan. Desde los tiempos más remotos, este dilema desafía a cada generación.

Hoy día, esta cuestión se verifica especialmente en el campo de la bioética y en la multiplicación de tecnologías de la información y la comunicación. Muchos recodarán, por ejemplo en el campo de la educación, las discusiones que aún perduran sobre el uso en las aulas de las calculadoras, el acceso a Internet y el uso del teléfono celular.

Recientemente, ha hecho su aparición ChatGPT ( Generative Pre-trained Transformer) que se puede traducir aproximadamente como un transformador generativo pre-entrenado que es un procedimiento que simula el modo de escribir humano y es capaz de responder preguntas y mantener "conversaciones", tomando textos de Internet.
Inteligencia Artificial: ChatGPT, popularización, magia y riesgos
De este modo, el ChatGPT es la primera gran aplicación de Inteligencia Artificial (IA) de alcance masivo en la web. Según algunos especialistas, la IA podría modelar las decisiones de los individuos sin que estos lo sepan y dar un poder abusivo a quienes la controlan.

Aquí entonces reaparece el dilema que indicamos más arriba, y que más allá de su aprobación o rechazo en bloque ante cualquier novedad tecnológica o de cualquier otro orden, nos debe llevar a una reflexión responsable.

En realidad, este ejercicio debemos realizarlo en relación a todas las esferas de la vida: las ciencias, la economía, la política, el arte, el deporte... y cualquier otra dimensión de la existencia que queramos indicar. Es decir, todas ellas tienen que ser respetadas en su autonomía y en su dinamismo propio, pero sin absolutizar su aporte específico aunque limitado, para evitar su endiosamiento.

También, las creencias religiosas se deben ajustar a esta regla, asumiendo en un diálogo crítico esas realidades, aportándoles su propuesta de sentido y trascendencia, y así contribuir a no idolatrar lo que es relativo aunque nos parezca eficiente y útil, evitando usos perversos con efectos inhumanos.

Observar la Inteligencia Artificial

Aplicando estos criterios a las nuevas tecnologías, que funcionan mediante algoritmos (conjunto de reglas automatizadas), se hace fundamental una evaluación ética. Así surge el neologismo "algorética", es decir, un desarrollo ético de la inteligencia artificial.
Laura Ación: "El problema surge cuando la inteligencia artificial se mete con la democracia, la salud o la justicia"
En atención a este desafío, a comienzos de 2023, tres representantes del catolicismo, judaísmo y del ámbito musulmán firmaron en Roma el documento Call for Artificial Intelligence Ethics para promover la "algorética".

El documento recuerda el marco de valores fundamentales de la Declaración Universal de los Derechos Humanos, destacando la importancia de la educación que estará profundamente impactada por la disponibilidad de nuevos recursos tecnológicos, a los que debe garantizarse un acceso sin desigualdades.
Catolicismo, judaísmo e islamismo firmaron en Roma el documento Call for Artificial Intelligence Ethics, para promover la "algorética"
Esto hace emerger la necesidad de incorporar un enfoque ético que acompañe desde el principio cada etapa del ciclo de producción de las tecnologías.

Asimismo -prosigue la declaración- no basta con centrarse únicamente en la responsabilidad del usuario final ni confiar en la sensibilidad moral de quienes diseñan algoritmos para evaluar el uso correcto de los sistemas digitales.

Desde otra perspectiva, aunque convergente, crece la preocupación de gobiernos, técnicos, científicos, y de las propias empresas tecnológicas para que los valores humanos estén controlados y presentes en el desarrollo de la IA.

Al respecto hay ya una propuesta de reglamento del Parlamento Europeo por el que se establecen normas en materia de IA capaces de armonizar el progreso tecnológico, el desarrollo empresarial, la protección de las personas y la democracia.

*Licenciado en Filosofía, Coordinador del Ciclo de Extensión Educación, Etica y Desarrollo en la Fac. de Ciencias Sociales USAL

# data[].attributes.attachment_link.title
Algorética: Católicos, judíos y musulmanes se unieron para observar la IA

# data[].attributes.attachment_link.description
La Inteligencia Artificial nos maneja sin que nos demos cuenta; no basta con descargar en manos de los usuarios la última responsabilidad ni con confiar en la sensibilidad moral de los algoritmos. El Parlamento Europeo ya debate la "algorética". ¿Qué es?

# data[].attributes.attachment_caption
En las redes sociales podemos ser “buenos samaritanos o viajeros indiferentes”, estar simplemente “conectados” o permitir que las conexiones se transformen en verdaderos encuentros, evitando el “tribalismo digital”.

# data[].attributes.attachment_link.description
En las redes sociales podemos ser “buenos samaritanos o viajeros indiferentes”, estar simplemente “conectados” o permitir que las conexiones se transformen en verdaderos encuentros, evitando el “tribalismo digital”.

# data[].attributes.attachment_caption
La Santa Sede y la Universidad de Santa Clara, en California elaboraron un documento en el que convocan a empresas, académicos, gobiernos y ciudadanos a mirar las tecnologías desde una dimensión equilibrada y virtuosa.

# data[].attributes.headline
El desafío ético de las tecnologías disruptivas

# data[].attributes.subject
El desafío ético de las tecnologías disruptivas

# data[].attributes.attachment_link.readable_text
El panorama tecnológico actual enfrenta desafíos éticos inéditos sobre cuestiones de privacidad, equidad, transparencia y responsabilidad. Efectivamente, tecnologías avanzadas, como inteligencia artificial (IA), aprendizaje automático, los sistemas inteligentes, el cifrado, el seguimiento y el reconocimiento facial, están cada vez más en el centro de debates políticos, académicos y del público en general, en un entorno inconsistentemente regulado que crea importantes riesgos sociales.

La propia industria si no adopta rápidamente un marco legal y ético, viable y confiable, rápidamente se verá atrapada en un atolladero de leyes contradictorias.

Ante esta situación el Instituto de Tecnología, Ética y Cultura (ITEC), ubicado en Santa Clara University, California, en colaboración con el Dicasterio para la Cultura y la Educación de la Santa Sede han dado a conocer Ethics in the Age of Disruptive Technologies: An Operational Roadmap ("Ética en la era de las tecnologías disruptivas: un mapa de ruta operativo") en que se convoca a empresas, sociedad civil, academia y gobiernos a promover una reflexión profunda sobre el impacto de la tecnología en la humanidad.

Esto no les gusta a los autoritarios

Desde hace décadas Santa Clara University -perteneciente a la Compañía de Jesús- es reconocida por su colaboración con empresas como Salesforce, IBM y Microsoft para aplicar estándares éticos en el diseño, desarrollo e implementación de tecnología.
Inteligencia Artificial: cuáles son los empleos que corren mayor riesgo
El objetivo de la reciente publicación, a modo de manual, no está guiado sólo por una preocupación intrínseca por actuar éticamente, sino también por el deseo de evitar daños a la reputación de las empresas y atraer a los mejores talentos para que incorporen una dimensión ética en su desempeño.

El manual del ITEC considera que la industria para evitar impactos negativos de las tecnologías, como discriminación, desinformación, amenazas a la seguridad humana y a la privacidad, requiere un marco coherente y procedimientos auditables, para implementar efectivamente estándares éticos que funcionen durante el ciclo de vida de un sistema.
El desafío al que se enfrentan las empresas a la hora de dar primacía a las cuestiones éticas se ve agravado por el criterio de maximizar la rentabilidad o la "primacía de los accionistas".

No obstante, en los últimos años -afirma el documento del ITEC- ha habido algunas modificaciones al modelo de primacía de los accionistas y se están desarrollando nuevas estructuras y modelos corporativos que incluyen una mayor atención a cuestiones ambientales, sociales y de gobernanza en los consejos de administración.

Por lo tanto, un desafío crítico que enfrentan los líderes empresariales en el nuevo mundo de la IA y las tecnologías avanzadas es cómo gestionar el negocio dentro del modelo de primacía del accionista y al mismo tiempo lograr los conceptos más amplios de comportamiento ético vistos por las partes interesadas internas y externas, a través de métricas y procesos auditables. Esa necesidad es la que busca cubrir el Manual del ITEC.
Inteligencia Artificial: cuáles son las herramientas y plataformas de los Agentes Virtuales Inteligentes
El desafío ético de las tecnologías disruptivas

El ITEC considera que adoptar, aplicar y demostrar la eficacia de usos éticos significa que las organizaciones deben:

Comprender los requisitos éticos de sus clientes internos y externos: accionistas, gobiernos, formuladores de políticas, sociedad civil, académicos y empleados.

Transformar su propia cultura empresarial para garantizar que todos conozcan las consecuencias de la tecnología de la empresa y la responsabilidad por su impacto sobre la humanidad y el planeta.

Implementar un sistema de gestión de tecnología responsable, que se enfoque en cumplir requisitos del cliente y valores éticos de las partes interesadas durante todo el ciclo de vida de los productos y servicios ofrecidos.

En ese sentido, el Manual ITEC es una guía práctica personalizable para ayudar a las organizaciones a transformar su mentalidad y cultura, y poner en práctica principios de uso ético y humano para construir valor para el accionista y demás partes interesadas.

Estos pasos ayudan a garantizar que los productos y servicios promuevan una vida saludable y sostenible en el planeta, cumpliendo con la normativa aplicable y logrando la mejora continua de su desempeño ético.

El manual proporciona una hoja de ruta de operaciónalización a través de la adopción de un marco de gobernanza de la ética tecnológica y su implementación en un Sistema de Gestión de Tecnología Responsable (RTMS, por sus siglas en inglés).

*Universidad del Salvador - Buenos Aires

# data[].attributes.attachment_link.title
El desafío ético de las tecnologías disruptivas

# data[].attributes.attachment_link.description
La Santa Sede y la Universidad de Santa Clara, en California elaboraron un documento en el que convocan a empresas, académicos, gobiernos y ciudadanos a mirar las tecnologías desde una dimensión equilibrada y virtuosa.

# data[].attributes.attachment_caption
Las innovaciones tecnológicas no son “neutrales” porque están condicionadas por valores personales, sociales y culturales. “Tienen siempre una dimensión ética”, pronunció el Papa Francisco en la 57° Jornada Mundial de la Paz, el primer día de este nuevo año.

# data[].attributes.attachment_link.readable_text
"La inteligencia es expresión de la dignidad que nos hace capaces de actuar con libertad. De modo particular, la ciencia y la tecnología poseen de forma extraordinaria un potencial creativo, gracias a las cuales se ha podido poner remedio a innumerables males que afectaban a la vida humana".

Estas rotundas afirmaciones encabezan el Mensaje del Papa Francisco para la 57 Jornada Mundial de la Paz a celebrarse el 1 de enero 2024. En esta ocasión se aborda el impacto que las tecnologías digitales tienen sobre la vida de los individuos y de la sociedad, sobre la estabilidad internacional y sobre la paz.

Inteligencia artificial: aportes y riesgos

Los progresos de la informática -expresa el Mensaje- ya han generado profundas transformaciones en la sociedad global, en las comunicaciones, la administración pública, la educación, el consumo y en la vida cotidiana. Aparejadamente se mencionan los riesgos que "permiten controlar los hábitos mentales y relacionales de las personas, con fines comerciales o políticos, frecuentemente sin que ellos lo sepan". Ante esta situación se advierte que las innovaciones tecnológicas no son "neutrales" sino que están condicionadas por valores personales, sociales y culturales; "tienen siempre una dimensión ética".
El Papa Francisco celebró la misa de Nochebuena: "Nuestro corazón esta noche está en Belén"
El Mensaje se detiene especialmente en las formas de inteligencia artificial. Al respecto, se recuerda que no existe una definición unívoca en el mundo de la ciencia y de la tecnología, por eso se prefiere hablar en plural de "formas de inteligencia" sin olvidar "la brecha infranqueable que existe entre estos sistemas y la persona humana, por más sorprendentes y potentes que sean". Estos son, a fin de cuentas, "fragmentarios ", en el sentido de que sólo pueden "imitar o reproducir" algunas funciones de la inteligencia humana. Tales dispositivos, muy distintos entre sí, se deben considerar siempre como "sistemas socio-técnicos".
El Papa Francisco pidió un tratado global para la regulación de la inteligencia artificial
Y se agrega: "su impacto, independientemente de la tecnología de base, no sólo depende del proyecto, sino también de los objetivos y de los intereses del que los posee y del que los desarrolla, así como de las situaciones en las que se usan".

Por lo tanto, la contribución beneficiosa de la tecnología al futuro de la humanidad y a la paz entre los pueblos, sólo será posible -afirma el Papa en su Mensaje-si respetamos valores fundamentales como "la inclusión, la transparencia, la seguridad, la equidad, la privacidad y la responsabilidad". De este modo, es preciso reforzar "organismos encargados de examinar las cuestiones éticas emergentes y de tutelar los derechos de los que utilizan formas de inteligencia artificial o reciben su influencia". De lo contrario, la libertad y la convivencia pacífica están amenazadas.

Inteligencia artificial, ética y límites

La gran cantidad de datos analizados por las inteligencias artificiales no es de por sí garantía de imparcialidad, el fin y el significado de sus operaciones continuarán siendo determinadas o habilitadas por seres humanos que tienen un propio universo de valores.

Un aspecto especialmente destacado por Francisco está relacionado con los trabajos que son rápidamente absorbidos por la inteligencia artificial, fenómeno que corre "el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos". Esto debe hacernos reflexionar sobre el "sentido del límite" para no caer en una "dictadura tecnológica" con graves riesgos para las sociedades democráticas y la coexistencia pacífica.

Otro aspecto de gran preocupación ética en que se detiene el Papa es la capacidad de conducir operaciones militares por medio de sistemas de control remoto que ha llevado "a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra". En ese sentido, " lo último que el mundo necesita es que las nuevas tecnologías contribuyan al injusto desarrollo del mercado y del comercio de las armas ", en lugar de promover el desarrollo humano integral introduciendo innovaciones en la agricultura, la educación y en el nivel de vida de las naciones.
Argentina es protagonista en inteligencia artificial
Se trata de alcanzar el desarrollo ético de los algoritmos, la "algorética", en el que los valores orienten el desarrollo de las nuevas tecnologías.

Finalmente, el Mensaje se refiere al alcance global de la inteligencia artificial que requiere que, junto a la responsabilidad de los estados, se establezcan acuerdos multilaterales y se adopte un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial, no sólo previniendo malas prácticas, sino también estimulando planteamientos nuevos y creativos. Es necesaria -concluye el documento-"una guía ética" para el desarrollo de las tecnologías digitales que tenga en cuenta el significado de la existencia humana, de los derechos humanos fundamentales y sobre cómo su uso podría contribuir a la creación de un mundo más humano.

La paz es el fruto de relaciones que reconocen y acogen al otro en su dignidad inalienable, y de la cooperación y esfuerzo en la búsqueda del desarrollo integral de todas las personas y de todos los pueblos.

*Licenciado en Filosofía, Coordinador del Ciclo de Extensión Educación, Etica y Desarrollo en la Fac. de Ciencias Sociales USAL

# data[].attributes.attachment_link.description
Las innovaciones tecnológicas no son "neutrales" porque están condicionadas por valores personales, sociales y culturales. "Tienen siempre una dimensión ética", pronunció el Papa Francisco en la 57° Jornada Mundial de la Paz, el primer día de este nuevo año.

# data[].attributes.headline
El llamado de Roma para la ética de la IA

# data[].attributes.subject
El llamado de Roma para la ética de la IA

# data[].attributes.attachment_link.readable_text
The Call for AI Ethics is a document signed by the Pontifical Academy for Life, Microsoft, IBM, FAO and the Ministry of Innovation, a part of the Italian Government in Rome on February 28th 2020 to promote an ethical approach to artificial intelligence. The idea behind it is to promote a sense of shared responsibility among international organizations, governments, institutions and the private sector in an effort to create a future in which digital innovation and technological progress grant mankind its centrality. Pointing to a new algorethics, the signatories committed to request the development of an artificial intelligence that serves every person and humanity as a whole; that respects the dignity of the human person, so that every individual can benefit from the advances of technology; and that does not have as its sole goal greater profit or the gradual replacement of people in the workplace.

The Rome Call for AI Ethics comprises 3 impact areas and 6 principles.

# data[].attributes.attachment_link.description
The Call for AI Ethics is a document signed by the Pontifical Academy for Life, Microsoft, IBM, FAO and the Ministry of Innovation, a part of the Italian Government in Rome on February 28th 2020 to promote an ethical approach to artificial intelligence.