# data[].attributes.headline
Problemas sociales y éticos suscitados por la interacción cotidiana con la robótica

# data[].attributes.subject
Problemas sociales y éticos suscitados por la interacción cotidiana con la robótica

# data[].attributes.attachment_link.authors[].name
INBOTS - Interactive Robots for a Better Society

# data[].attributes.attachment_link.title
Interactive Robotics Documentary Film | Robots are leaving the factories, will we be ready?

# data[].attributes.headline
Las dudas éticas que plantea la IA aplicada a la justicia

# data[].attributes.subject
Las dudas éticas que plantea la IA aplicada a la justicia

# data[].attributes.attachment_link.readable_text
Una mujer se persona en la mesa de entradas de un juzgado de Buenos Aires, Argentina. Son las 10 de la mañana de un lunes frío de agosto de 2018. Llega acompañada por sus tres hijos, que se sientan en el suelo a jugar, mientras su madre conversa con el empleado. "Vengo a presentar un amparo para cobrar el subsidio por situación de calle", desliza la mujer con algo de vergüenza. Después de unas pocas preguntas, cuyas respuestas van a parar a un formulario de papel, el empleado le solicita su carnet de identidad y se adentra en la oficina. La señora decide sentarse a esperar. Está cansada y sabe que pasarán meses antes de que esta pequeña bola de nieve que acaba de empujar se convierta en la posibilidad de dormir bajo techo.

Lo que desconoce es que, si su expediente no se resuelve en primera y segunda instancia, intervendrá, como último recurso, el Ministerio Público Fiscal. Y allí, a diferencia de las instancias anteriores, las causas se resuelven en minutos. ¿Cómo es posible? Porque trabajan con un sistema informático que utiliza inteligencia artificial (IA). Su nombre es Prometea.

Cuando un oficial de justicia del mencionado ministerio tome en sus manos el expediente, solo deberá responder, hablando o escribiendo, las preguntas de un chat como WhatsApp. Y, en exactamente cuatro minutos, habrá obtenido el dictamen, además de la estadística relevante para el caso y links de interés para ilustrar la decisión. Luego, los juristas del organismo solo revisan el procedimiento, imprimen y firman. Habrán completado en media hora un trabajo que suele llevar meses.
Un modelo que interesa en España
En octubre de 2019, autoridades del área de modernización del Ministerio de Justicia español visitaron las oficinas del Ministerio Público Fiscal de la Ciudad de Buenos Aires. El objetivo era conocer Prometea, el sistema informático que se utiliza en la capital argentina para resolver casos de diversa materia pero sencilla resolución: infracciones menores, accidentes de tráfico o políticas sociales, entre otros.

Sofía Duarte Domínguez, directora general del órgano antes llamado Modernización de la Justicia de España -en enero de 2020 pasó a ser Transformación Digital de la Administración de Justicia-, hizo declaraciones al respecto en la prensa argentina: "Nos hemos estudiado todo acerca de Prometea, sabemos que es un sistema fabuloso y queremos ver si podemos llevarlo a España. Incluso el [entonces] secretario de Estado de Justicia, Manuel Dolz, nos dio carta blanca para avanzar con esto que es, sin dudas, el futuro de la justicia".

El tema no debería tomarnos por sorpresa. Unos días antes de la visita de la comitiva española al organismo porteño, el profesor de Derecho y Ciencia Política de la Universitat Oberta de Barcelona (UOC) David Martínez explicaba, en un artículo publicado por La Vanguardia, que la IA bien podría ser utilizada en España en casos "de fácil respuesta jurídica", con lo que se lograría descongestionar el tráfico de expedientes judiciales. A pesar de que Duarte Domínguez subraye que la digitalización de todo el Ministerio resulta suelo fértil para automatizar la justicia, ella misma advierte de que uno de los principales obstáculos al proceso reside en la resistencia de los trabajadores judiciales, que creen que la informática les quitará el empleo.
A favor de automatizar la justicia
Las observaciones de Martínez están en consonancia con lo que piensan algunos expertos argentinos, comprometidos con la tarea de hacer una justicia inteligente. Es el caso del juez de la Corte Suprema de Justicia de la provincia de Mendoza, Mario Adaro, que aplica Prometea diariamente y participó recientemente en la primera Cumbre Iberoamericana de Inteligencia Artificial, en la sede del MIT (Boston). "La IA tiene una capacidad de procesamiento de información en grandes volúmenes que acorta los plazos burocráticos en una medida nada desdeñable porque, habitualmente, a mayor cantidad de causas y pocos decisores, más tiempo por caso", señala a EL PAÍS RETINA. "Utilizando procesos automáticos, el juez tiene mayor capacidad de análisis".

El fiscal general adjunto de Buenos Aires, Juan G. Corvalán, creó Prometea tras haber detectado que, en la mitad de las causas en las que interviene el personal judicial, la mayor parte del tiempo se usa para constatar datos personales, información que se reitera, etcétera. Adaro lo ilustra con el ejemplo de causas tributarias, señalando que "son sentencias seriadas, de amplio volumen, donde las decisiones son agrupables en conjuntos claros y todo es bastante mecánico y predecible. Al utilizar IA para ese tipo de problemas, Prometea hace que la cantidad de errores en la carga de datos, tipeo y redundancia baje sensiblemente", asegura el juez mendocino.
El origen: Estados Unidos
Hay tres casos emblemáticos de aplicación de IA en la justicia, además de Prometea. El más famoso es el programa Compas (Correctional Offender Management Profiling for Alternative Sanctions), que se usa en varios Estados de Estados Unidos. Se trata de un software que se utiliza desde 1998 para analizar, según los antecedentes penales de un acusado, sus probabilidades de reincidir. El programa plantea un cuestionario al acusado. Una vez que este responde todas las preguntas, el sistema calcula el riesgo de reincidencia, por lo que el juez define, por ejemplo, si conviene o no otorgar la libertad condicional mientras se completa el proceso judicial.

Compas saltó a la fama con el caso Loomis, de 2013. Acusado de huir de la policía y usar un vehículo sin autorización de su dueño, a Eric Loomis le cayeron seis años de prisión y cinco de condicional porque Compas estimó un riesgo alto de reincidencia. Loomis recurrió, alegando que su defensa no podía rebatir los métodos de Compas porque el algoritmo no era público. La Corte Suprema del Estado de Wisconsin desestimó el recurso. Años más tarde, en 2018, se supo que el sistema analiza 137 aspectos de cada imputado. Pero, al contrastar el nivel de éxito entre las predicciones de Compas y las de juristas de carne y hueso, se constató que el nivel de acierto de la IA no es superior, o incluso, quedan en evidencia errores graves.

"Los promedios estadísticos dicen algo sobre los patrones de comportamiento común en un colectivo. No describen perfiles individuales y son incapaces de captar la singularidad del ser humano", explica Lorena Jaume- Palasí, experta en ética y tecnología y fundadora de Algorithm Watch y The Ethical Tech Society. "Con ello podemos entender colectivos con una mirada un poco más arquitectónica, pero también incurrimos en el riesgo de meter a individuos en estándares en los que no cuadran".

Para aclarar si es viable juzgar a alguien penalmente usando IA hay que comprender con qué criterios actúa el algoritmo (lo que reclamó la defensa de Loomis). Jaume-Palasí sostiene que, a fin de cuentas, el Derecho es un algoritmo que se aplica desde mucho antes de que existiera la informática. "[Con el caso Loomis] todos han puesto el ojo en el sistema informático y se escandalizaron por el racismo, pero Compas nos permitió enterarnos de los sesgos que tienen los jueces, porque el sistema lo crearon humanos que venían trabajando y decidiendo con esos sesgos que luego evidenció el programa".
¿Es Prometea como Compas?
Además de su cargo en la Justicia, Juan G. Corvalán es director del Laboratorio de Innovación e Inteligencia Artificial de la Facultad de Derecho de la Universidad de Buenos Aires. En 2017, creó junto con sus colaboradores el software de Prometea.

Corvalán destaca, entre las cualidades del sistema, que "Prometea no utiliza técnicas de IA de caja negra, o lo que se conoce como deep learning; es decir, todo el proceso del algoritmo es abierto, auditable y trazable". Compas, en cambio, aplica dos redes neuronales cuyo funcionamiento resulta una incógnita porque "fue desarrollado por una empresa privada que ostenta los derechos de propiedad intelectual del algoritmo".

El software argentino, sostiene Corvalán, no hace sino reproducir el proceder de la magistratura del país. "Las predicciones de Prometea se basan en el análisis del historial de lo que los jueces han decidido, son ellos quienes entrenan al sistema. Por ejemplo, en la Corte Constitucional de Colombia [país en el que también se aplica el programa] son los propios magistrados quienes llevan adelante el permanente ajuste de las predicciones de Prometea, con nuestra asistencia técnica, por supuesto".
Bases de datos y sesgos
No hay IA que valga sin datos. Y al hablar de datos, aparece el fantasma de los sesgos, como el racismo del que se ha acusado a Compas. Los números construyen un discurso de objetividad que impide, a veces, cuestionar decisiones. "Los algoritmos no son más que opiniones encerradas en matemáticas", dejó escrito Cathy O'Neil en su célebre Armas de destrucción matemática.

"Lo que indudablemente permiten los algoritmos es estandarizar las decisiones. Es decir, uniformar criterios para que no se brinden dos respuestas diferentes ante el mismo problema", opina Pablo Mlynkiewicz, licenciado en Estadística y exresponsable de la Dirección General de Ciencias de la Información de Buenos Aires. "Pero, claro, para que eso se traduzca en un avance real en la justicia, la base de datos debe poseer representación de todos los colectivos. Si no, habrá errores".

Mlynkiewicz coincide, de este modo, con Jaume-Palasí y con Adaro al destacar un punto fuerte a favor de la automatización de procesos judiciales: evitan dar dos respuestas distintas ante un mismo problema. Es decir, se aporta consistencia argumental en los fallos. Aun siendo la más crítica con estos sistemas, la filósofa mallorquina admite que automatizar procesos judiciales basados en estadística puede ayudar a corregir errores que hoy la justicia se niega a aceptar. "Hace tiempo que sabemos que los jueces y el sistema judicial que conocemos no son muy consistentes. Poder hacer trazabilidad y estadística de las decisiones judiciales gracias a la IA no está nada mal", enfatiza.
Los jueces robots en China
En octubre de 2019 se presentó en Beijing el Tribunal de Internet, definido como un "centro de litigios en línea". Según la información oficial, se trata de una plataforma en la que las partes cargan los datos del problema a resolver y la IA hace el resto: busca jurisprudencia, analiza la temática, contrasta pruebas y dicta sentencia.

El sistema no tiene grandes diferencias técnicas con el de Estonia, donde también se está apostando fuerte por la automatización de la justicia: no hay intervención humana en todo el proceso. Pero entre ambos países hay una gran distancia en estándares democráticos. En el pequeño país báltico, considerado el más avanzado del planeta en materia digital, quien dirige el proyecto es el joven Ott Velsberg, quien pretende que las demandas que se presenten ante el tribunal digital no superen los 7.000 euros como cantidad reclamada por daños.

Allí todo fluye, porque se trata de una sociedad con altos estándares en materia cívica. Pero al hablar del gigante asiático, las cosas cobran otro tenor. "El desarrollo de los jueces virtuales o cibernéticos en China ha seguido la misma línea que el Sistema de Crédito Social: de abajo hacia arriba", explica Dante Avaro, especialista en el modelo de control gubernamental chino, en referencia al controvertido mecanismo de puntuación de los ciudadanos puesto en marcha por Beijing para determinar si son o no fiables. "Ambos comenzaron a principios del nuevo milenio. En el caso de la IA en la justicia, se experimentó en ciudades como Shandong, luego en Hengezhou, Beijing y Guangzhou. El objetivo fue aportar eficiencia a los procesos judiciales en temas de comercio electrónico, pagos virtuales, transacciones en la nube y disputas sobre propiedad intelectual", ilustra.

El detalle es que, en manos de un Estado no democrático que pretende ordenar a la sociedad trabajando transversalmente un scoring que Avaro denomina "trazabilidad ciudadana", la aplicación de IA en la justicia es peligrosa porque queda vinculada con el Sistema de Crédito Social y el sistema de reconocimiento facial Yitu Dragonfly Eye. "Se está construyendo un descomunal aparato de vigilancia estatal", concluye Avaro

# data[].attributes.attachment_link.title
La inteligencia artificial se asoma a la justicia pero despierta dudas éticas

# data[].attributes.attachment_link.description
Una mujer se persona en la mesa de entradas de un juzgado de Buenos Aires, Argentina. Son las 10 de la mañana de un lunes frío de agosto de 2018. Llega acompañada por sus tres hijos, que se sientan en el suelo a jugar, mientras su madre conversa con el empleado.

# data[].attributes.headline
Ética para máquinas: similitudes y diferencias entre la moral artificial y la moral humana

# data[].attributes.subject
Ética para máquinas: similitudes y diferencias entre la moral artificial y la moral humana

# data[].attributes.headline
Entrevista a José María Lacalle en torno al Humanismo tecnológico

# data[].attributes.subject
Entrevista a José María Lacalle en torno al Humanismo tecnológico

# data[].attributes.attachment_link.readable_text
José María Lassalle (Santander, 1966), fascinado por la técnica desde los tiempos de su tesis doctoral, liberal influenciado por la crítica (de raigambre marxista) de la Escuela de Frankfurt, advierte de los peligros del desarrollo tecnológico desbocado y monopolístico. Después de su paso por la política como secretario de Estado de Cultura y secretario de Estado de Sociedad de la Información y Agenda Digital, ambos en gobiernos de Mariano Rajoy, ha regresado a la vida académica, a sus clases, a sus lecturas, a sus escritos. Su último libro, Ciberleviatán (Arpa Ediciones), alerta de la amenaza que se cierne sobre las democracias occidentales, y propone soluciones. Estamos a tiempo.
¿Nos conocen los algoritmos mejor que nosotros mismos?
Efectivamente. Además, cuando surjan los algoritmos biométricos y, junto con el machine learning, sean capaces de interpretar nuestras emociones, ya prácticamente nos sustituirán en nuestra capacidad de decisión. Es uno de los retos que tiene por delante la democracia occidental.
Pero, ¿sabemos lo que es un algoritmo?
El algoritmo se ha convertido en el instrumento a través del cual las corporaciones y la tecnocracia vinculada a esas corporaciones manejan las commodities de nuestro tiempo, que son los datos. El capitalismo ha generado por primera vez un modelo de desarrollo sin propiedad, porque los datos no tienen teoría de la propiedad. Es preciso desarrollarla: saber dónde está lo mío y lo tuyo y delimitar el espacio público de los datos. El título de propiedad no puede ser el algoritmo. Quien controla la información y la captación de los datos atesora un gran poder. En cinco años, en el ranking de nivel de capitalización más alta hemos pasado de tres empresas tecnológicas a ocho. Las cuentas de resultados crecen exponencialmente.
El panorama que se describe en Ciberleviatán suena a fantasía ciberpunk, con grandes corporaciones que lo dominan todo... ¿Viviremos en una distopía de este tipo?
Desgraciadamente no es una fantasía. Cada vez somos más los que advertimos de los riesgos distópicos hacia los que avanza la revolución digital. Son unos riesgos asociados, por un lado, a la élite tecnocrática que domina la revolución digital, y que tiene una visión claramente nietzscheana y posmoderna: una reformulación de la idea del hombre a través del transhumanismo. Pero están también asociados a una visión de la técnica despojada de cualquier tipo de reflexión o contenido humanístico: se centra en forzar los límites. Una de las claves del desarrollo tecnológico está en que no existen límites, y eso es reventar los fundamentos de nuestra civilización.
Dice usted que lo curioso de este proceso es que se suele ver con buenos ojos. ¿Cree que este punto de vista puede estar cambiando?
La cuenta de resultados y los niveles de capitalización de las grandes corporaciones dicen que no, y la cifra de negocio que generan los servicios y las aplicaciones tampoco. El modelo capitalista evoluciona hacia un capitalismo cognitivo basado precisamente en un desapoderamiento del poder político, de una neutralización de la democracia y de un proceso de concentración de riqueza y poder monopolístico inédito desde los trusts de los Estados Unidos de finales del siglo XIX. El poder político estadounidense los vio como un peligro y decidió combatir con las leyes antitrust y anticártel. Estamos desarrollando un modelo de capitalismo que fomenta la desigualdad.
El determinismo tecnológico dice que la tecnología ya avanza de forma autónoma, sin el control de los seres humanos.
Yo lo creo así, pero también creo que aún existen los márgenes políticos para que la democracia reaccione y abra un proceso de debate público sobre lo que esto significa y tome el control legal y regulatorio sobre los desarrollos. Si no lo hacemos hoy, será difícil hacerlo mañana, porque el proceso de concentración de las corporaciones que controlan la revolución digital crece de manera imparable. Estamos todavía en el momento previo al clic que provoca la disrupción. A medida que la velocidad del desarrollo tecnológico crece, nuestra capacidad de reacción decrece, y en algún momento la situación será irreversible. China, por ejemplo, está desarrollando su carácter dictatorial a través de la tecnología, el control a través de la inteligencia artificial (IA).
¿En qué consiste el humanismo tecnológico?
En aprovechar una ventaja competitiva que tiene Europa respecto a China y Estados Unidos, que es participar de una civilización que lleva 2.500 años pensando su relación con la técnica. Desde el Protágoras de Platón se reflexiona sobre la potencialidad de la técnica para transformar subjetivamente al ser humano. Es preciso pactar con la técnica, desarrollar un principio de responsabilidad: en la medida en que se incremente el desarrollo técnico tiene que incrementarse el nivel de responsabilidad de los seres humanos. Para eso hace falta atribuirla al hombre la capacidad de decisión. Los modelos algorítmicos tienen que ser regulados por ley, no pensando en su eficiencia sino en su utilidad humanista. Más que desarrollar una realidad aumentada hay que desarrollar una humanidad aumentada.
Usted va más allá de la crítica de la infoxicación, denuncia un cambio en la subjetividad del ser humano.
La revolución digital está siendo una revolución ontológica, que afecta a la esencia de lo humano, cambia nuestra subjetividad, provoca que por primera vez en la Historia el cuerpo se retire de la percepción directa de la realidad. Es también una revolución política, que está triturando los ideales de la Revolución Francesa y de la construcción de la idea de ciudadanía por la mayoría de edad, proponiendo una libertad asistida que sustituye a la ley por los algoritmos. Y está suponiendo otro cambio radical: sustituye a la Revolución Industrial: el modelo de economía basado en el capital y el trabajo está expeliendo al trabajo y sustituyéndole por IA y la robótica. La mayor revolución de la historia se está produciendo ahora. Y está empezando por nosotros mismos.
¿Cómo?
Desde el homo habilis estamos cambiando nuestra forma de relacionarnos con la realidad. Ahora estamos sustituyendo la realidad por un diálogo con interfaces y eso nos está anulando. Hemos construido nuestras categorías políticas, morales, estéticas alrededor de cuerpos que eran capaces de sentir desde la percepción sensible. El dolor nos ayudaba a entender la tortura. Ahora, la muerte civil que se practica en los linchamientos digitales, que protagonizan multitudes anónimas en las redes, son posibles porque no hay una experiencia directa del dolor. Hay nuevas experiencias de la crueldad. Las redes están fomentando multitudes digitales que tienen una empatía cero. Esta deshumanización es algo de lo que no solemos hablar.
La tecnología prometió la liberación de la maldición del trabajo... pero no aumentar los niveles de desempleo. Las máquinas solo van a servir a sus amos.
Algo parecido a lo que sucedió en la Roma clásica: el esclavismo liberó a la plebe de trabajar para al patriciado y construyó una dictadura perfecta a través del pan y circo. Los plebeyos fueron neutralizados y desapoderados como sujeto político y, al mismo tiempo, como sujeto económico gracias a la esclavitud que aportó el imperio con sus conquistas. Los nuevos esclavos del siglo XXI serán los robots, las máquinas, el problema está en quién va a dar sentido a las maquinas. Los trabajos manuales se sustituirán por robots, pero las clases medias, abogados, brokers, periodistas, serán sustituidas por IA. El presidente Obama ya advirtió de que la IA supondrá una erosión del poder adquisitvo de la clase media. Vivimos, además, un proceso de proletarización cognitiva, porque somos usuarios de datos y aplicaciones que no son de nuestra propiedad. Tengo miles de fotos que no son de mi propiedad, a no ser que las imprima en papel. La técnica ha sido hasta ahora un elemento de progreso, hay que cuidar de que siga siéndolo.

# data[].attributes.attachment_link.title
Lassalle: "La revolución digital está triturando los ideales de la Revolución Francesa"

# data[].attributes.attachment_link.description
José María Lassalle (Santander, 1966), fascinado por la técnica desde los tiempos de su tesis doctoral, liberal influenciado por la crítica (de raigambre marxista) de la Escuela de Frankfurt, advierte de los peligros del desarrollo tecnológico desbocado y monopolístico.

# data[].attributes.body
El papel que la educación debe jugar en un mundo organizado por la IA

# data[].attributes.attachment_link.title
#MiEmpleoMiFuturo: un documental sobre robots, economía, clase media... y el fin del mundo

# data[].attributes.body
El papel que la educación debe jugar en un mundo organizado por la IA

# data[].attributes.attachment_link.title
#MiEmpleoMiFuturo 2: un documental sobre robots, economía, clase media... y el fin del mundo

# data[].attributes.attachment_link.title
Eli Pariser: cuidado con la "burbuja de filtros" en la red. TED 2011 Español Sub

# data[].attributes.attachment_link.description
A medida que las empresas de la red se esfuerzan por adaptar sus servicios (incluyendo noticias y resultados de búsqueda) a nuestros gustos personales, surge una consecuencia no deseada peligrosa: quedar atrapados en una "burbuja de filtros" que nos obstaculiza el acceso a esa información que podría desafiar o ampliar nuestra visión del mundo.

# data[].attributes.body
La ética de la IA

# data[].attributes.attachment_link.title
Más inteligentes, pero también éticas. Así serán las máquinas en el futuro

# data[].attributes.body
Ética de la IA

# data[].attributes.attachment_link.readable_text
Muchos economistas se refieren a la Inteligencia Artificial (IA) como la tecnología de propósito general de nuestra era. Las tecnologías de propósito general de los últimos dos siglos y medio son un conjunto de tecnologías transformadoras que incluyen a la electricidad, el motor de combustión e Internet. Dicen que la IA es una tecnología de propósito general porque no solo promete transformar la forma de vivir nuestras vidas, sino que también promete transformar la forma en la que los negocios se llevarán a cabo tal y como lo hizo, y sigue haciendo, la electricidad, el motor de combustión e Internet. Los economistas que ven la IA como una tecnología de propósito general entienden que su aplicación se dará en todas las industrias y sectores económicos.

Otros autores afirman que el impacto que tendrá la IA será mucho mayor que el que tuvo la electricidad. De las tecnologías mencionadas no cabe duda que la más generalizada es la electricidad, pero el avance de la IA ha sido espectacular en las últimas décadas y ha generado una gran atención, así como una presencia constante en el debate público y medios de comunicación.

La historia de la IA no ha sido lineal ni de constante progreso. Ha existido lo que se ha venido en llamar AI winters, momentos en los que se esperaba que la IA iba a hacer grandes cosas, pero en realidad las cosas que se esperaban no se materializaron y esto causó decepción y, lo que es peor, desinversión económica. A día de hoy los intereses e incentivos de la economía, la ingente inversión pública y privada en investigación etc. revelan como la IA es casi una cuestión estratégica para la política industrial de muchos países. La industria de la IA es de miles de millones de dólares y esto no es una exageración y si un país se queda atrás en la carrera por la digitalización puede ver afectado su desarrollo y la prosperidad de sus ciudadanos.

La IA se aplica en tu smartphone para reconocer el habla, en plataformas digitales como Facebook para reconocer cosas en fotos o en la traducción automatizada de Google. Mucha gente ha invertido miles de millones para que ciertos servicios funcionen y se moneticen. Y funcionan y generan dividendos. Esta es quizá la principal razón por la que probablemente no habrá otro 'AI winter' y el camino de descubrimientos, desarrollos y aplicaciones de la IA será continuo, constante, aunque no tiene porqué ser de éxitos inmediatos.

Se puede concebir la IA como la ciencia e ingeniería que trata de entender y estudiar la inteligencia biológica para poder recrearla artificialmente en máquinas. Se podría decir que la IA tiene como objetivo principal hacer que las máquinas realicen tareas cognitivas tales como toma de decisiones, predicciones, clasificaciones o síntesis a un nivel de precisión mayor que el humano. Desde su nacimiento como disciplina a mediados de la década de los 50 del siglo XX, aunque por supuesto su historia profunda se remonta muchos siglos atrás, la IA ha querido crear sistemas o dispositivos autónomos. De acuerdo con la IEEE (acrónimo en inglés para Instituto de Ingeniería Eléctrica y Electrónica) un sistema autónomo se define, en términos de ingeniería, como "un sistema que realiza, parcial o completamente, una función que fue previamente llevada a cabo, parcial o completamente, por un operador humano". El contexto del control automático de ciertas funciones o tareas no solo es fabril o industrial con sus claras repercusiones en la eliminación de puestos de trabajo (desempleo tecnológico), también es militar. No es algo nuevo que a lo largo de la historia los militares hayan intentado crear armamento autónomo. De hecho, los vínculos de la cibernética, robótica y actualmente la IA con las fuerzas armadas son muy estrechos dado que estas tecnologías pueden revolucionar la seguridad nacional, estrategia y capacidad militar de los países.

El potencial uso de la IA en múltiples áreas de nuestra vida, economía y sociedad en general, tanto en forma de productos o servicios comercializables como también armamento autónomo y sistemas de monitorización; presenta claros desafíos prácticos y éticos. Aunque hay aspectos morales y éticos en el uso de la energía, la electricidad ni los motores de combustión, plantean grandes problemas morales. Esto no sucede, por ejemplo, con la aplicación y uso de Internet o la IA.

La IA puede ser beneficiosa para la economía y sociedad en general, pero también contrae importantes riesgos asociados a su implementación. La ética de la IA (un área de estudio incipiente dentro de la filosofía y en particular la ética aplicada) se centra en crear marcos, principios y guías para la aplicación ética de la IA en la sociedad (similar a la bioética que trata de desarrollar marcos éticos que sirven de guía para la práctica biomédica). Hasta ahora la ética de la IA ha favorecido la reflexión sobre los principios que deben guiar el uso ético de la IA para promover el bien común, evitar causar daño a nadie y que se ajuste a los DD.HH. Varias listas de principios han sido elaborados por compañías privadas (principios éticos de Google), grupos profesionales (ACM US Public Policy Council 2017), grupos de interés (Asilomar AI principles, Future of Life Institute 2017€) etc. También se ha dedicado esfuerzos a reflexionar sobre el diseño ético de la IA y alineación de la IA con valores humanos y en especial que los algoritmos reflejen valores como la equidad, transparencia y que no produzcan resultados sesgados.

Además de reflexionar acerca de principios de alto nivel que sirvan de guía para implementar éticamente la IA en sociedad, creo que los profesionales de la ética de la IA y todos en general debemos hacer un esfuerzo por entender cómo se aplica realmente la IA en la sociedad y establecer prioridades para una investigación e innovación responsable. La IA puede ser muy buena para la sociedad, pero también entraña riesgos. La ética de la IA y otras herramientas metodológicas de la filosofía pueden identificar cuáles son estos riesgos y hacer todo lo posible para mitigarlos. Pero todos debemos saber cuáles son los riesgos reales. Escenarios utópicos de solucionismo tecnológico, robots tipo Terminator que sometan a la humanidad o superinteligencias, no son ese tipo de riesgos.

# data[].attributes.attachment_link.description
Muchos economistas se refieren a la Inteligencia Artificial (IA) como la tecnología de propósito general de nuestra era. Las tecnologías de propósito general de los últimos dos siglos y medio son un conjunto de tecnologías transformadoras que incluyen a la electricidad, el motor de combustión e Internet.

# data[].attributes.body
IA versus libertad

# data[].attributes.attachment_link.readable_text
La democracia liberal se enfrenta a una doble crisis. Lo que más centra la atención es el consabido problema de los regímenes autoritarios. Pero los nuevos descubrimientos científicos y desarrollos tecnológicos representan un reto mucho más profundo para el ideal básico liberal: la libertad humana.

El liberalismo ha logrado sobrevivir, desde hace siglos, a numerosos demagogos y autócratas que han intentado estrangular la libertad desde fuera. Pero ha tenido escasa experiencia, hasta ahora, con tecnologías capaces de corroer la libertad humana desde dentro.

Para asimilar este nuevo desafío, empecemos por comprender qué significa el liberalismo. En el discurso político occidental, el término "liberal" se usa a menudo con un sentido estrictamente partidista, como lo opuesto a "conservador". Pero muchos de los denominados conservadores adoptan la visión liberal del mundo en general. El típico votante de Trump habría sido considerado un liberal radical hace un siglo. Haga usted mismo la prueba. ¿Cree que la gente debe elegir a su Gobierno en lugar de obedecer ciegamente a un monarca? ¿Cree que una persona debe elegir su profesión en lugar de pertenecer por nacimiento a una casta? ¿Cree que una persona debe elegir a su cónyuge en lugar de casarse con quien hayan decidido sus padres? Si responde sí a las tres preguntas, enhorabuena, es usted liberal.

El liberalismo defiende la libertad humana porque asume que las personas son entes únicos, distintos a todos los demás animales. A diferencia de las ratas y los monos, el Homo sapiens, en teoría, tiene libre albedrío. Eso es lo que hace que los sentimientos y las decisiones humanas constituyan la máxima autoridad moral y política en el mundo. Por desgracia, el libre albedrío no es una realidad científica. Es un mito que el liberalismo heredó de la teología cristiana. Los teólogos elaboraron la idea del libre albedrío para explicar por qué Dios hace bien cuando castiga a los pecadores por sus malas decisiones y recompensa a los santos por las decisiones acertadas.

Si no tomamos nuestras decisiones con libertad, ¿por qué va Dios a castigarnos o recompensarnos? Según los teólogos, es razonable que lo haga porque nuestras decisiones son el reflejo del libre albedrío de nuestras almas eternas, que son completamente independientes de cualquier limitación física y biológica.

Este mito tiene poca relación con lo que la ciencia nos dice del Homo sapiens y otros animales. Los seres humanos, sin duda, tienen voluntad, pero no es libre. Yo no puedo decidir qué deseos tengo. No decido ser introvertido o extrovertido, tranquilo o inquieto, gay o heterosexual. Los seres humanos toman decisiones, pero nunca son decisiones independientes. Cada una de ellas depende de unas condiciones biológicas y sociales que escapan a mi control. Puedo decidir qué comer, con quién casarme y a quién votar, pero esas decisiones dependen de mis genes, mi bioquímica, mi sexo, mi origen familiar, mi cultura nacional, etcétera; todos ellos, elementos que yo no he elegido.

Esta no es una teoría abstracta, sino que es fácil de observar. Fíjese en la próxima idea que surge en su cerebro. ¿De dónde ha salido? ¿Se le ha ocurrido libremente? Por supuesto que no. Si observa con atención su mente, se dará cuenta de que tiene poco control sobre lo que ocurre en ella y que no decide libremente qué pensar, qué sentir, ni qué querer. ¿Alguna vez le ha pasado que, la noche anterior a un acontecimiento importante, intenta dormir pero le mantiene en vela una serie constante de pensamientos y preocupaciones de lo más irritantes? Si podemos escoger libremente, ¿por qué no podemos detener esa corriente de pensamientos y relajarnos sin más?

Animales pirateables

Aunque el libre albedrío siempre ha sido un mito, en siglos anteriores fue útil. Infundió valor a quienes lucharon contra la Inquisición, el derecho divino de los reyes, el KGB y el Ku Klux Klan. Y era un mito que tenía pocos costes. En 1776 y en 1939 no era muy grave creer que nuestras convicciones y decisiones eran producto del libre albedrío, y no de la bioquímica y la neurología. Porque en 1776 y en 1939 nadie entendía muy bien la bioquímica, ni la neurología. Ahora, sin embargo, tener fe en el libre albedrío es peligroso. Si los Gobiernos y las empresas logran hackear o piratear el sistema operativo humano, las personas más fáciles de manipular serán aquellas que creen en el libre albedrío.

Para conseguir piratear a los seres humanos, hacen falta tres cosas: sólidos conocimientos de biología, muchos datos y una gran capacidad informática. La Inquisición y el KGB nunca lograron penetrar en los seres humanos porque carecían de esos conocimientos de biología, de ese arsenal de datos y esa capacidad informática. Ahora, en cambio, es posible que tanto las empresas como los Gobiernos cuenten pronto con todo ello y, cuando logren piratearnos, no solo podrán predecir nuestras decisiones, sino también manipular nuestros sentimientos.

Quien crea en el relato liberal tradicional tendrá la tentación de restar importancia a este problema. "No, nunca va a pasar eso. Nadie conseguirá jamás piratear el espíritu humano porque contiene algo que va más allá de los genes, las neuronas y los algoritmos. Nadie puede predecir ni manipular mis decisiones porque mis decisiones son el reflejo de mi libre albedrío". Por desgracia, ignorar el problema no va a hacer que desaparezca. Solo sirve para que seamos más vulnerables.

Una fe ingenua en el libre albedrío nos ciega. Cuando una persona escoge algo -un producto, una carrera, una pareja, un político-, se dice que está escogiéndolo por su libre albedrío. Y ya no hay más que hablar. No hay ningún motivo para sentir curiosidad por lo que ocurre en su interior, por las fuerzas que verdaderamente le han conducido a tomar esa decisión.

Todo arranca con detalles sencillos. Mientras alguien navega por Internet, le llama la atención un titular: "Una banda de inmigrantes viola a las mujeres locales". Pincha en él. Al mismo tiempo, su vecina también está navegando por la Red y ve un titular diferente: "Trump prepara un ataque nuclear contra Irán". Pincha en él. En realidad, los dos titulares son noticias falsas, quizá generadas por troles rusos, o por un sitio web deseoso de captar más tráfico para mejorar sus ingresos por publicidad. Tanto la primera persona como su vecina creen que han pinchado en esos titulares por su libre albedrío. Pero, en realidad, las han hackeado.

La propaganda y la manipulación no son ninguna novedad, desde luego. Antes actuaban mediante bombardeos masivos; hoy, son, cada vez más, munición de alta precisión contra objetivos escogidos. Cuando Hitler pronunciaba un discurso en la radio, apuntaba al mínimo común denominador porque no podía construir un mensaje a medida para cada una de las debilidades concretas de cada cerebro. Ahora sí es posible hacerlo. Un algoritmo puede decir si alguien ya está predispuesto contra los inmigrantes, y si su vecina ya detesta a Trump, de tal forma que el primero ve un titular y la segunda, en cambio, otro completamente distinto. Algunas de las mentes más brillantes del mundo llevan años investigando cómo piratear el cerebro humano para hacer que pinchemos en determinados anuncios y así vendernos cosas. El mejor método es pulsar los botones del miedo, el odio o la codicia que llevamos dentro. Y ese método ha empezado a utilizarse ahora para vendernos políticos e ideologías.

Y este no es más que el principio. Por ahora, los piratas se limitan a analizar señales externas: los productos que compramos, los lugares que visitamos, las palabras que buscamos en Internet. Pero, de aquí a unos años, los sensores biométricos podrían proporcionar acceso directo a nuestra realidad interior y saber qué sucede en nuestro corazón. No el corazón metafórico tan querido de las fantasías liberales, sino el músculo que bombea y regula nuestra presión sanguínea y gran parte de nuestra actividad cerebral. Entonces, los piratas podrían correlacionar el ritmo cardiaco con los datos de la tarjeta de crédito y la presión sanguínea con el historial de búsquedas. ¿De qué habrían sido capaces la Inquisición y el KGB con unas pulseras biométricas que vigilen constantemente nuestro ánimo y nuestros afectos? Por desgracia, da la impresión de que pronto sabremos la respuesta.

El liberalismo ha desarrollado un impresionante arsenal de argumentos e instituciones para defender las libertades individuales contra ataques externos de Gobiernos represores y religiones intolerantes, pero no está preparado para una situación en la que la libertad individual se socava desde dentro y en la que, de hecho, los conceptos "libertad" e "individual" ya no tienen mucho sentido. Para sobrevivir y prosperar en el siglo XXI, necesitamos dejar atrás la ingenua visión de los seres humanos como individuos libres -una concepción herencia a partes iguales de la teología cristiana y de la Ilustración- y aceptar lo que, en realidad, somos los seres humanos: unos animales pirateables. Necesitamos conocernos mejor a nosotros mismos.

Códigos defectuosos

Este consejo no es nuevo, por supuesto. Desde la Antigüedad, los sabios y los santos no han dejado de decir "conócete a ti mismo". Pero en tiempos de Sócrates, Buda y Confucio, uno no tenía competencia en esta búsqueda. Si uno no se conocía a sí mismo, seguía siendo una caja negra para el resto de la humanidad. Ahora, en cambio, sí hay competencia. Mientras usted lee estas líneas, los Gobiernos y las empresas están trabajando para piratearle. Si consiguen conocerle mejor de lo que usted se conoce a sí mismo, podrán venderle todo lo que quieran, ya sea un producto o un político.

Es especialmente importante conocer nuestros puntos débiles porque son las principales herramientas de quienes intentan piratearnos. Los ordenadores se piratean a través de líneas de código defectuosas preexistentes. Los seres humanos, a través de miedos, odios, prejuicios y deseos preexistentes. Los piratas no pueden crear miedo ni odio de la nada. Pero, cuando descubren lo que una persona ya teme y odia, tienen fácil apretar las tuercas emocionales correspondientes y provocar una furia aún mayor.

Si no podemos llegar a conocernos a nosotros mismos mediante nuestros propios esfuerzos, tal vez la misma tecnología que utilizan los piratas pueda servir para proteger a la gente. Así como el ordenador tiene un antivirus que le preserva frente al software malicioso, quizá necesitamos un antivirus para el cerebro. Ese ayudante artificial aprenderá con la experiencia cuál es la debilidad particular de una persona -los vídeos de gatos o las irritantes noticias sobre Trump- y podrá bloquearlos para defendernos.

No obstante, todo esto no es más que un aspecto marginal. Si los seres humanos son animales pirateables, y si nuestras decisiones y opiniones no son reflejo de nuestro libre albedrío, ¿para qué sirve la política? Durante 300 años, los ideales liberales inspiraron un proyecto político que pretendía dar al mayor número posible de gente la capacidad de perseguir sus sueños y de hacer realidad sus deseos. Estamos cada vez más cerca de alcanzar ese objetivo, pero también de darnos cuenta de que, en realidad, es un engaño. Las mismas tecnologías que hemos inventado para ayudar a las personas a perseguir sus sueños permiten rediseñarlos. Así que ¿cómo confiar en ninguno de mis sueños?

Es posible que este descubrimiento otorgue a los seres humanos un tipo de libertad completamente nuevo. Hasta ahora, nos identificábamos firmemente con nuestros deseos y buscábamos la libertad necesaria para cumplirlos. Cuando surgía una idea en nuestra cabeza, nos apresurábamos a obedecerla. Pasábamos el tiempo corriendo como locos, espoleados, subidos a una furibunda montaña rusa de pensamientos, sentimientos y deseos, que hemos creído, erróneamente, que representaban nuestro libre albedrío. ¿Qué sucederá si dejamos de identificarnos con esa montaña rusa? ¿Qué sucederá cuando observemos con cuidado la próxima idea que surja en nuestra mente y nos preguntemos de dónde ha venido?

A veces la gente piensa que, si renunciamos al libre albedrío, nos volveremos completamente apáticos, nos acurrucaremos en un rincón y nos dejaremos morir de hambre. La verdad es que renunciar a este engaño puede despertar una profunda curiosidad. Mientras nos identifiquemos firmemente con cualquier pensamiento y deseo que surja en nuestra mente, no necesitamos hacer grandes esfuerzos para conocernos. Pensamos que ya sabemos de sobra quiénes somos. Sin embargo, cuando uno se da cuenta de que "estos pensamientos no son míos, no son más que ciertas vibraciones bioquímicas", comprende también que no tiene ni idea de quién ni de qué es. Y ese puede ser el principio de la aventura de exploración más apasionante que uno pueda emprender.

Filosofía práctica

Poner en duda el libre albedrío y explorar la verdadera naturaleza de la humanidad no es algo nuevo. Los humanos hemos mantenido este debate miles de veces. Salvo que antes no disponíamos de la tecnología. Y la tecnología lo cambia todo. Antiguos problemas filosóficos se convierten ahora en problemas prácticos de ingeniería y política. Y, si bien los filósofos son gente muy paciente -pueden discutir sobre un tema durante 3.000 años sin llegar a ninguna conclusión-, los ingenieros no lo son tanto. Y los políticos son los menos pacientes de todos.

¿Cómo funciona la democracia liberal en una era en la que los Gobiernos y las empresas pueden piratear a los seres humanos? ¿Dónde quedan afirmaciones como que "el votante sabe lo que conviene" y "el cliente siempre tiene razón"? ¿Cómo vivir cuando comprendemos que somos animales pirateables, que nuestro corazón puede ser un agente del Gobierno, que nuestra amígdala puede estar trabajando para Putin y la próxima idea que se nos ocurra perfectamente puede no ser consecuencia del libre albedrío sino de un algoritmo que nos conoce mejor que nosotros mismos? Estas son las preguntas más interesantes que debe afrontar la humanidad.

Por desgracia, no son preguntas que suela hacerse la mayoría de la gente. En lugar de investigar lo que nos aguarda más allá del espejismo del libre albedrío, la gente está retrocediendo en todo el mundo para refugiarse en ilusiones aún más remotas. En vez de enfrentarse al reto de la inteligencia artificial y la bioingeniería, la gente recurre a fantasías religiosas y nacionalistas que están todavía más alejadas que el liberalismo de las realidades científicas de nuestro tiempo. Lo que se nos ofrece, en lugar de nuevos modelos políticos, son restos reempaquetados del siglo XX o incluso de la Edad Media.

Cuando uno intenta entregarse a estas fantasías nostálgicas, acaba debatiendo sobre la veracidad de la Biblia y el carácter sagrado de la nación (especialmente si, como yo, vive en un país como Israel). Para un estudioso, esto es decepcionante. Discutir sobre la Biblia era muy moderno en la época de Voltaire, y debatir los méritos del nacionalismo era filosofía de vanguardia hace un siglo, pero hoy parece una terrible pérdida de tiempo. La inteligencia artificial y la bioingeniería están a punto de cambiar el curso de la evolución, nada menos, y no tenemos más que unas cuantas décadas para decidir qué hacemos. No sé de dónde saldrán las respuestas, pero seguramente no será en relatos de hace 2.000 años, cuando se sabía poco de genética y menos de ordenadores.

¿Qué hacer? Supongo que necesitamos luchar en dos frentes simultáneos. Debemos defender la democracia liberal no solo porque ha demostrado que es una forma de gobierno más benigna que cualquier otra alternativa, sino también porque es lo que menos restringe el debate sobre el futuro de la humanidad. Pero, al mismo tiempo, debemos poner en tela de juicio las hipótesis tradicionales del liberalismo y desarrollar un nuevo proyecto político más acorde con las realidades científicas y las capacidades tecnológicas del siglo XXI.

Yuval Noah Harari es historiador y autor, entre otros libros, de 'Sapiens. De animales a dioses' (editorial Debate).

Traducción de María Luisa Rodríguez Tapia.

# data[].attributes.attachment_link.title
Análisis | Los cerebros 'hackeados' votan

# data[].attributes.attachment_link.description
La democracia liberal se enfrenta a una doble crisis. Lo que más centra la atención es el consabido problema de los regímenes autoritarios. Pero los nuevos descubrimientos científicos y desarrollos tecnológicos representan un reto mucho más profundo para el ideal básico liberal: la libertad humana.

# data[].attributes.body
¿Es ético comprar en Amazon?

# data[].attributes.attachment_link.readable_text
Hace tiempo que el consumo ético es una forma de incidir sobre lo que compramos y, por tanto, sobre lo que se ofrece. Nos permite, además, influir sobre los procesos de fabricación y transporte de aquello que consumimos. Conocer con detalle las implicaciones de todo lo que adquirimos nos abre por tanto la posibilidad de votar con el monedero. Pero mientras muchas personas han incorporado, probablemente, la preferencia por tejidos no animales, productos fabricados localmente o alimentos ecológicos, el debate sobre el consumo de lo que nos proponen algunas de las nuevas empresas nacidas al albor de Internet está menos desarrollado.

Y, sin embargo, estas nuevas compañías son cada vez más omnipresentes. Las cajas con el logotipo de la sonrisa de Amazon, por ejemplo, son cada día más ubicuas. La empresa que Jeff Bezos creó en 1995 como una librería en línea, y que dos años más tarde ya salía a Bolsa, es hoy la marca de venta al por menor más valiosa del mundo. Permite adquirir y recibir a domicilio desde gomas del pelo a piezas de un coche.

Nos encontramos ante un claro ejemplo de cómo las posibilidades tecnológicas están cambiando nuestra cotidianidad. Amazon refleja las dinámicas que caracterizan este largo entrar en el siglo XXI: la emergencia de grandes complejos empresariales de base tecnológica (los famosos GAFA, acrónimo de Google, Apple, Facebook y Amazon), la crisis del comercio minorista local, la robotización del trabajo y el auge del ocio en casa.

Desde que llegó a España en 2011, el crecimiento de Amazon es constante, pero sus servicios están aún lejos de lo que experimentan los consumidores estadounidenses. En España, la empresa dispone de 10 almacenes y garantiza la entrega en el día en tan solo unos pocos códigos postales. En EE UU, Amazon dispone de 17 centros de distribución solo en el Estado de California, en ciertas zonas garantiza la entrega en menos de una hora, acepta pedidos directamente desde asistentes virtuales domésticos tipo Alexa o Echo, cuenta con tiendas físicas donde los libros no tienen precio y supermercados sin personal humano, y es ya el segundo empleador del país, superado solo por la cadena Walmart.

Amazon pasó de vender libros a vender de todo, y se ha ido convirtiendo en un negocio global y multiservicio. En España hay en realidad cuatro "Amazons": Amazon Spain Fulfillment (logística), Amazon Spain Services (servicios), Amazon Web Services (cloud) y Amazon Online Spain (publicidad). Cuatro empresas que se estima que facturan 4.200 millones de euros, de los que solo declararon al fisco español 289 en 2017 y por los que pagaron 4 millones en impuesto de sociedades (un diminuto 1,4%), según la estimación publicada en abril por el periódico Expansión.

Uno de los grandes debates que ha generado el espectacular crecimiento de Amazon es el de su impacto en el sector minorista. Después de años de teorizar sobre la desaparición del pequeño comercio como consecuencia de la emergencia de las grandes superficies, al final parece que las plataformas online, con Amazon a la cabeza, pueden acabar dándole el golpe de gracia tanto a tiendas de barrio como a grandes superficies. El comercio tradicional, grande y pequeño, tiene dificultades para competir con una multinacional que puede movilizar en muy poco tiempo cadenas logísticas globales a precios muy bajos. Amazon es sobre todo una tienda de tiendas, y así distribuye gastos y riesgos.

Bezos identificó una oportunidad de mercado que parecía marginal, la distribución global de libros con plazos y precios asequibles, y esa ha sido la base de su supermercado del mundo y de un entramado societario que vende desde servicios de Internet hasta mano de obra con la herramienta Amazon MTurk.

A partir de la web librería, desarrolló acuerdos con terceros vendedores para que todos utilizaran la plataforma, incorporando así un perfil tanto del vendedor como del revendedor, algo que permitió a Amazon conseguir los ingresos y los datos necesarios para iniciar el salto a otros sectores, servicios y productos. La empresa ha rentabilizado su posición dominante sin piedad, poniendo en situaciones muy difíciles no solo al sector minorista local, sino a grandes cadenas.

Y parece que la ambición no cesa. Bezos ha construido todo un imperio. No solo encontró un filón en la prestación de servicios informáticos de almacenamiento y gestión a clientes como la NASA, sino que es el propietario de The Washington Post.

Algunos expertos se refieren a los cambios introducidos por empresas como Amazon en las dinámicas laborales utilizando el término de taylorismo digital. A principios del siglo XX se expandieron las teorías de Charles Taylor y su método de organización industrial para racionalizar y mecanizar el trabajo, dividiendo las tareas de forma sistemática con el fin de aumentar la eficiencia y productividad. Bajo ese modelo, el trabajo de cada obrero era cronometrado en un sistema de producción en cadena que restaba valor a la mano de obra cualificada y bajaba los salarios. De un modo parecido, la cadena logística de Amazon maximiza las tecnologías digitales y la posibilidad de monitorizar al trabajador y el producto al minuto tanto dentro como fuera de sus instalaciones. Hay empleados que han relatado jornadas extenuantes, controles constantes y objetivos de productividad imposibles, a los que hay que sumar una alta temporalidad y salarios bajos que ya han motivado cuatro huelgas en el almacén más antiguo de la empresa en España, en San Fernando de Henares (Madrid). Incluso 400 miembros de la plantilla de The Washington Post mandaron una carta abierta a Bezos este año en la que a la luz de los brillantes resultados logrados por la cabecera (se duplicó el número de suscripciones digitales en 2017, aumentó más de la mitad el tráfico en su web y rebasó las previsiones de ingresos publicitarios) pedían un "trato justo" a cada uno de los trabajadores que contribuyen al éxito. "El Post no es un negocio cualquiera. Pero incluso si lo fuera, esta no sería la forma de demostrar que valora a sus empleados. Por favor, muestre al mundo que no solo puede abrir el camino para ganar dinero, sino que también sabe cómo compartirlo con la gente que le ayudó a lograrlo", concluía la carta.

Bezos siempre ha colocado al cliente como su mayor prioridad, y en el caso de Amazon su éxito apunta a un profundo cambio en los hábitos de una clientela cada vez más hogareña. La disponibilidad del ocio en casa, con servicios de envío de comida, libros, ropa o cualquier otro producto va en aumento. Amazon no deja escapar ninguna oportunidad, y amplía servicios en todos los frentes, ofreciendo incluso televisión a la carta con Amazon Prime Video.

En contra de lo que cabría esperar, el gran éxito del gigante del comercio electrónico son las ciudades y no las zonas rurales. La combinación de precio asequible, comodidad y pereza ha seducido precisamente a aquellos urbanitas que menos necesitan la entrega personalizada al tener comercios, supermercados y cines cerca.

Pero el ocio abandona las calles para hacerse doméstico, en un cambio que muchos atribuyen no tanto a la voluntad de los consumidores como a la combinación de largas jornadas laborales, al coste de la vida en relación con los salarios y a una progresiva individualización de la sociedad. Aunque no está claro si Amazon es causa o consecuencia, es innegable que los nuevos modelos de ocio de los que se lucra tienen impactos psicosociales importantes.

Una de las grandes polémicas que envuelve a los gigantescos GAFA tiene que ver con su ingeniería fiscal y la búsqueda de fórmulas legales para rebajar sus obligaciones fiscales. Cuando arrancó Amazon, Bezos contempló radicar su empresa en una reserva india, precisamente para evitar las cargas fiscales, y eligió finalmente Seattle por sus condiciones impositivas. En su primera incursión europea, escogió (¡sorpresa!) Luxemburgo. Y el anuncio en noviembre de la apertura de dos nuevos cuarteles generales en Nueva York y Washington también estuvo precedido de una competición a la baja en cargas fiscales entre una veintena de ciudades.

En España, Amazon opera con una compleja estructura societaria que hace imposible saber cuánto ingresa por sus ventas. No obstante, los cuatro millones de euros en impuesto de sociedades abonados en 2017, mencionados previamente, parecen una cantidad menor. El desembolso de los consumidores españoles en Amazon puede beneficiar su bolsillo, pero no revierte ni en trabajos de calidad, ni en impuestos que puedan financiar servicios públicos que, por ejemplo, ayuden a esos empleados precarios a llegar al trabajo o a cobrar alguna prestación cuando venza el contrato temporal. La Comisión Europea alertó el año pasado de que algunas grandes tecnológicas pagan menos de la mitad de impuestos que compañías tradicionales.

El tema del uso y abuso de los datos merece un punto y aparte. Amazon no solo utiliza datos personales para controlar férreamente a su plantilla, también, como muchas otras empresas online, recoge información sobre todas las interacciones de los clientes con su plataforma (y con Internet en general a través de las cookies). Su omnipresencia hace que sea un actor excepcionalmente destacado en el mercado de datos. La información que obtiene le permite deducir gustos y necesidades, capacidad adquisitiva, residencia y datos bancarios, que luego cruza con otras bases de datos para vender ese perfil lo más caro posible a los anunciantes. Como Facebook o Google, Amazon es una agencia de publicidad. La tercera mayor del mundo, y probablemente la más diversificada, puesto que, aparte de negocios online, es propietaria de empresas de hardware, portales de ocio y supermercados que permiten ofrecer perfiles más completos y, por lo tanto, lucrativos. Se dice que cuando algo es gratis, el producto somos nosotros. Con Amazon, el consumidor paga y además su rastro de datos es revendido como producto.

¿Es pues ético comprar en Amazon? Es posible que haya muchas empresas con condiciones laborales peores, pero difícilmente tendrán las ventajas fiscales de las que disfruta Amazon. También es posible que el ocio en casa sea cómodo, pero no está claro que sea deseable una sociedad de cubículos de uso individual.

En el pasado, el taylorismo rebajó salarios y degradó las condiciones laborales, pero también impulsó el sindicalismo moderno. De la misma forma, la lucha contra la concentración empresarial y los monopolios de finales del XIX llevó al desarrollo de legislación de protección de la competencia y de los consumidores. Quizás lo más problemático del momento actual no es el tamaño y poder que acumulan los GAFA, sino la desorientación sobre cómo abordar la agenda social, laboral y tecnológica que requieren estos actores omnipresentes.

Habrá que pensar antes de dar de nuevo a ese clic.

Gemma Galdon Clavell es doctora en Políticas de Seguridad y Tecnología y directora de Eticas Consulting.

# data[].attributes.attachment_link.description
Hace tiempo que el consumo ético es una forma de incidir sobre lo que compramos y, por tanto, sobre lo que se ofrece. Nos permite, además, influir sobre los procesos de fabricación y transporte de aquello que consumimos. Conocer con detalle las implicaciones de todo lo que adquirimos nos abre por tanto la posibilidad de votar con el monedero.

# data[].attributes.attachment_link.readable_text
Ampliar foto
Partida de Go entre el coreano Lee Se-Dol y la computadora de Google, en Seúl, en marzo de 2016. ED JONES AFP/ Getty Images

Imaginen que tuviéramos una máquina para viajar en el tiempo y pudiéramos transportar a Isaac Newton desde finales del siglo XVII hasta la actualidad. Le llevaríamos a un lugar que le pudiera resultar familiar como, por ejemplo, la capilla del Trinity College en la Universidad de Cambridge. Una vez allí se le mostraría un teléfono móvil de última generación. Newton, que demostró que la luz blanca se descompone en diferentes colores al incidir un rayo de sol en un prisma, sin duda se sorprendería de que un objeto tan pequeño produjera colores tan vivos en la oscuridad de la capilla. Después el móvil sonaría con una música que pudiera reconocer, como una ópera de Händel. A continuación, le mostraríamos en la pantalla su obra Principia Mathematica y le haríamos ver cómo usar dos dedos para ampliar el texto. Supongamos también que le mostráramos cómo hacer fotos, grabar vídeos y sonido, hacer cálculos aritméticos con gran velocidad y precisión, contar los pasos que andamos, guiarnos hacía nuestro destino y, por supuesto, poder hablar con alguien a miles de kilómetros.

¿Sería capaz Newton de dar una mínima explicación de cómo funciona ese dispositivo? A pesar de que fue una de las mentes más brillantes de la historia, inventó el cálculo infinitesimal e integral, explicó tanto la óptica como la gravedad y formuló las leyes del movimiento de los cuerpos que revolucionaron la física, Newton sería incapaz de dar una explicación mínimamente coherente. No podría distinguir ese dispositivo de la magia. ¿Qué más podría imaginar este padre de la física de lo que puede hacer un dispositivo así? ¿Creería que puede funcionar indefinidamente? Al fin y al cabo, él vivió un siglo antes que Alessandro Volta, el inventor de la pila eléctrica. ¿Creería también que ese dispositivo puede transformar plomo en oro? La química en su época era la alquimia, así que posiblemente sí. Todos tendemos a no ver los límites de aquello que nos parece mágico.

Este es precisamente uno de los problemas que tenemos a la hora de imaginar las tecnologías del futuro. Como dijo Arthur Clarke en los años sesenta: "Cualquier tecnología lo suficientemente avanzada no puede distinguirse de la magia". En inteligencia artificial (IA) ocurre exactamente lo mismo. Parece que su potencial no tiene límites, pero en realidad la IA permanece atascada desde hace más de 50 años en una cuestión fundamental: ¿cómo dotar de sentido común a las máquinas? Esta es una cuestión crucial si queremos lograr inteligencias artificiales de tipo general indistinguibles de la inteligencia humana. Hasta hoy, los investigadores en IA no vemos ningún indicio que nos lleve a poder afirmar que este problema pueda ser resuelto.

¿Cuál es la situación real de la IA? Centrémonos en los espectaculares resultados obtenidos recientemente con lo que se conoce como deep learning (aprendizaje profundo), que han permitido que un software llamado AlphaZero haya conseguido, después de jugar contra sí mismo durante unas horas, aprender a jugar a Go y al ajedrez a unos niveles nunca antes alcanzados, superando con creces a los mejores jugadores humanos y también a los mejores jugadores software (que en ajedrez ya habían vencido hace tiempo a los mejores jugadores humanos). Pues bien, estos sistemas de aprendizaje profundo son sumamente limitados ya que únicamente son capaces de aprender a reconocer patrones analizando enormes cantidades de datos.

No es exagerado afirmar que, de hecho, no aprenden realmente nada en el sentido humano de lo que entendemos por aprender. Es decir que en realidad no saben nada nuevo después de haber sido entrenados para adquirir una competencia. Prueba de ello es lo que se conoce como "olvido catastrófico", que significa que los sistemas de aprendizaje profundo pierden todo lo aprendido a partir del instante en que se les enseña a algo nuevo.

Por ejemplo, si después de haber "aprendido" a jugar a Go entrenamos a un sistema de aprendizaje profundo a diferenciar entre gatos y perros mostrándole millones de imágenes de ambos, aprenderá perfectamente a distinguirlos pero será incapaz de volver a jugar a Go. Habría que volver a entrenarlo para que de nuevo "aprendiera a jugar a Go" y esto provocaría que a continuación sería incapaz de distinguir los gatos de los perros.

El excesivo antropomorfismo creo que es el motivo por el que la sociedad tiene en gran medida una percepción errónea de lo que es la IA. Cuando nos informan de logros espectaculares de una IA específica en una competencia concreta, como el caso de AlphaZero, tendemos a generalizar y atribuimos a la IA la capacidad de hacer prácticamente cualquier cosa que hacemos los seres humanos y hacerlo mucho mejor. En otras palabras, creemos que la IA no tiene límites cuando de hecho es extremadamente limitada y, lo que es más importante, no tiene casi nada que ver con la inteligencia humana.

Es cierto que la inteligencia humana es el referente principal de cara a alcanzar el objetivo último de la IA, es decir, una IA fuerte y general. Pero en mi opinión, por muy sofisticada que llegue a ser la IA siempre será distinta de la humana, ya que el desarrollo mental que requiere toda inteligencia compleja depende de las interacciones con el entorno y estas interacciones dependen a su vez del cuerpo, en particular del sistema perceptivo y del sistema motor. Esto, sumado al hecho de que las máquinas muy probablemente no seguirán procesos de socialización y culturización, incide todavía más en que, por muy sofisticadas que lleguen a ser, las máquinas tendrán una inteligencia distinta a la nuestra.

El hecho de ser inteligencias ajenas a la humana, y por lo tanto ajenas a los valores y necesidades humanas, nos debería hacer reflexionar sobre posibles limitaciones éticas en el desarrollo de la IA. En particular, ninguna máquina debería tomar nunca decisiones de forma completamente autónoma ni dar consejos que requieran, entre otras cosas, de la sabiduría (producto de experiencias humanas) o de valores humanos.

El peligro de la IA no es la singularidad tecnológica por la existencia de unas futuras hipotéticas súper inteligencias artificiales. No, los verdaderos peligros ya están aquí y tienen que ver con la privacidad (vigilancia y control masivo de la ciudadanía); con la autonomía de los sistemas de IA (armas autónomas, high frequency trading en los mercados bursátiles); con la excesiva confianza acerca de sus capacidades (substitución de personas por máquinas en prácticamente cualquier puesto de trabajo); con el sesgo de los algoritmos de aprendizaje y las consiguientes decisiones erróneas que ello supone; con la incapacidad de rendir cuentas cuando la decisión es errónea; y con la imposibilidad para explicar esas decisiones en un lenguaje comprensible para las personas.

A pesar de sus limitaciones, creo que la IA tiene un extraordinario potencial para beneficiar a la sociedad siempre y cuando hagamos un uso adecuado y prudente. Es necesario aumentar la conciencia sobre los límites de la IA, así como actuar de forma colectiva para garantizar que se utilice en beneficio del bien común con seguridad, fiabilidad y responsabilidad.

Ramón López de Mántaras es director del Instituto de Investigación en Inteligencia Artificial del CSIC.

# data[].attributes.attachment_link.description
Imaginen que tuviéramos una máquina para viajar en el tiempo y pudiéramos transportar a Isaac Newton desde finales del siglo XVII hasta la actualidad. Le llevaríamos a un lugar que le pudiera resultar familiar como, por ejemplo, la capilla del Trinity College en la Universidad de Cambridge.

# data[].attributes.attachment_link.readable_text
Coches y peatones comparten la calzada en Detroit, en los años veinte. library of congress

La idea de una sociedad automatizada, plagada de robots tanto en el hogar como en el trabajo, fue una de las utopías -y distopías- con las que reaccionó la literatura a la introducción de los sistemas de automatización. A principios del siglo XX, el uso de automóviles y semáforos popularizó la automatización a pie de calle. Desde entonces, el número de máquinas y procesos automáticos en nuestras vidas ha aumentado exponencialmente: las lavadoras, los cajeros automáticos, el enfoque de las lentes de una cámara de fotos, las puertas, el lavado de coches, el termostato... Y el temor inicial que en su día despertaron ha dejado paso a una sensación de rutina. La automatización es tan corriente, que ni siquiera nos percatamos cuando nos topamos con ella.

Sin embargo, la inteligencia artificial (IA) y las máquinas automáticas no son lo mismo. La IA es una forma de automatización avanzada. En los dispositivos convencionales se crean reglas de programación muy exactas con las que una máquina ejecuta tareas determinadas. La eficiencia depende del detalle y la exactitud con el que se haya programado la tarea: por ejemplo, trazar la ruta más corta entre Sevilla y Madrid. Lo que permite la IA es una automatización más abstracta. Eso significaría trazar la ruta más rápida entre Sevilla y Madrid teniendo en cuenta las obras, el número de semáforos, los horarios previsibles de mayor intensidad de tráfico, así como imprevistos como accidentes de tráfico o las condiciones meteorológicas. Es decir, la programación se centra en la creación de reglas con las que medir la eficiencia en ese contexto y en el desarrollo de parámetros de actuación. Siguiendo esas reglas, los sistemas de automatización inteligentes escogen el proceso más eficaz. Ese nivel de abstracción es un hito en la historia de la tecnología.

Estos logros asombran y asustan al mismo tiempo. Por falta de familiaridad, la IA parece magia y nos lleva a reabrir viejos debates. ¿Es esa tecnología inteligente? ¿Tiene sentimientos y voluntad? ¿Es capaz de maldad y alevosía? ¿Quién es responsable si el sistema tiene efectos nocivos no previstos? ¿Va a cambiar la naturaleza del ser humano? ¿Qué riesgos conlleva? ¿Necesitamos nuevas normas?

Estas mismas cuestiones fueron precisamente objeto de debate en los tribunales de diversos países tras la comercialización del automóvil a principios del siglo XX. El hecho de que las mismas incertidumbres y preguntas surgidas con la introducción de un nuevo medio de transporte resurjan un siglo después con la llegada de la IA, requiere de una revisión del debate de antaño. Desde el punto de vista normativo, tres aspectos merecen nuestra atención.
1. La tecnología sólo parece inteligente y humana cuando su uso no es corriente
La comercialización de los coches fue en su día anhelada por todas las capas sociales. El automóvil como medio de transporte prometía un futuro de eficiencia e higiene en ciudades con calles infestadas de heces equinas. En cuestión de pocos años se dio un vuelco de 180 grados y los coches se convirtieron en una nueva plaga urbana. En los años veinte las manifestaciones en protesta por la inseguridad en las calles eran comunes: desfilaban chatarras de accidentes reales, con maniquíes ensangrentados y satanás como conductor. Las ciudades de Washington y Nueva York organizaron manifestaciones con 10.000 niños vestidos de fantasmas, simbolizando el número anual de muertos en accidentes de tráfico.

En pocos años el coche se convirtió en objeto de un debate ético fundamental que llegó hasta los juzgados. La audiencia provincial de Georgia, por ejemplo, mantuvo un intenso debate acerca del carácter moral del automóvil. En su veredicto, la audiencia concluía que si bien dichos vehículos no son malévolos, "deben ser clasificados como animales salvajes peligrosos". Por ello debían aplicarse las leyes vigentes para la tenencia de animales exóticos.

Obviamente, con el paso del tiempo, el contacto y familiarización con los nuevos vehículos de transporte debilitaron las teorías humanizantes que atribuían a las máquinas motivos e intenciones diabólicas. El debate ético y legal volvió a centrarse en el comportamiento del ser humano delante y detrás del volante.

Ese aspecto de la discusión, de carácter filosófico a primera vista, tuvo una clara consecuencia a nivel jurídico. Se descartó así la existencia de una responsabilidad por parte de la máquina como si esta fuera una entidad inteligente. Retrospectivamente, lo contrario no sólo resultaría ridículo, sino que habría supuesto un reto para la ética y el derecho a la hora de crear normas y sanciones que fuesen viables tanto para seres humanos como para máquinas.

El debate en torno a la inteligencia artificial en este aspecto tiene las mismas implicaciones y requiere plantear las mismas consecuencias jurídicas y éticas. ¿Tiene el robot intenciones que justificarían la creación de una entidad jurídica propia? ¿En qué modo recaería la responsabilidad en la máquina exculpando a todo ser humano? ¿Cómo se podría implementar una sanción a una máquina?

La inteligencia artificial y sus métodos de análisis estadísticos no encierran en sí una voluntad propia. La inteligencia artificial no es inteligente. Por ello es incapaz de tener ambiciones e intereses propios y engañar o mentir. En otras palabras, la inteligencia artificial nos debería dar tanto miedo como la estadística. Eso no significa que sea inocua. La inteligencia artificial y sus algoritmos no son neutrales, sino el reflejo de las intenciones y el sesgo involuntario del equipo de programadores, científicos de datos y entidades envueltas en la implementación de esa tecnología.

Con la IA se pueden establecer protocolos muy transparentes que permitan determinar las modificaciones que han sido efectuadas por personas, independientemente de cuán complejos sean los algoritmos con los que opera esta tecnología. No hay motivo alguno por el que resulte necesario crear una entidad jurídica específica para la inteligencia artificial. La propia tecnología permite atribuir la responsabilidad por fallo o abuso a una persona determinada con más claridad y facilidad que antes.

El conductor que maneja la inteligencia artificial y el peatón expuesto a ese tráfico, pueden ser identificados.
2. La ética y la ley deben ser neutrales frente a la tecnología
Volviendo a los dilemas que generó la llegada de los coches hace un siglo, en aquel momento fue crucial enfocar el debate (ético y legal) en el ser humano para poder formular leyes y normas prácticas y aplicables. No obstante, la creación de un sistema legal y normativo que adjudicara derechos y obligaciones sólo podía ser legítima con una clara idea de los riesgos y de los actores involucrados. Los tribunales y la sociedad en general tardaron un tiempo en entender tanto los aspectos técnicos del coche, como los problemas que planteaba el tráfico.

Los primeros intentos regulatorios nos parecerían hoy en día grotescos. Sobre todo por la imposición de obligaciones a actores incapaces de ejercer un control adecuado sobre la máquina. En Reino Unido, por poner un ejemplo, se requería al conductor que, antes de circular por un municipio, lo notificara al alguacil para que este, armado con dos banderas rojas, pudiera marchar ante el coche y advertir a los peatones.

El sistema legal que trataba de regular el tráfico atribuyó la responsabilidad exclusivamente al conductor. Sin embargo, en aquellos tiempos las calles se caracterizaban por su falta de previsibilidad: las señales de tráfico aún no habían sido inventadas, los niños jugaban en la calzada, los carruajes de caballos se desbocaban al oír los motores, y los peatones eran incapaces de calcular la velocidad a la que se acercaban los coches. Todo esto hacía que la responsabilidad asignada al conductor fuese desproporcionada. Desde el punto de vista fisiológico, era imposible reaccionar ante tanto imprevisto.

El pragmatismo y el sentido de justicia social llevaron al canadiense James Couzens a inventar un sistema de señales y reglas de tráfico para coordinar a peatón y conductor. Couzens dimitió de su puesto como vicepresidente de finanzas en Ford y empezó a trabajar para el Ayuntamiento de Detroit (EE UU), capital mundial automovilística en aquel entonces. Cigarro en mano, Couzens revolucionó las infraestructuras de transporte. En primer lugar, identificó las situaciones en las que la responsabilidad recaía en el peatón, y creó señales y zonas para poder cruzar las calles.

Al principio, la resistencia por parte de la sociedad fue grande. Las normas y obligaciones para los peatones no estuvieron exentas de controversia: el concejal Sherman Littlefield las tachó de denigrantes al "tratar a los ciudadanos de a pie como ganado". Couzens no se dejó amedrantar e impuso sus normas por decreto. El tiempo le dio la razón, demostrando la efectividad de su propuesta, que acabó convirtiéndose en el modelo internacional. Couzens también se encargó de crear un plan de control y gestión del tráfico que permitiera prescindir de la presencia de la policía en caso de falta de personal. Así fue cómo Detroit se convirtió en cuna del avance tecnológico, con ideas revolucionarias como el semáforo automático en los años veinte.

Es destacable la poca atención que Couzens prestó al automóvil como tecnología en sí a la hora de concebir sus reglas de tráfico: las normas y limitaciones no atañían al aspecto técnico, sino únicamente a su uso en el espacio público. Por ejemplo, las medidas para restringir la velocidad no prohibían el desarrollo de motores con más caballos de fuerza, sino que limitaban el uso del acelerador por parte del conductor. Gracias a ello las leyes y normas establecidas por Couzens no tuvieron que ser modificadas con cada cambio tecnológico, ya que siempre permitían una recontextualización del uso de la tecnología. El hecho de que las normas de tráfico establecidas fuesen tecnológicamente neutrales es el motivo por el que un siglo después siguen vigentes y, en su esencia, no han perdido actualidad.

En el campo de la IA se están estudiando leyes y principios éticos que se puedan aplicar a los códigos de programación. Un ejemplo es el principio de la "minimización de datos personales", por el cual sólo se debe procesar la cantidad mínima de datos personales necesaria para ofrecer un servicio o ejecutar una tarea. Este es un principio técnico que tiene una importancia vital y afecta al procesamiento de información. Por una parte, el proceso salvaguarda la privacidad de las personas implicadas. Sin embargo, esta regla puede ir, paradójicamente, contra la igualdad de trato porque no tiene en cuenta el contexto. Por ejemplo, hasta hace poco más de una década, los ensayos sobre el uso de beta bloqueadores (fármacos muy utilizados en cardiología) se realizaban a partir de una base de datos integrada mayoritariamente por varones de la etnia europea. Sus conclusiones eran válidas para ese grupo, pero no para mujeres o para etnias con otra variación genética.

La falta de información de determinados grupos sociales acaba generando una base de datos sesgada desde el principio: el perfil y características de una parte de la población estará sobrerrepresentada y distorsionará el cálculo, dando una impresión errónea del conjunto. Asumir que con menos datos el riesgo de discriminación disminuye es un mito. Dependiendo del contexto, se necesitarán más o menos datos personales para no caer en simplificaciones que nos lleven a discriminar a determinados grupos.

Estos ejemplos son una muestra de que tenemos que cambiar de estrategia, porque hasta ahora el debate sobre la inteligencia artificial se ha centrado en la parte técnica. Pero la historia demuestra que es posible elaborar leyes y normas sobre nuevas tecnologías sin regular el código matemático en sí. La ética y el derecho convencionalmente se enfocan en el contexto social: sus principios no se aplican al proceso técnico, sino a la situación social en la que dicho proceso técnico se integra. No se trata de regular la tecnología que permite la inteligencia artificial, sino lo que las personas hacen con ella.
3. La educación de la sociedad para tratar nuevas tecnologías no requiere conocimientos técnicos
Con los coches, Couzens vio necesaria la educación del ciudadano para que las reglas de tráfico permeasen y fuesen adoptadas por la sociedad. Asimismo, era consciente de que había aspectos de gran importancia -como aprender a calcular la distancia y velocidad de un automóvil- que sólo se podían resolver con la integración de dichas tecnologías en la vida cotidiana y la familiarización de uso. Couzens no creyó que fuese necesario entender los mecanismos del automóvil más allá de su funciones operativas, es decir, frenar, acelerar o cambiar una llanta. Tanto en el derecho como en la ética rige la premisa ultra posse nemo obligatur, término jurídico que afirma que nadie está obligado a más de lo que puede hacer. Los conocimientos necesarios para entender los mecanismos de un coche transcienden el sentido común, así que nadie tiene el deber de conocerlos.

En el debate sobre la IA al ciudadano se le pide una mayor competencia a nivel técnico. Pero los dilemas que generó el automóvil a principios del siglo XX prueban que este tipo de discurso no es constructivo. No necesitamos saber cómo funciona un avión para poder subirnos a uno. Tampoco se nos exige saber de bioquímica para comprar un yogur. Más allá de lo que se puede, del sentido común, nadie está obligado a saber.

La IA permite detectar patrones de comportamiento humano e identificar diferencias en la actuación de distintos grupos (mujeres, etnias, clases sociales, entre muchos otros). En base a ello, el equipo de personas que usa dicha tecnología puede decidir discriminar de forma más o menos legítima, ofrecer servicios o informaciones diferentes, manipular la atención y hacer sugerencias distintas. Se debe tener también en cuenta la discriminación involuntaria e implícita, y por ello resulta imprescindible una evaluación constante de la tecnología. Para ello los expertos no sólo deben disponer de una sensibilidad ética general, sino en particular en lo relativo a la discriminación involuntaria que puede resultar a partir de sesgos en el diseño o en las bases de datos con las que opera la IA.

El uso de esta tecnología para amplificar o compensar la discriminación depende del grupo de seres humanos que la utilice. El ciudadano no es quien debe entender el proceso técnico detrás de la IA para poder usarla. Son los ingenieros, los científicos de datos, así como los departamentos de marketing y los Gobiernos que usen o tengan que regular dichas tecnologías, quienes deben comprender la dimensión social y ética de la inteligencia artificial.

Lorena Jaume-Palasí es directora ejecutiva de AlgorithmWatch y miembro del Grupo de Sabios sobre Inteligencia Artificial y Big Data del Gobierno español.

# data[].attributes.attachment_link.title
Por qué no hay que tener miedo de la inteligencia artificial

# data[].attributes.attachment_link.description
La idea de una sociedad automatizada, plagada de robots tanto en el hogar como en el trabajo, fue una de las utopías -y distopías- con las que reaccionó la literatura a la introducción de los sistemas de automatización. A principios del siglo XX, el uso de automóviles y semáforos popularizó la automatización a pie de calle.

# data[].attributes.attachment_link.readable_text
Luis Ventoso
Seguir
Madrid Actualizado: Noticias relacionadas "Muévete rápido y rompe cosas. A menos que estés rompiendo cosas no te estás moviendo lo suficientemente rápido" (Mark Zuckerberg, dueño de Facebook, febrero de 2012)
En 2013, dos científicos de la Universidad de Cambridge descubrieron que basándose en los "me gusta" de Facebook podían deducir el género del usuario con un 93% de acierto y su orientación sexual con un 80%. Dos años después, con solo 70 "me gusta" predecían la personalidad del navegante mejor que sus amigos y con 300 "likes", mejor que su propia pareja. El juguetón "me gusta" de Zuckerberg se había convertido en el perfecto abrelatas de la intimidad ajena.

Los dos científicos se apellidaban Kosinsky y Stillwell y eran colegas de Aleksandr Kogan, profesor ruso afincado en EE.UU., el hombre que ayudó a pasar a la firma londinense Cambridge Analytica los datos de 50 millones de usuarios de Facebook, un escándalo planetario destapado hace siete días por dos periódicos tradicionales, "The New York Times" y "The Observer". Los perfiles privados fueron utilizados subrepticiamente por la campaña electoral de Donald Trump. Antes, en 2012, Obama también se sirvió de las bases de datos de Facebook. Ejecutivos de Cambridge Analytica se han jactado en una grabación obtenida por la cadena británica Channel 4 de haber viciado así 200 procesos electorales, entre ellos el Brexit. Facebook, con una comunidad de 2.130 millones de seguidores, se ha desplomado en bolsa. Su fundador, Mark Zuckerberg, el quinto hombre más rico del mundo con solo 33 años, tendrá que comparecer en el Congreso de EE.UU. para explicar la filtración.

Jonathan Taplin tiene 70 años y es un viejo guerrero. En su juventud organizó conciertos para Dylan y George Harrison y hasta produjo una cinta de Scorsese. Hoy es profesor de Comunicación en la Universidad del Sur de California. El año pasado cobró eco tras publicar un durísimo alegato contra tres colosos de internet, Google, Amazon y Facebook, a los que acusó de minar la democracia y dañar a la cultura.

El título del ensayo parodiaba la cita más conocida de Zuckerberg, "Muévete rápido y rompe cosas". Aunque su tesis adolece de cierto tono conspirológico, merece ser escuchada: "Originariamente internet fue concebida como un medio descentralizado. Pero en los noventa, Jeff Bezos de Amazon; Larry Page de Google, y Peter Thiel, inversor en Facebook, llevaron al mundo su punto de vista libertario. Entendieron muy pronto que internet podía ser un ganador empresarial absoluto y se propusieron plasmarlo. Solo habría necesidad para un gran portal de comercio electrónico, Amazon; un gigante social, Facebook, y un único motor de búsqueda, Google. Pero eso ha sido muy malo para la cultura, los músicos, los artistas y la democracia". Taplin podría haber añadido a la prensa, la intimidad y la propia televisión generalista, mermada ya por Netflix y servicios online similares.

Beneficios asombrosos, impuestos pírricos

Hoy las cinco mayores empresas del mundo son gigantes digitales estadounidenses: el líder planetario es Apple (693.000 millones de euros de valor bursátil), seguido por Alphabet, la matriz de Google (552.000 millones) y Microsoft (470.000). Tras ellas, la tienda virtual Amazon y la red social Facebook. Son multinacionales de faz amable, que con sus ingeniosos servicios han mejorado la vida cotidiana de la humanidad y la han hecho más fácil y amena. Pero se han convertido de facto en monopolios y tal vez también en el caballo de Troya de una nueva forma de totalitarismo light. En el último foro de Davos, el viejo zorro George Soros recordó que Google y Facebook copan el 60% del mercado publicitario estadounidense, lo que deja exangüe a la prensa clásica, con los consiguientes daños para el pluralismo democrático y la calidad de la información.

Fiscalmente, esos titanes se sirven de alambicadas tapaderas que les permiten evitar de manera legal el pago de tributos a las haciendas nacionales. No es ningún secreto: "Las empresas deben pagar sus impuestos allí donde obtienen sus beneficios, aunque se llamen Amazon", se quejó Mariano Rajoy en el último Foro ABC. Este viernes, los primeros ministros de la UE estudiaron legislar al respecto. Dimas Gimeno, el presidente de El Corte Inglés, acaba de exigir también "reglas homogéneas" para "poder competir en igualdad de condiciones" con las multinacionales de comercio electrónico. "Lo que no puede ser es que nosotros paguemos impuestos cuando ellos no los pagan". Es una acusación cierta. En 2016, Google, Amazon, Facebook y Apple solo abonaron 20,3 millones en España por impuestos, y eso pese a haber aumentado su aportación respecto a ejercicios previos. Sin embargo no hay firma española de la parte alta del Ibex que baje de cifras de tres dígitos en tributos.

Jonathan Taplin concuerda: "Amazon ni siquiera paga impuestos por vender libros y eso ha expulsado a muchas librerías independientes y otras empresas. YouTube no respeta el copyright, toman obras ajenas sin pagar. Google dispone del 90% del mercado de búsquedas. Amazon, del 70% de las ventas de libros. Facebook y sus firmas Instagram y WhatsApp suponen el 75% del negocio de las redes sociales". Taplin ve como salida leyes antimonopolísticas, que restituyan la competencia, y también "una regulación con límites morales". Facebook es el mayor editor mundial de contenidos, pero Zuckerberg no se siente concernido por las leyes en defensa del honor que obligan al director de cualquier periódico de pueblo. Por las redes sociales de esas multinacionales campan todavía impunes contenidos de apología del terrorismo, violentos, o perniciosos y abusivos para la infancia, amén de las omnipresentes " fake news ".

Historias de robots y tableros

Las compañías más ricas del mundo no solo esquivan a las haciendas nacionales, sino también la normativa laboral. Se calcula que en España hay cien mil falsos autónomos trabajando para esas multinacionales, empleados a los que no se les reconoce relación laboral estable, que operan bajo contratos de cero horas. A diferencia de cualquier pyme, las líderes del podio planetario están exentas de pagar la seguridad social de sus asalariados. Los emolumentos son muy bajos y las condiciones, de enorme exigencia. Amazon, en cuyos almacenes se controla hasta cuánto tardan los trabajadores en ir al baño, ha sufrido esta semana una huelga en Madrid por tales abusos.

Precarización laboral, evasión fiscal y también transformación de la faz clásica de las ciudades, donde sucumbe el comercio al uso, incapaz de competir con el electrónico. Muchas grandes compañías tradicionales, que se han lanzado al e-commerce bajo el siempre erróneo mantra de "tenemos que estar ahí" sufren con la venta por correo, donde simplemente no les salen las cuentas.

El agresivo cerebro ruso Garry Kasparov, de 54 años, y el menudo y suave surcoreano Lee Sedol tienen algo en común. Han sido los mejores del mundo en lo suyo, el ajedrez y el go, el milenario juego del que se dice que ofrece más combinaciones que átomos tiene el universo. Les une algo más: ambos han sido vapuleados por una máquina de Inteligencia Artificial. Kasparov se midió con Deep Blue de IBM en 1997. El humano empezó ganando, pero al final no pudo más. Él era más creativo, pero carecía de la constancia inmutable y la capacidad instantánea de cálculo de su oponente. Kasparov acaba de publicar un libro sobre aquella pelea desigual, "Deep Thinking". Curiosamente, el Ogro de Bakú, el mayor ajedrecista de la historia, parece haber hecho la paz con la IA. "La tecnología puede hacernos más humanos, al darnos más libertad para ser más creativos".

A Lee Sedol, catorce veces campeón mundial de Go, lo barrió Go Deep Mind, un proyecto de IA de una filial de Alphabet. Las grandes tecnológicas auspician la investigación de vanguardia en Inteligencia Artificial. Google es pionera en el desarrollo del coche sin conductor, que es ya una realidad. ¿Inocua para la economía? Existe una vertiente positiva, porque la mayoría de los accidentes se deben a fallos humanos, pero otra inquietante: muchísimas familias viven del volante. Conducir es el primer medio de empleo en 29 de los 58 estados de EE.UU., un país con cinco millones de camioneros. Y habrá más sectores afectados: "Cualquier cosa que requiera menos de diez segundos de pensamiento podrá ser hecha por una IA", se escuchó en Davos.

Los apocalípticos auguran una destrucción masiva de empleos tradicionales, hasta un 57% en las naciones de la OCDE según los más pesimistas. Los más castigados serán los trabajadores de bajos salarios y escasa formación, que podrían formar legiones de "refugiados digitales", personas arrojadas a las cunetas de un progreso que enriquece de manera desproporcionada al 1% de plutócratas que ocupan la cima. Un título universitario y la alfabetización digital ayudarán a contar con un empleo. Los optimistas difieren. Creen que la revolución tecnológica generá nuevas profesiones y que acabará habiendo más trabajo, como ocurrió en saltos anteriores. Por su parte, los humanistas advierten que hay que ir pensando en instaurar una "renta básica universal" a costa de los increíbles beneficios de las tecnológicas para asistir socialmente a sus víctimas.

Prepárense para lo nunca visto

Noticias recientes. Famosas de Hollywood que clonan a sus mascotas. La Universidad de Berkeley crea la primera cerveza genéticamente modificada. Un taxi sin conductor de Uber atropella y mata a una mujer en Arizona. Nace el primer bebé con la nueva técnica de tres padres genéticos... Perdidos en debates añejos del siglo XX (el nacionalismo, el caudillismo populista), a veces pasamos por alto que estamos ya inmersos en la mayor revolución tecnológica de la historia, una gran disrupción que cambiará la faz de la humanidad.

El historiador israelí Yuval Noah Harari ha vendido millones de libros donde el argumento más provocador es que el Homo sapiens está a punto de dotarse de atributos que creíamos reservados a Dios. "La Biblia dice que Él creó animales y plantas según sus deseos, y nosotros estamos a punto de hacerlo también ". Lo que más inquieta a Harari es que "la ingeniería genética y cibernética a disposición de una élite le permitirá crear seres súper humanos, con unas capacidades mejoradas que las clases más bajas no tendrán". Sería el fin de la lotería genética, que desde que existe el hombre permite que a veces un pobre pueda nacer mejor dotado física e intelectualmente que un rico.

La velocidad a la que se expanden los nuevos inventos aumenta de manera exponencial, cada vez más rápido. Un excelente informe de la Fundación Telefónica, que ha circulado por algunos de los más importantes despachos del mundo, recuerda que al teléfono fijo le costó 65 años llegar a cien millones de hogares, mientras que Facebook alcanzó esa cifra en solo cinco y "Pokémon Go" lo hizo ya en 25 días. Hoy existen en el mundo el doble de dispositivos móviles que habitantes. Aunque todavía 3.900 millones de personas carecen de acceso a internet, siete de cada diez entre el 20% de los más pobres del planeta poseen un teléfono móvil, a veces antes que agua potable.

El maravilloso cerebro humano es un almacén reducido, cuya capacidad sería equivalente a 40 vídeos de alta resolución por segundo, limitado además por un interfaz de habla que equivale a un ordenador de los años ochenta. Las máquinas nos están alcanzando. En 2015, por primera vez una logró superar el Test de Turing, haciéndose pasar con éxito por una persona. El año pasado, Facebook apagó un sistema de negociación creado con inteligencia artificial porque había ideado su propio idioma.

La máquina se había soltado la melena, al estilo del ordenador HAL en el "2001" de Kubrick y Arthur C. Clarke, una profecía rodada en 1968. En el arranque de este año, Alibaba, el "Amazon chino", y Microsoft han desarrollando formas de IA que han ido más allá que los humanos en comprensión lectora. A mitad de siglo se vaticina que un ordenador podrá escribir un best-seller (lo sentimos por Ildefonso Falcones y Dan Brown) y correrán también a cargo de todas las intervenciones quirúrgicas (lo siento por mi hermano el cirujano). Pero la gran fecha será 2060, momento en que se estima que la IA superará por vez primera a las personas y alcanzará "la singularidad". "Las máquinas estarían entonces en disposición de autoeditarse y evolucionar de manera exponencial", advierte el informe.

El móvil y las redes sociales forman ya parte de nuestra cotidianidad, como si siempre hubiesen acompañado al animal desvalido que hace 30.000 millones de años todavía sobrevivía como cazador recolector y que luego, gracias a su capacidad de anticipación, se convirtió en el rey de la creación y en un depredador en serie de otras especies. Las novedades se agolpan estos días: realidad aumentada y virtual, impresión en 3D, coches autónomos, drones, internet de las cosas, 5G, asistentes virtuales, robótica, IA, biotecnología, computación cuántica... "La inteligencia artificial puede suponer el fin de la raza humana", venía advirtiendo la voz también cibernética de Hawking en sus últimos días.

Elon Musk, el gurú de Tesla, no le va a la zaga: "Con la IA estamos invocando al diablo. Puede ser peor de las armas nucleares", una paradójica admonición viniendo de quien es pionero en su uso con sus automóviles autónomos. Desde la filosofía también llegan suspiros: "Los datos y las máquinas deben de estar al servicio de las personas, y no al revés. Una sierra mal utilizada también sirve para cortar cabezas", razona el penúltimo gurú de moda, Byung-Chul Han, el filósofo surcoreano afincado en Alemania, que preconiza un retorno -tal vez imposible- a lo auténtico: "Hoy estamos en red, pero no estamos unidos. La comunicación actual se basa en no escucharse".

Apocalípticos e integrados: ¿nos eliminarán las máquinas?

Pero quedarse solo con lo negativo es una mirada tuerta. La revolución tecnológica alargará la vida humana de manera sorprendente y eliminará enfermedades que hoy nos estremecen. Un programa de Harvard mostró que una IA detecta las células cancerígenas con un 92% de acierto, frente a un 96% de los patólogos. Pero cuando los oncólogos y la IA trabajan juntos, el éxito es del 99,5%. Hasta el propio Hariri se desmarca de las profecías apocalípticas a lo "Terminator": "En cincuenta años ha habido un desarrollo extraordinario en la inteligencia de los ordenadores, pero un desarrollo cero en su conciencia. No hay ningún indicio de que se vayan a desarrollar en ese sentido".

En "2001, una odisea del espacio", "cuando el ordenador HAL se volvió engreído [el astronauta] Dave lo desenchufó con un destornillador y lo dejó cantando patéticamente la canción ''Una bici para dos'', recuerda irónico el psicólogo canadiense Steven Pinker en su ensayo "Ilustración Ahora", alabado por Bill Gates como "el mejor libro que he leído en mi vida". Pinker se ha convertido en el profeta del optimismo, el sabio que prueba con datos que "en contra de lo que se cree, el mundo va cada vez mejor".

A su juicio sobra histeria cuando se habla de la amenaza de la tecnología y las IA, un alarmismo que él denomina con sarcasmo el "Robotapocalipsis". "La falacia radica en que se confunde inteligencia con motivación". Explica que "incluso si inventásemos unos robots súper inteligentes, ¿por qué iban a querer esclavizar a los humanos y conquistar el mundo? La inteligencia es la habilidad de desarrollar nuevas maneras de lograr una meta. Pero eso no es lo mismo que querer algo". Para Pinker, el hecho de que las máquinas ya nos ganen al go, el ajedrez y los juegos online " no refleja una mejor comprensión de cómo funciona la inteligencia, sino solo la fuerza bruta de chips, algoritmos y data que permite que unos programas sean entrenados con millones de ejemplos y puedan generar unos nuevos similares".

Pinker, de todas formas, no está a su nivel cuando despeja el balón diciendo que "si quieres evitar una IA peligrosa, simplemente no la construyas". Su liviana frase soslaya el gran problema que late al fondo, tal vez el medular: la revolución tecnológica requiere un rearme moral, unas líneas rojas. La tecnología puede cambiar el mundo para bien. Pero si su lema es "todo vale"...

(PD: nada de todo lo que se acaba de relatar ocupa un solo minuto de debate de los partidos políticos españoles).
Temas

# data[].attributes.attachment_link.title
Disrupción tecnológica: la mayor revolución jamás conocida

# data[].attributes.attachment_link.description
Luis Ventoso Seguir Madrid Actualizado: Noticias relacionadas "Muévete rápido y rompe cosas. A menos que estés rompiendo cosas no te estás moviendo lo suficientemente rápido" (Mark Zuckerberg, dueño de Facebook, febrero de 2012) En 2013, dos científicos de la Universidad de Cambridge descubrieron que basándose en los "me gusta" de Facebook podían deducir el género del usuario con un 93% de acierto y su orientación sexual con un 80%.

# data[].attributes.attachment_link.readable_text
Imaginemos que el expresidente de la Generalitat valenciana Francisco Camps quiere que todas las noticias sobre el caso de sus trajes desaparezcan de Google porque acabó siendo absuelto -fue procesado por supuestamente haber recibido ropa como cohecho dentro de la trama Gürtel-. Las empresas con motores de búsqueda, ¿deberían analizar si las informaciones previas sobre la investigación policial y judicial fueron precisas y eliminarlas si no lo fueron? El Tribunal Supremo ha admitido recientemente a trámite un recurso de casación interpuesto por Google para fijar doctrina sobre el llamado derecho al olvido que podría responder a algunas de estas preguntas.

La cuestión de fondo asusta un poco: ¿llegará el día en el que la tecnológica tenga que valorar si las noticias de los medios son veraces o no para indexarlas? El tema no es menor, porque lo que no existe para Google prácticamente no existe. "Las hemerotecas de los medios antes estaban cogiendo polvo, y ahora la tecnología nos ha dado una realidad diferente: podemos investigar a cualquiera en cualquier momento a través de un buscador que saca todo a la luz", explica Natalia Martos, abogada experta en nuevas tecnologías del despacho Pérez-Llorca. Por eso los particulares afectados por noticias acuden cada vez más a Google a quejarse: lo importante no es ya que la información se haya escrito, sino que le gente pueda encontrarla. Y esto fundamentalmente sucede a través de los motores de búsqueda.
Un cazador furtivo
El caso que da origen a todo esto se publicó en este periódico el 4 de julio de 2010: "Un jefe forestal de la Xunta en Ourense fue sancionado por cazador furtivo. El cargo de Medio Rural encañonó en 2007 a los agentes que lo multaron". La noticia contaba que dos agentes forestales habían sorprendido a un técnico forestal cazando en una zona prohibida junto a dos personas más y que el técnico y sus colegas les habían amenazado y arrinconado con sus escopetas. Una patrulla del Seprona se acercó también por allí y denunció a los cazadores, que fueron además expulsados de la sociedad de caza. La noticia, basada en los documentos de denuncia, era absolutamente rigurosa sobre lo que allí constaba.

Después, el Tribunal Superior de Galicia anuló las sanciones por una cuestión formal, de plazos de notificación. En los hechos probados, muy escuetos, dice que los cazadores estaban autorizados para cazar y habla de ciertos altercados. La resolución no llega a profundizar en lo que sucedió ni especifica las razones de las sanciones impuestas.

Con esta sentencia en la mano, el jefe forestal no pidió a EL PAÍS que modificara la noticia o añadiera en la misma la absolución. Lo que hizo fue solicitar a Google que dejara de indexarla. Al no conseguirlo, acudió a la Agencia Española de Protección de Datos y el caso acabó finalmente en la Audiencia Nacional. Ambas consideraron que la información no era veraz (a pesar de que contaba con precisión lo que constaba en una denuncia) y resolvieron que Google la retirara de sus buscadores.

La Audiencia Nacional reconoce que la noticia tiene un evidente interés público y que los internautas tienen derecho a acceder a ella dado que se trata de un funcionario sancionado por irregularidades relacionadas con el ejercicio de sus funciones públicas, pero añade que el contenido no es "exacto" porque no coincide con la sentencia dictada con posterioridad, por lo que no debe ser indexada. Sería una especie de falta de veracidad sobrevenida. Google, por su parte, defiende que la información se elaboró con diligencia y que nadie puede fabricarse un pasado a la medida.

La tecnológica recurrió, y ahora la Sala Tercera del Tribunal Supremo va a decidir si el derecho al olvido incluye también que se valore la exactitud de los hechos que se pretenden borrar -resolución que adelantó la informacion.com-, algo que sería muy complicado de llevar a la práctica y que constituiría un evidente problema para Google.
Decidir la verdad
"Creo que es imposible que una empresa de este tipo pueda entrar a determinar la veracidad de las noticias", opina la abogada Martos. "La única posibilidad sería que el Supremo estableciera unos requisitos muy claros que se puedan aplicar de forma totalmente objetiva, y esto es difícil. Creo que lo lógico sería que la persona acudiera al medio de comunicación, no a Google, que es un mero intermediario técnico y ni tiene sentido ni es viable que tenga que tomar estas decisiones sobre lo que es verdad y lo que no".

El reconocimiento jurídico del derecho al olvido en Europa tiene su origen en 2011, cuando Google defendió ante la Audiencia Nacional su negativa a cancelar datos privados de personas que consideraban que las referencias que el buscador arrojaba sobre ellas lesionaban su dignidad. La multinacional sostenía que eliminar o alterar los contenidos supondría la pérdida de "objetividad" de Internet para caer en la "censura".

Tres años después, el Tribunal de Justicia de la Unión Europea declaró que cualquier persona tiene derecho a solicitar a los motores de búsqueda la retirada de ciertos resultados de las consultas que hagan referencia a ella, aunque siempre ponderando las circunstancias para ver si prevalece la protección de los datos personales o el derecho a la información y a la libertad de expresión.

Ahora lo que decidirá la justicia española es si, Google, además, debe verificar si la información es exacta. "Es un tema complicado, porque es cierto que en este momento la memoria de lo acontecido la fijan los buscadores y unos hechos por los que alguien ha sido absuelto pueden quedar fijados en Internet para siempre", opina Juan Antonio Orgaz, abogado experto en nuevas tecnologías y privacidad y socio director de Loop un data. "Pero si Google tuviera que valorar la veracidad de las noticias que indexan sus motores de búsqueda le estaríamos trasladando una responsabilidad increíble: la de determinar la verdad. El Estado estaría haciendo una dejación de funciones".

# data[].attributes.attachment_link.title
¿Decidirá Google lo que es verdad y lo que no?

# data[].attributes.attachment_link.description
Imaginemos que el expresidente de la Generalitat valenciana Francisco Camps quiere que todas las noticias sobre el caso de sus trajes desaparezcan de Google porque acabó siendo absuelto -fue procesado por supuestamente haber recibido ropa como cohecho dentro de la trama Gürtel-.

# data[].attributes.headline
BYUNG-CHUL HAN: Big data y control social

# data[].attributes.subject
BYUNG-CHUL HAN: Big data y control social

# data[].attributes.attachment_link.readable_text
Byung Chul-Han - INÉS BAUCELLS

Antes de que Facebook se convirtiese en el centro de todas las miradas y de que algunos usuarios empezasen a plantearse seriamente la conveniencia de eliminar sus cuentas, el pensador surcoreano Byung Chul-Han (Seúl, 1959), gurú del pensamiento contemporáneo y azote del llamado capitalismo digital, ya había advertido de que, en realidad, somos poco más que un puñado de datos fluyendo sin control por el ciberespacio. Somos, asegura, el producto final que se trocea, se comparte y, finalmente, se vende al mejor postor. "Se supone que un e-book, por ejemplo, está para que yo lo lea, pero luego resulta que el e-book me lee a mí e interpreta mis hábitos a través de algoritmos", señala el filósofo para sintetizar lo que él mismo denonima "dataísmo". O, dicho de otro modo, la sumisión del "sujeto soberano" a la avalancha de macrodatos que nos envuelve.

"La ilustración empezó con Kant y lo que él denominó giro copernicano y fijó cosas como la libertad. Lo que yo llamo cambio dataísta implica que el hombre deja de ser un sujeto soberano para convertirse en un flujo de datos y en una unidad controlada. Evidentemente, deja de ser soberano para transformarse en el resultado de una operación algorítmica ", explicó el autor de "La expulsión de lo distinto" el pasado mes de febrero, cuando viajó al Centro de Cultura Contemporánea de Barcelona para pronunciar una conferencia.

Para Han, especialmente crítico con las nuevas formas de comunicación (o, como él mismo sostiene, de incomunicación y aislamiento) que promueven las nuevas tecnologías y las cada vez más tupidas redes sociales, existen ejemplos alarmantes de cómo los datos que se generan a través de esas redes están desembocando en prácticas poco menos que sospechosas. "En China, por ejemplo, se ha introducido el social scoring, que escanea las inclinaciones y relaciones de un ciudadano y, en función de los datos recogidos por el Estado, se concede o no un visado", ilustra.

El "reconocimiento facial", añade, desemboca "en el control total de las personas" y coloca a los ciudadanos en una realidad aún más peliaguda que la descrita en la más célebre de las distopías. "En "1984", la novela de George Orwell, la sociedad era consciente de que estaba siendo dominada. Hoy en día, en cambio, ni siquiera tenemos esa conciencia de dominación. Estamos inmersos en una masa de datos que nos controla totalmente", explica. Y aún hay más: "En Estados Unidos los resultados electorales están influidos por cosas como Facebook", anticipa antes de reclamar la necesidad de consensuar una "carta digital" que sirva para "recuperar la dignidad humana". "Se trata de ajustar el sistema para que el hombre esté en el centro", subraya.

Autor de ensayos que, como "La sociedad del cansancio", "Psicopolítica" o "Topología de la violencia", se han acabado convirtiendo en inesperados superventas, el filósofo instalado en Berlín cree que ha llegado el momento de revertir la situación y que internet y el flujo continuo de datos recuperen su condición de herramientas al servicio del ser humano. " Internet, los datos, las máquinas... Han de estar al servicio de las personas, no al revés, que es lo que está pasando ahora. Lo que tenemos que hacer es ajustar todo este sistema, no abolirlo", señala Han. Y es que, mal utilizada, añade, la tecnología sirve para homogeneizar, aislar y, en última instancia, convertir la comunicación en un mero intercambio de información. "Los medios sociales representan un grado nulo de lo social", dice.

# data[].attributes.attachment_link.title
"Estamos inmersos en una masa de datos que nos controla totalmente"

# data[].attributes.attachment_link.description
Antes de que Facebook se convirtiese en el centro de todas las miradas y de que algunos usuarios empezasen a plantearse seriamente la conveniencia de eliminar sus cuentas, el pensador surcoreano Byung Chul-Han (Seúl, 1959), gurú del pensamiento contemporáneo y azote del llamado capitalismo digital, ya había advertido de que, en realidad, somos poco más que un puñado de datos fluyendo sin control por el ciberespacio.

# data[].attributes.headline
Dilemas éticos en torno a la conducción automática

# data[].attributes.subject
Dilemas éticos en torno a la conducción automática

# data[].attributes.attachment_link.readable_text
El coche autónomo es, sin duda, una de las grandes revoluciones tecnológicas que nos aguardan en el futuro más inmediato. Una nueva contienda en la que pugnan por el liderazgo desde compañías nacidas al calor de la era digital (como Waymo -filial de Google/Alphabet-, Uber o Tesla) hasta fabricantes de automóviles de toda la vida (BMW, Mercedes-Benz o Toyota son sólo algunos de ellos), pasando por los distintos proveedores de la cadena de valor (Bosch) y los encargados de poner en funcionamiento los nuevos componentes que faciliten esa conducción sin conductor (como los sensores LIDAR, la cartografía y navegación, las comunicaciones 5G o la computación en el extremo).

Aunque estamos ante el gran despegue de esta tendencia, hemos de remontarnos a mediados del siglo pasado para entender de dónde viene todo este interés por vehículos que no necesiten a un humano al volante. Fue en la Expo Universal de 1939, celebrada en Nueva York, cuando un tal Norman Bel Geddes presentó un coche que se mantenía en el asfalto gracias a un circuito eléctrico construido en el pavimento de la carretera y que enviaba señales al vehículo para que se mantuviera dentro de la vía y circulara a la velocidad adecuada.

Aunque este primitivo planteamiento dista mucho del coche autónomo que se mueve gracias al Internet de las Cosas y la inteligencia artificial, lo cierto es que fue el primer aviso de que el modelo de conducción tradicional estaba bajo amenaza. Una advertencia de que el placer de conducir podría verse sustituido próximamente por máquinas capaces de circular mejor, más rápido y más seguras que nosotros. En definitiva, una alerta de que una gran transformación estaba por llegar, con sus implicaciones económicas, sociales y, por supuesto, éticas.

Acabar (teóricamente) con los accidentes

Cada año mueren en las carreteras alrededor de 1,24 millones de personas en todo el mundo, según la World Health Organization. De todos los accidentes de tráfico, se estima que nueve de cada diez casos se deben a errores humanos. Los coches autónomos eliminan al humano de la ecuación. Sumen uno más uno.

De acuerdo a los defensores de la conducción autónoma, esta clase de vehículos prometen la práctica desaparición de los accidentes de tráfico, de los fallecidos y discapacidades que éstos provocan y, en definitiva, el transporte seguro que tanto ansían reguladores y gobiernos de todo el planeta. Y cualquiera con algo de sentido común, ¿verdad? La pregunta a renglón seguido es si esta promesa es tan cierta como parece.

Un estudio de la Universidad de Virginia Tech echa algo de luz al respecto. Mediante una investigación naturalista, monitorizando la experiencia de conducción de 3.300 vehículos reales que recorrieron un total de 54 millones de kilómetros, los científicos compararon esa información con los resultados obtenidos del programa de coches autónomos de Google. Los resultados fueron esclarecedores:los conductores humanos tienen una media de 4,2 accidentes por cada 1,6 millones de kilómetros rodados, mientras que los coches autónomos reducen esa cifra una cuarta parte: a 3,2 accidentes por cada 1,6 millones de kilómetros.

Los propios investigadores admiten que aún se necesitarían muchos más coches autónomos para afirmar con rotundidad que este tipo de vehículos reducen los accidentes más graves, pero sí que se muestran convencidos de que sí reducen los incidentes más leves respecto a la conducción tradicional.

La difícil convivencia

La cuestión clave que impide afirmar con rotundidad que el coche autónomo tendrá esa gran ventaja -la de la seguridad- frente a otros modelos de conducción pasa no sólo por la falta de datos suficientes para hacer estudios comparativos, sino por las enormes dudas sobre cómo será la implantación de estos vehículos.

En un reciente foro celebrado en Madrid, José María Armingol, investigador del Laboratorio de Sistemas Inteligentes de la Universidad Carlos III de Madrid explicaba que "quizás el coche esté disponible en unos años, pero ¿será capaz de circular con normalidad en una ciudad grande congestionada? No lo tengo claro".

Hemos de tener en cuenta que hay seis niveles distintos de conducción autónoma, cada uno de ellos con distintas implicaciones y responsabilidades para el ser humano. Mientras todos ellos convivan en las carreteras, desde los coches tradicionales hasta los más automatizados, la gestión del tráfico no va a ser nada sencilla: los vehículos más avanzados no podrán predecir el comportamiento de los conductores de carne y hueso con la misma facilidad que lo hacen con otros automóviles informatizados, mientras que para los humanos podrá ser difícil de comprender algunas de las pautas que seguirán los coches inteligentes al pie de la letra. Si eso desemboca sólo en enfados y cabreos entre personas y máquinas, todo irá bien; el problema es si esa disonancia clave genera accidentes de tráfico...

El dilema moral: ¿a quién salvar?

Pero vamos a dar por supuesto que hemos logrado ese ansiado objetivo de que todos los coches que circulen por nuestras carreteras sean autónomos y que el reto de la 'accidentalidad cero' está más cerca que nunca. Sigue habiendo un factor que nunca seremos capaces de controlar: los imprevistos que surgen cuando introducimos a peatones o elementos ajenos al control y la predicción de las máquinas.

Como ha demostrado el reciente atropello mortal provocado por un coche autónomo de Uber, los sistemas automatizados siguen fallando notablemente a la hora de actuar en estas situaciones críticas. Pero vayamos incluso más allá y demos de nuevo por supuesto que son capaces de anticiparse a estos momentos. También viviremos situaciones en las que el coche ha de elegir entre dos alternativas para evitar un accidente y, en muchas de esas elecciones, ambas opciones provocarán fallecidos, ya sean ocupantes del vehículo, peatones o personas que van en otros coches.

Nos ponemos entonces ante un dilema muy considerable, ya que estaremos obligando a una máquina a tomar una decisión moral sobre a quién debe matar, qué vidas primar por encima de otras. Si bien resulta obvio que estos sistemas serán siempre programados para salvar antes a los humanos que a bienes materiales e incluso animales, no es tan sencillo valorar la ecuación cuando las vidas en juego son de personas.

Sobre este tema precisamente debatió hace unos meses un comité de 14 expertos (entre los cuales había filósofos, tecnólogos y analistas de tráfico) promovido por el gobierno alemán. De acuerdo a su veredicto, "la vida humana siempre tiene la máxima prioridad", por encima de cualquier consideración animal o material. Y, en el caso de que el sistema autónomo tenga que elegir entre 'matar' a un humano u a otro, los expertos germanos se limitan a asegurar que la inteligencia artificial no debe "interpretar" las leyes, sino aplicar las normas de tráfico a rajatabla y minimizar los daños en la medida de lo posible. Y si, por ejemplo, el atropello es inevitable,el sistema no debe jamás "establecer preferencias en base a la edad, sexo o condiciones físicas o mentales de los afectados ".

Poco aclara dicho documento sobre a quién matar (entendemos que con "respetar las normas" se basa en obligar al sistema a elegir la opción más fácil sin importar las consecuencias, una suerte de 'lavarse las manos' para no entrar en el fondo del debate).

Más profundamente están trabajando los investigadores del Media Lab del Massachusetts Institut of Technology (MIT) y del departamento de Machine Learning de la Universidad Carnegie Mellon (CMU) con un experimento, cuanto menos, polémico. Estas dos universidades proponen que seamos todos los ciudadanos del mundo los que decidamos estos principios éticos del coche autónomo y, para ello, nada mejor que llevar a cabo un macroexperimento a escala global.

En la página web dispuesta a tal efecto, se nos pregunta a quién veríamos más ético atropellar: víctimas de distinto género, edad, salud, nivel económico e, incluso, si son infractores habituales de las normas de tráfico. ¿Se imaginan que un coche autónomo decida matar a un peatón porque tiene varias multas de tráfico en su haber? Resulta paradójico, pero esas situaciones pueden darse en un futuro no tan lejano. ¿O que el sistema decida salvar la vida de una mujer en lugar de la de un hombre? ¿O que la vida de una determinada profesión valga más que otra? Veremos cuáles son las perspectivas que salen de semejante encuesta, que sigue abierta en el portal del MIT.

Todos ellos son escenarios derivados del famoso y extraordinariamente manido dilema del tranvía, en el que se nos pide si debemos salvar la vida de cinco personas atrapadas en la vía del tren o sacrificar la de una única persona atada en la otra. También existen variantes más agresivas, como la que propone que para evitar la muerte de esos cinco sujetos debemos lanzar (pasamos de una muerte pasiva a un asesinato en toda regla) a una persona obesa que frene al tren. En cualquier caso, dilemas morales que no nos ponen de acuerdo a los propios humanos... como para hacerlos extensibles a las máquinas.

Volvemos al MIT para cerrar este capítulo porque esta institución también ha llevado a cabo otro experimento, menos ambicioso y menos controvertido, con la Toulouse School of Economics. En él se invitó a varios participantes a ponerse en la mente del programador de uno de estos coches autónomos para elegir a quién matar en diferentes escenarios: al propietario del automóvil, a diez peatones, a un único peatón... Según este estudio, cuando se trata de una relación de 1 a 1 (un conductor 'vs' un peatón), los encuestados respondían de forma dividida con un 50% de los votos, pero cuando la elección estaba entre un conductor y diez peatones, la mayoría de ellos (75%) optaba por 'matar' al conductor sin dudarlo. ¿Dirán eso si en lugar de un experimento estuvieran ellos en la tienda a punto de comprar un coche que, llegado el momento, podría decidir acabar con tu vida?

Conducción autónoma y empleo

Como estamos viendo, el dilema ético que se plantea ante la llegada del coche autónomo es de dimensiones épicas... pero todavía hay más. Conforme más y más vehículos puedan circular sin un humano al volante, ¿qué ocurrirá con las profesiones que dependen directamente de esta gestión personal del transporte? Hablamos de camioneros -una de las profesiones más extendidas en muchas regiones del mundo-, taxistas, conductores privados, conductores de ambulancias, transporte militar y policial, repartidores, autobuses, etc.

La Casa Blanca encargó, en la era de Barack Obama en el despacho oval, un informe al White House Council of Economic Advisers, sobre el impacto del coche autónomo en el empleo. Según el documento hecho público, entre dos y tres millones de trabajadores podrían quedarse en la calle según se vaya extendiendo la IA en las carreteras. Esta cifra, puesta en contexto, equivale a entre el 60% y el 80% de todos los empleos del sector transporte en Estados Unidos. De entre todos estos profesionales de las cuatro ruedas amenazados por la tecnología, en torno a 1,6 millones son conductores de tractores o camiones de gran tamaño, otros 826.000 son conductores de camiones pequeños o furgonetas de reparto; 505.000 son conductores de autobuses escolares o pasajeros con discapacidades y tercera edad; 364.000 serán conductores particulares; 180.960 se cuentan entre taxistas y chóferes profesionales; y, por último, unos 168.000 conductores de autobús urbanos e interurbanos.

Enlazamos así el debate ético del coche autónomo con la discusión mucho más amplia sobre las implicaciones socioeconómicas de la inteligencia artificial, los discursos alarmistas sobre el impacto de la IA en el empleo y las llamadas de atención a la formación y el reciclaje de los profesionales hacia labores de valor añadido en la era digital. Por no hablar de otras consideraciones que van incluso más allá, como la de la renta básica universal o la imposición de impuestos a las máquinas para compensar las pérdidas de ingresos que se van a producir en esas actividades ante la falta de humanos a cargo de tareas tan nuestras como conducir.

¿Querremos conducir un coche autónomo?

Sin embargo, todas las discusiones anteriores dejan de tener sentido alguno si no existe un mercado interesado en utilizar esta clase de vehículos, de no haber demanda suficiente de esta clase de tecnologías. Y en gran parte de ese interés comercial, uno de los factores que más pesan en la balanza es precisamente la seguridad y el dilema moral de esta clase de vehículos.

Un estudio del IEEE (Instituto de Ingeniería Eléctrica y Electrónica) señaló recientemente que más de dos tercios de los consumidores admitían no verse preparados para ceder la conducción a la máquina, principalmente por la incapacidad de los ocupantes del automóvil de tomar las riendas en caso de imprevisto o de un incidente inminente.

Según otra encuesta de Cetelem, el 54% de los españoles conoce el coche autónomo y afirma que será una realidad, al mismo tiempo que el 80% afirma que estará interesado en su uso. Nuestro país está por encima de países como Estados Unidos o Alemania en esa percepción sobre el futuro y utilidad del coche autónomo. Pero también en este informe encontramos que los usuarios están preocupados por "no ser completamente el amo del vehículo" (24% de los encuestados), por el uso de información personal (22% en el mundo vs 21% en España); la seguridad (21% vs 18% en España) o la pérdida del "placer de conducir" (12% en España).

Seguimos tirando de datos, ahora de Deloitte, para concluir que mientras tres cuartas partes de la población estadounidense confía en la seguridad de los aviones, tan sólo una cuarta parte se sentiría cómodo montado en un coche autónomo.

¿Problema de concienciación? ¿Falta de formación ante una tecnología tan innovadora y disruptiva como ésta? ¿O hay consideraciones y preocupaciones morales que subyacen a todo este fenómeno y que están frenando su adopción social? Solo el tiempo marcará el devenir de la que puede ser la gran revolución del transporte en nuestra generación.

# data[].attributes.attachment_link.title
La conducción autónoma y los dilemas éticos que se plantean

# data[].attributes.attachment_link.description
¿A quién debe matar un coche autónomo en caso de un accidente inevitable? ¿Debe primar a los ocupantes del vehículo o a los peatones? ¿Matar antes a alguien con multas de tráfico que a un niño? Son solo algunas consideraciones éticas de la conducción autónoma... #coche #cocheautónomo #coches

# data[].attributes.attachment_link.readable_text
Ilustración del sistema de detección de un vehículo autónomo. Getty Images

Dilema 1: Un coche sin conductor se queda sin frenos llegando a un paso de cebra. Si sigue recto atropella a dos peatones, si da el volantazo se lleva por delante a un gato. Dilema 2: El vehículo se encuentra en el paso a un ejecutivo trajeado y, si gira, a un indigente. El choque matará a uno de ellos. Dilema 3: A bordo del automóvil van una mujer embarazada y su hija, enfrente tres ancianos que solo puede evitar yendo contra un muro. ¿A quién salvarías? Un experimento con millones de personas muestra ahora cómo debería ser la moral que guíe a los vehículos conectados en un accidente. Sus resultados son una medida de la propia moral humana.

Ya hay infinidad de ensayos con coches que se conducen solos, ha habido hasta atropellos mortales y es cuestión de tiempo que los vehículos autónomos circulen de forma habitual por las carreteras. Un reciente informe de Intel, por ejemplo, indica que serán mayoría en unas décadas. Al retirar de la ecuación la imprudencia y errores humanos, prometen reducir los accidentes. Pero habrá situaciones en las que un fallo mecánico, el tiempo o las condiciones de la carretera hagan inevitable el accidente. En esos casos las máquinas deberán decidir entre dos males y para ello habrá que dotarlas de unos principios morales.

Buscando esos principios, un grupo de científicos europeos y estadounidenses diseñaron un videojuego (un serious game) en el que los participantes tenían que hacer de coche autónomo. Se les presentaron una decena de dilemas como los de arriba en los que alguien moría sí o sí, ya fueran los ocupantes del coche o diversos peatones, desde una persona obesa hasta tres viejecitas, pasando por alguien que cruzaba la carretera por donde no debía.

En el experimento de la máquina moral, como la han llamado, han participado ya más de dos millones de personas de 233 países y territorios ( aún se puede jugar). Con sus casi 40 millones de dilemas resueltos, se ha convertido en una especie de tratado sobre lo que los humanos creen que es más o menos correcto.

"Vimos que hay tres elementos que las personas tienden a aprobar más", dice.el investigador del Media Lab del Instituto de Tecnología de Massachusetts (MIT) y principal autor del estudio, Edmond Awad. Primero, entre salvar a un humano o un animal, el coche siempre debería atropellar a la mascota. La norma, además, primaría salvar al mayor número de personas. Así que si el conductor va solo y va a atropellar a dos peatones, que se estampe contra el muro. La tercera decisión más universal es que la mayoría cree que si un vehículo autónomo tiene que decidir entre chocar contra un niño o contra un anciano, el viejo debe morir para que el joven tenga la oportunidad de envejecer.

Aparte de estas tres decisiones morales que son casi universales, la investigación, publicada en , muestra una preferencia específica según el tipo de personaje: De los que cruzan el paso de cebra, los que merecen más la pena salvar son, por este orden, un bebé a bordo de un carrito, una niña, un niño y una mujer embarazada. En sentido contrario, y dejando a un lado las mascotas, los delincuentes, los ancianos y los sintecho son los humanos más sacrificables.

ampliar foto
En uno de los dilemas, el jugador debe elegir entre atropellar a la anciana o que el coche choque contra el muro matando a su pasajera. MIT Media LAB

Esta predilección por unas vidas sobre otras introduce un elemento que discrimina a las personas por sus características personales, apuntando a la desigualdad en la moral de las máquinas. "Las comparaciones no implican que los expertos deban cambiar sus normas para complacer a la gente. Lo que sugerimos es que las tengan en cuentan, ya que les ayudarán a anticipar la reacción pública a las diferentes regulaciones que redacten", comenta Awad.

Diferencias según la nacionalidad

Además de resolver dilemas, medio millón de jugadores rellenaron una encuesta con datos personales como edad, género, ingresos, educación, posición política y creencias religiosas. Los investigadores buscaban con ello algún rasgo personal que modulara los dilemas morales. Salvo la religiosidad, ningún otro factor parece influir a la hora de decidir a quién salvar. Pero aquí acaba el sueño de una moral universal.

Gracias a la geolocalización, el estudio pudo determinar el origen de los participantes, detectando marcadas diferencias regionales. Así, aunque las ancianas son las menos salvadas de entre los humanos solo por detrás de los delincuentes, los asiáticos tienden a salvarlas más que los occidentales. En Europa y EE UU hay una predilección sutil pero significativa por las personas de complexión atlética sobre los obesos. En los países del sur, tienden a salvar más a las mujeres sobre los hombres. Y en las naciones más desiguales, un porcentaje mayor de los participantes prefirió salvar al peatón con aspecto de ejecutivo.

"Nuestros resultados sugieren que implantar un único conjunto de normas en todos los países sería complicado", opina el investigador del MIT. "La misma norma aplicada en diferentes lugares podría recibir distinto apoyo social en los distintos países". añade. En la investigación ponen un ejemplo: entre los principios que regirían la toma de decisiones del coche, un algoritmo podría favorecer por norma a los peatones sobre un único conductor. Pero ¿y si esos peatones cruzan de forma indebida?

El único país que ha propuesto ya una guía moral para los vehículos autónomos es Alemania. En el verano de 2017 y a instancias del Ministerio de Transportes, un grupo de ingenieros, profesores de filosofía, expertos en derecho, representantes de los fabricantes, los consumidores y hasta las iglesias elaboraron un código ético con 20 normas. La mayoría no chocan con los resultados de este estudio. Pero sí lo hace su ambición de ser universalmente válidas. Pero hay un choque frontal con la norma ética 9, que dice lo siguiente: "En el caso de situaciones donde el accidente sea inevitable, está estrictamente prohibida cualquier distinción basada en rasgos personales (edad, género, o constitución física o mental).

Uno de los autores de este código es el profesor de Filosofía de la Universidad Técnica de Múnich Christoph Lütge. Para él, la igualdad debería mantenerse. "Tanto por razones legales como éticas, la programación no puede tratar de forma diferente a las personas con rasgos personales distintos. Sé que hay quienes dicen que hay experimentos que muestran que instintivamente favoreceríamos al niño. Pero eso no se puede convertir en una norma para una máquina. La ética no siempre puede seguir los instintos".

# data[].attributes.attachment_link.title
¿A quién mataría (como mal menor) un coche autónomo?

# data[].attributes.attachment_link.description
Dilema 1: Un coche sin conductor se queda sin frenos llegando a un paso de cebra. Si sigue recto atropella a dos peatones, si da el volantazo se lleva por delante a un gato. Dilema 2: El vehículo se encuentra en el paso a un ejecutivo trajeado y, si gira, a un indigente.

# data[].attributes.headline
El control de las máquinas y la responsabilidad

# data[].attributes.subject
El control de las máquinas y la responsabilidad

# data[].attributes.attachment_link.readable_text
Un hombre prueba una máquina de trillar en un festival de Estados Unidos. Getty

¿Qué sucede cuando las máquinas toman el mando; cuando los robots, impulsados por la inteligencia artificial, pueden hacer casi todo mejor que los humanos y los únicos empleos que quedan están reservados para los trabajadores más especializados? ¿Cuándo se adaptarán los trabajadores sustituidos por las máquinas y encontrarán nuevos empleos? ¿Cuándo se revelarán e intentarán resistirse a la introducción de nuevas tecnologías?

En un reciente artículo científico intentamos responder a estas preguntas analizando las revueltas agrarias Capitán Swing, un episodio de la historia de Inglaterra que ofrece interesantes similitudes con la situación actual. Los disturbios estallaron en 1830, y durante dos años los trabajadores rurales ingleses protagonizaron levantamientos contra los propietarios de las tierras. Quemaron granjas, mataron ganado y destruyeron maquinaria agrícola. En nuestro artículo Rage against the machines ( Ira contra las máquinas) mostramos que el principal desencadenante fue la adopción de una innovación tecnológica: la trilladora. No obstante, para entender cómo esta novedad desembocó en las revueltas, tenemos que fijarnos en lo que ocurrió 30 años antes.

A principios del siglo XIX, la mayoría de la población de Inglaterra vivía en el campo y trabajaba las tierras de los terratenientes ricos. En invierno el trabajo escaseaba, y la mayoría de los campesinos se ganaba la vida trillando el cereal. Cada trabajador utilizaba una vara para golpear la mies en bruto hasta que el grano se separaba del resto de la planta. Aunque la tarea era sumamente dura y trabajosa, constituía la única fuente de ingresos para la mayor parte de los jornaleros en todo el invierno.

La situación cambió rápidamente a comienzos de 1800, cuando las trilladoras empezaron a aparecer en las granjas inglesas. La nueva máquina permitía realizar el trabajo de un pueblo entero nada más que con la ayuda de un puñado de hombres. En consecuencia, los campesinos que vivían en los lugares que la introdujeron perdieron su trabajo de invierno, y con él, su único medio de vida en esa estación. La situación empeoró paulatinamente hasta 1830, cuando el descontento acabó estallando y los trabajadores de toda la isla se rebelaron.

En el artículo nos servimos de fuentes históricas para reconstruir la localización de las máquinas y las revueltas, y utilizamos esta información para demostrar que la causa de los disturbios fue la adopción de una nueva tecnología. Nuestros resultados tienen moraleja, ya que indican que cuando las nuevas máquinas sustituyen a los trabajadores y causan un "desempleo tecnológico" excesivo, sus víctimas pueden reaccionar y resistirse al cambio.

Ahora bien, ¿cuál fue exactamente el problema en 1830, y por qué no ha ocurrido nada parecido en los últimos años? Una respuesta es que las innovaciones recientes, aunque a menudo provocan alteraciones, no han afectado a tanta gente al mismo tiempo como las trilladoras, que en 1800 dejaron sin empleo a la gran mayoría de los trabajadores del campo.

Una posible segunda respuesta tiene que ver con el Estado del bienestar. En 1800, las parroquias británicas ofrecían asistencia social a los pobres. Era un sistema descentralizado en el que cada iglesia brindaba diferentes niveles de ayuda. Mi equipo recopiló información sobre la generosidad de las distintas parroquias del país, y descubrimos que allí donde los campesinos pobres recibían ayudas más generosas, las nuevas máquinas no provocaron revueltas. Esto quiere decir que, cuando las nuevas tecnologías crean desempleo, la existencia de un Estado del bienestar capaz de redistribuir la riqueza puede ayudar a los trabajadores a absorber el impacto negativo de las máquinas y a adaptarse a la nueva situación.

Bruno Caprettini es un investigador en el Departamento de Economía de la Universidad de Zurich.
(www.brunocaprettini.com)

Traducción de News Clips.

# data[].attributes.attachment_link.description
¿Qué sucede cuando las máquinas toman el mando; cuando los robots, impulsados por la inteligencia artificial, pueden hacer casi todo mejor que los humanos y los únicos empleos que quedan están reservados para los trabajadores más especializados? ¿Cuándo se adaptarán los trabajadores sustituidos por las máquinas y encontrarán nuevos empleos?

# data[].attributes.attachment_link.readable_text
Andrej tiene algunos achaques. Le duele aquí y allá después de haber trabajado durante cuatro décadas en una fábrica de estaño para soldaduras. A sus 60 años está cerca de la jubilación. El futuro se antoja una pradera de mañanas sin madrugones y tardes de cerveza con los amigos de toda la vida. Le preocupa, sin embargo, lo que le espera a los que hereden su empleo y tengan que competir con una mano de obra que trabaja 24 horas al día, siete días a la semana. Sin espíritu reivindicativo de ningún tipo. Esa fuerza laboral, para colmo, se va a fabricar en su propio pueblo.

Una de las compañías más importantes del sector de la robótica, la japonesa Yaskawa, va a abrir a finales de este año la primera fábrica de robots en Europa. La empresa, que hasta ahora solo tenía industria en Japón y China, eligió el municipio de Kocevje, en el sur de Eslovenia, para iniciar su expansión estratégica por el continente. Los autómatas están a punto de desembarcar.

La inminente apertura de la planta de producción de robots reabre el viejo debate del hombre contra la máquina, vivo y después latente desde la primera revolución industrial. Según un informe de la OCDE, más de 60 millones de trabajadores correrán el riesgo de ser reemplazados por robots en los próximos años. El 14% de los empleos de los países desarrollados, de acuerdo al mismo estudio, son altamente automatizables. Más del 30% seguramente experimentará cambios muy significativos. La industria manufacturera y la agricultura son los sectores en los que más impacto tendrá la industrialización 4.0, como llaman los economistas a esta revolución tecnológica que ya se está produciendo.

El debate entusiasma al profesor de robótica Marko Munih, de la Universidad de Liubliana. Munih solo ve beneficios en esta revolución, que según la Federación Internacional de Robótica (IFR) crece a un ritmo del 15% anual desde 2010. Beneficio para el consumidor, que obtendrá un producto más barato, pero también para el trabajador, que con la debida formación podrá desarrollar un trabajo más cualificado, mejor pagado por tanto, y menos mecánico y repetitivo.

El ingeniero electrónico, al menos a corto plazo, no vislumbra una automatización completa en la industria, más bien la colaboración entre los dos. Uno haciendo el trabajo pesado, redundante, y el otro el que requiere complejidad, precisión e imaginación. "Uno al lado del otro, sin vallas, sin barreras. El robot es el asistente, que por ejemplo trae algo pesado y el humano solo tiene que ajustarlo, como una rueda. O que ayude a un enfermero a levantar a un paciente, o a un cirujano, que funcione como la extensión de su brazo. ¿Lo imagináis? Pues ya está ocurriendo aunque no a gran escala", explica el profesor en su taller laboratorio.

LA PELEA DE ESTE SIGLO: EL HOMBRE CONTRA LA MÁQUINA
¿Están quitando las máquinas trabajo a los humanos? En esta entrega de Europa Ciudadana (con Parlamento Europeo - Oficina de Información en España), hablamos de la apertura de la primera fábrica de robots en Europa y sus consecuencias http://cort.as/-6SWf En El País Internacional
Gepostet von El País am Mittwoch, 30. Mai 2018

¿Los robots ponen en peligro el empleo de los trabajadores menos cualificados? Munih no comparte la visión de la OCDE. A su modo de ver, el pasado demuestra que la tecnología solo trae nuevas oportunidades para los humanos. Que Europa no abrace con el debido entusiasmo esta revolución podría resultar fatal: "Hay que ser conscientes de que cada año China está instalando unos 70.000 robots, más que toda Europa junta. Significa que hay una gran competencia".

Por eso se felicita por el desembarco de Yaskawa en Eslovenia, el país más robotizado en Europa del Este por su pujante industria de la automoción, colocado también en un puesto considerable (16º) en el índice mundial de robotización de la industria manufacturera pese a ser un país pequeño (poco más de dos millones de habitantes). Manfred Stern, presidente de la compañía en Europa, explica por teléfono que el apoyo de las autoridades, su flexibilidad, el hecho de que tuvieran ya allí una fábrica de componentes y la buena calidad de los ingenieros eslovenos les hizo decantarse por el país alpino.

El mesurado Andrej, el manipulador de estaño, no es ningún ingenuo. Sabe que el progreso trae beneficios pero, como trabajador manual, sabe que la revolución puede dejar a muchos atrás. Su miedo tiene base. La compañía china Foxconn, proveedora de Apple y Samsung, sustituyó hace dos años a 60.000 trabajadores por robots. "Es posible que las personas con menos habilidades pierdan sus empleos", sostiene durante un descanso de sus labores en un bar de Ribnica, donde ya existen unas oficinas de Yaskawa. No ve con malos ojos que el Estado grave a los robots para compensar las pérdidas de empleo.

Esta postura tiene un aliado inesperado en Bill Gates, cuya visión parece más filantrópica que empresarial. El fundador de Microsoft, en una entrevista con Quartz, sostuvo que en las próximas dos décadas una gran cantidad de empleos serán robotizados y los gobiernos deberán estar preparados para atender las necesidades de estos desempleados potenciales. "Desde luego que habrá impuestos que tengan que ver con la automatización. Si una persona hace un trabajo valorado en 50.000 dólares en una fábrica, esa cantidad se somete a impuestos de renta, de seguridad social y todas esas cosas. Si un robot llega para hacer lo mismo, pensaríais que tendría que gravar de forma similar", dijo, para a continuación añadir que no creía que ese desembolso fuera a indignar a las compañías de robots.

Una discusión en Bruselas

La Unión Europea no ha estado ajena a la discusión. El Parlamento Europeo, que financió el viaje para este reportaje, rechazó el año pasado discutir un impuesto para compensar el empleo destruido por robots. Ahora, la Comisión Europea ha expuesto una serie de medidas encaminadas a "poner la inteligencia artificial al servicios de los ciudadanos europeos". Esas medidas pasan por invertir 20.000 millones de euros hasta 2020 en investigación e innovación en Inteligencia Artificial, modernizar el sistema de educación y reciclaje de empleo para ayudar a los que se queden en la calle y garantizar un marco ético adecuado a los cambios que se vienen encima (privacidad de datos, accidentes). En ningún caso, por ahora, gravar a los robots.

"De ninguna manera", explica por correo electrónico el vicepresidente y comisario europeo de Mercado Único Digital, el estonio Andrus Asip. "Deberíamos impulsar la innovación, no sofocarla. La competencia internacional es feroz. Estados Unidos y China invierten mucho en Inteligencia Artificial, nosotros no podemos quedar atrás". El progreso siempre conllevó más trabajo, añade. Y lo que deben hacer las autoridades, insiste, es asegurarse de que "los europeos tengan las habilidades adecuadas para aprovechar el máximo la transformación digital".

Una portavoz comunitaria que mantuvo reuniones con los dirigentes de Yaskawa asegura por teléfono que la compañía japonesa se instala en Europa por lo atractivo de su mercado y ahora toca proveerla de ingenieros talentosos que puedan desarrollar aquí sus habilidades y no tengan que emigrar a otras regiones, que no dejan de ser competencia. Señala también la importancia de no dejar atrás a las pequeñas y medianas empresas. Se trata, al fin y al cabo, de que el tsunami que está por llegar no pille desprevenido a la Unión. "Hay que estar preparados", zanja.

Como preveía Gates, Manfred Stern, de la empresa de robots, no está indignado, aunque sí lejos de apoyar el gravamen. "Si miras los países con mayor densidad de robots (Corea del Sur, Alemania, Japón) te das cuenta de que son los que menos parados tienen", resalta. El profesor Munih, desde su laboratorio, lo secunda con humor: "Si exageras, puedes acabar gravando los destornilladores de las empresas".

Sobre la firma

# data[].attributes.attachment_link.title
La pelea de este siglo: el hombre contra la máquina

# data[].attributes.attachment_link.description
Andrej tiene algunos achaques. Le duele aquí y allá después de haber trabajado durante cuatro décadas en una fábrica de estaño para soldaduras. A sus 60 años está cerca de la jubilación. El futuro se antoja una pradera de mañanas sin madrugones y tardes de cerveza con los amigos de toda la vida.

# data[].attributes.headline
El lugar de la tecnología: desafíos y peligros

# data[].attributes.subject
El lugar de la tecnología: desafíos y peligros

# data[].attributes.attachment_link.title
TEDxDirigo - Paul Josephson - ¿Por Qué Todos Necesitamos Ser Neoluditas?

# data[].attributes.attachment_link.description
Si no lo puede ver en el blog, visite la página donde está alojado el video Paul Josephson es un especialista sobre la antigua Unión Soviética y el lugar de la tecnología a gran escala en el mundo moderno. Es autor de nueve libros y muchos artículos, incluido una historia de la caña de pescar....

# data[].attributes.headline
La evolución imparable de los algoritmos

# data[].attributes.subject
La evolución imparable de los algoritmos

# data[].attributes.attachment_link.readable_text
La naturaleza hizo patos, hizo castores, hizo nutrias... Y en algún momento de la evolución, se paró a hacer ornitorrincos. Luego, Darwin escribió El origen de las especies: "La selección natural está siempre pronta a adaptar los descendientes de cada especie que varíen un poco, a algún puesto desocupado o mal ocupado en la naturaleza". Y ahora estas cosas pasan en entornos simulados.

En ocasiones, los caminos de los algoritmos son inescrutables. Una lista formal de instrucciones no ambiguas que se ejecutan en un orden prescrito podría darte un sorpresón. Así lo han demostrado Joel Lehman, Jeff Clune y Dusan Misevic en el estudio La sorprendente creatividad de la evolución digital. "La creatividad no necesita verse restringida al mundo orgánico", afirman.

¿Qué pasa cuando los algoritmos se ponen creativos? Esta antología de algoritmos tramposos ignora todas las leyes menos una: la del mínimo esfuerzo. Pasen y vean los ornitorrincos de la computación.

Cuando Karl Sims desarrolló criaturas 3D capaces de moverse en entornos físicos simulados, su plan era que aprendieran a andar, nadar y saltar combinando y articulando los bloques que formaban sus cuerpos virtuales para recorrer una distancia determinada. Para medir el rendimiento de estos seres, se tomaba en cuenta la velocidad que alcanzaban durante sus 10 segundos de vida.

Los bichitos se pasaron la evolución tal y como la conocemos por el bloque de atrás y generaron un cuerpo largo y rígido, como una pértiga. Una vez erguidos, solo tenían que dejarse caer y confiar en que la energía potencial hiciese el resto. Algunos incluso daban volteretas para aumentar.

En una variación de este experimento, Sims se centró en criar animalitos digitales que saltasen a gran altura. En su respuesta más holgazana, las criaturas se limitaron a conformar cuerpos alargados que registrasen saltos de gran altura sin mover un cubo.

Jeff Clune, Kai Olav Ellefsen y Jean-Baptiste Mouret estaban investigando el llamado olvido catastrófico que se da cuando una red neuronal entrenada para una tarea olvida lo aprendido al verse expuesta a nuevas enseñanzas. Su experimento pasaba por entrenar a distintas generaciones de agentes para reconocer características asociadas a ciertos objetos (manzana=comestible, seta=venenoso). Sin embargo, estas asociaciones iban cambiando aleatoriamente de una generación a otra, para obligar a los agentes a aprenderlas durante sus vidas e impedir que esta información apareciese aprendida por defecto.

Lo que no esperaban los investigadores es encontrarse con una red neuronal que casi no contenía conexiones pero era capaz de identificar los diferentes objetos con gran precisión. "La red parecía aprender las asociaciones sin recibir los estímulos necesarios, como si una persona ciega pudiera identificar una seta venenosa por su color", explica el estudio.

¿Era ciencia? ¿Era brujería? ¿Era una imposible cadena de casualidades? Era una red neuronal que se dio cuenta de que los científicos presentaban los objetos alternados (comestible, venenoso, comestible, venenoso, comestible, venenoso...). ¿Para qué aprender cuando se puede pendular?

Los algoritmos de reparación entran en acción cuando un programa muestra comportamientos que no entran dentro de lo que se considera correcto. GenProg es uno de ellos. Ante un programa defectuoso, remienda los fallos para que el programa recupere el comportamiento normal.

Los investigadores de MIT Lincoln Lab llevaron GenProg a examen con un programa de clasificación defectuoso. La prueba del algodón era que la clasificación resultante estuviera correctamente ordenada. En caso contrario, el algoritmo de reparación tendría que proceder a la reparación. "GenProg encontró una solución más fácil: generó un cortocircuito en el programa defectuoso", señala el estudio. De este modo, la clasificación resultante siempre se presentaba como una lista vacía, lo cual no se consideraba un defecto en las especificaciones del programa.

Imagina una competición de cinco en raya que tiene lugar en un tablero digital e infinitamente grande. Este fue el reto que se planteó a los estudiantes de la clase de inteligencia artificial de la Universidad de Texas. Aunque la mayoría de los alumnos enviaron soluciones comunes, basadas en sistemas de búsqueda, uno de los aspirantes presentó un modelo que fabricaba los movimientos deseados para un amplísimo rango de coordenadas dentro del tablero de infinitas casillas.

En cierto punto de la evolución, el algoritmo detectó que esta habilidad le permitía solicitar movimientos nuevos en puntos muy, muy lejanos y que seguir esta estrategia derivaba en un montón de victorias. ¿Cómo se gana al cinco en raya con un solo movimiento? Reventando la memoria del rival. Cuando los otros jugadores expandían sus representaciones del tablero para incluir el remoto resultado del movimiento, sobrepasaban su capacidad y, sin recursos para seguir jugando, perdían la partida.

# data[].attributes.attachment_link.title
Lo que el algoritmo hizo a continuación te sorprenderá

# data[].attributes.attachment_link.description
La naturaleza hizo patos, hizo castores, hizo nutrias... Y en algún momento de la evolución, se paró a hacer ornitorrincos. Luego, Darwin escribió El origen de las especies : "La selección natural está siempre pronta a adaptar los descendientes de cada especie que varíen un poco, a algún puesto desocupado o mal ocupado en la naturaleza".

# data[].attributes.attachment_link.title
#DataFutures2. Edificios que se autorreparan, hormigón traslúcido... Llegan los materiales 4.0

# data[].attributes.headline
Permanentemente vigilados en un mundo digital

# data[].attributes.subject
Permanentemente vigilados en un mundo digital

# data[].attributes.attachment_link.title
#DataFutures 8: Sí, los móviles y las ‘smart tv’ graban nuestras conversaciones

# data[].attributes.attachment_link.readable_text
Quienes aterrizan en los aeropuertos de Shanghái se topan pronto con las nuevas tecnologías que China utiliza para controlar a la población. El primer paso es el registro de las huellas dactilares de los recién llegados, a los que también se les toma una fotografía antes de sellar su pasaporte y permitirles la entrada. Son medidas ya habituales en muchos países, pero lo novedoso se encuentra en los controles de seguridad previos al embarque: los viajeros nacionales -los extranjeros se incorporarán en próximas fechas- acceden mediante un sistema de reconocimiento facial que compara su rostro con el guardado en la base de datos nacional, que se nutre con imágenes de los 1.350 millones de habitantes del país y a la que van a parar todas las fotografías de inmigración.

El primer paso es escanear el documento nacional de identidad. Se abre la primera barrera y el viajero pasa a una segunda en la que hay instalada una cámara que escanea multitud de puntos en el rostro y da el visto bueno. O no. En ese caso, el control se hace de forma manual por un funcionario. Los usuarios están contentos porque agiliza los trámites. Y nadie muestra preocupación por su privacidad.

Al fin y al cabo, el aeropuerto es solo uno de los muchos lugares en los que China está instalando cámaras con capacidad para reconocer las facciones de quienes pasen por delante. Están en el metro de Shanghái -donde cazaron a un fugitivo nada más ser instaladas- y también en edificios oficiales, centros comerciales y un creciente número de calles. Las baterías de cámaras de videovigilancia se van multiplicando a velocidad de vértigo: se estima que ya hay operativas unos 170 millones, y que para 2020 serán 450 millones. Una por cada tres habitantes.

Lógicamente, no hay seres humanos suficientes en todo el planeta para procesar toda esa información, razón por la que los dirigentes chinos están alentando el desarrollo de sistemas de inteligencia artificial que puedan hacer el trabajo de agentes de policía. Y funciona. "Nuestros algoritmos pueden encontrar a una persona entre 2.000 millones en cuestión de pocos segundos", afirma orgulloso Zhu Long, cofundador de Yitu, una de las jóvenes empresas tecnológicas que ofrecen estos sistemas de vigilancia. Zhu los justifica con el mismo razonamiento que da el Gobierno: "Hacen el país más seguro ".

Efectivamente, las estadísticas así lo certifican. Aunque no se publican cifras nacionales sobre el número de casos en los que la inteligencia artificial juega un papel vital, los arrestos propiciados por sistemas de reconocimiento facial se cuentan ya por miles. Solo en la ciudad oriental de Suzhou han sido determinantes en la resolución de 500 casos criminales. Su instalación en el transporte público de Xiamen ha reducido los hurtos en un 30%. Y en el pasado Festival de la Cerveza de Qingdao sirvieron para detener a 22 fugitivos que fueron a emborracharse en la creencia de que sería imposible reconocerlos entre la multitud. Zhu incluso recalca que su sistema ha servido para identificar por su calavera a un hombre asesinado cinco años atrás.

No obstante, diferentes organizaciones señalan que estos incuestionables avances tecnológicos no están siendo utilizados para crear una sociedad más libre en China sino para todo lo contrario. Se han convertido en una herramienta del Gobierno para crear el estado policial perfecto. Tan perfecto que no se nota. No es necesario que haya una presencia policial notable, ni que los agentes vayan armados. Es un Gran Hermano que utiliza sofisticados sistemas de vigilancia soportados por nuevas infraestructuras: desde las futuristas gafas con cámaras de los agentes de la estación de tren de Zhengzhou, hasta los algoritmos que leen palabras clave en internet.

Las autoridades supervisan todos los contenidos a los que tienen acceso los 750 millones de internautas chinos

Porque el escrutinio de redes sociales y el seguimiento de teléfonos móviles inteligentes también son pilares de este sistema. Diferentes activistas denuncian que mensajes privados enviados a través de la aplicación WeChat -que no está encriptada como sucede con su versión occidental, Whatsapp- han sido recuperados por las autoridades y utilizados en su contra en procesos judiciales. No en vano, las leyes chinas otorgan carta blanca al Gobierno en el acceso a los datos de los usuarios chinos, razón por la que incluso Apple se ha visto obligada a establecer allí servidores que guardan todo lo relacionado con sus clientes chinos.

Una 'nube' policial

Human Rights Watch (HRW) considera que se ha construido en el ciberespacio chino una 'nube policial' que sirve para "recabar cada vez más información de cientos de millones de ciudadanos corrientes, identificar a los que se desvían de lo que ellos consideran 'ideología normal', y utilizar los datos para vigilarlos". Todo ello con la connivencia de empresas chinas y extranjeras, porque este nuevo 'estado orwelliano' representa una golosa oportunidad de negocio para tecnológicas de muy diversos ámbitos: solo un proyecto para instalar 30.000 cámaras con reconocimiento facial en la ciudad de Urumqi, adjudicado a uno de los principales fabricantes -Hikvision-, ya cuenta con un presupuesto de 70 millones de euros.

Urumqi es la capital de la región autónoma de Xinjiang. Y en ningún sitio se siente el estado policial chino con tanta intensidad como en la tierra de los uigures, de etnia túrquica y mayoría musulmana, demonizados por los ataques terroristas que llevan a cabo ocasionalmente grupos separatistas. Aunque es difícil de confirmar, diferentes organizaciones denuncian que se recaban muestras de ADN, se prohíben comportamientos propios de los 'extremistas islámicos' -como dejarse barba larga o bautizar a un hijo como Mohamed- y que decenas de miles de sospechosos son internados en campos de reeducación.

Aquí la presencia policial sí es más que evidente, con numerosos controles aleatorios, y las fuerzas del orden pueden exigir escrutar la actividad en Internet en los móviles de los ciudadanos. Este periodista viajó hace un par de años a la ciudad de Kashgar, y, muestra de la eficacia del sistema de vigilancia, la policía se presentó en el 'lobby' del hotel cinco minutos después de haber recogido la llave de la habitación. Querían conocer el propósito de la visita y ofrecieron una escolta por motivos de seguridad. Afortunadamente, aceptaron la negativa a viajar con un uniformado al lado.

El problema es que, ante los abusos de las autoridades, los chinos no pueden esperar que la Justicia los proteja: los tribunales condenan al 99,9% de los acusados.

Proteger al régimen

El Partido Comunista no esconde todos estos métodos de vigilancia. Al contrario, los muestra con orgullo. De hecho, el diario oficialista 'Global Times' publicó el pasado día 26 un artículo titulado 'China actualizará su protección en internet. La nueva regulación supervisará a toda la sociedad'. En Occidente, un texto así habría provocado urticaria en los lectores, pero el rotativo chino hizo hincapié en la necesidad de una nueva normativa para hacer frente a amenazas como el 'ciberliberalismo', la corriente de quienes creen en una Internet neutral. Con la nueva ley, China supervisará todos los datos, así como la computación en la 'nube' y el 'internet de las cosas'.

Los dirigentes chinos afirman que estas medidas son necesarias para salvaguardar la seguridad del Estado y la armonía social. Lo que no mencionan es que sirven también para la protección de un régimen autoritario cuya legitimidad cuesta mantener cada vez más en un mundo globalizado e interconectado. Las nuevas tecnologías, no obstante, son una herramienta muy eficaz para controlar a la ciudadanía y para hacerle vivir en una burbuja impenetrable en la que todo el contenido al que tienen acceso los 750 millones de internautas chinos está aprobado por las autoridades. Es un Gran Hermano del que resulta casi imposible escapar.

# data[].attributes.attachment_link.description
Quienes aterrizan en los aeropuertos de Shanghái se topan pronto con las nuevas tecnologías que China utiliza para controlar a la población. El primer paso es el registro de las huellas dactilares de los recién llegados, a los que también se les toma una fotografía antes de sellar su pasaporte y permitirles la entrada.

# data[].attributes.headline
La Inteligencia artificial y la guerra: entrevista con la investigadora británica Margaret Boden

# data[].attributes.subject
La Inteligencia artificial y la guerra: entrevista con la investigadora británica Margaret Boden

# data[].attributes.attachment_link.readable_text
El deseo del hombre por crear vida y la idea de que las máquinas hicieran el trabajo de las personas despertó en la Antigüedad. En 1495, Leonardo da Vinci diseñó el Caballero mecánico, considerado el primer humanoide a pesar de ser muy diferente del androide de Asimov. Hoy es difícil encontrar algún sector que no tenga inteligencia artificial (IA). Para hablar sobre sus usos e implicaciones éticas, ayer, tuvo lugar una sesión sobre "Thinking Party: Inteligencia Artificial" en el Espacio Fundación Telefónica en la que participó Margaret Boden, una autoridad mundial en este campo, autora de "Inteligencia Artificial" (Turner).
¿Queda algún sector en el que la IA no esté aún presente?
Probablemente solo la Iglesia, pero sospecho que de un modo u otro también la utilizan.
¿Cuáles son los retos de la IA a corto plazo?
Intentar que no se descontrole. Debe estar regulada. Los Gobiernos deben hacerlo para evitar que vaya por caminos o adopte formas que pueden no ser buenas.
¿Para cuándo los seres artificiales serán capaces de sentir emociones?
Pienso que nunca van a tener emociones.
¿Serán los robots más inteligentes que nosotros?
Ya son más inteligentes que los humanos para hacer tareas concretas. No estamos hablando solo de robots, lo hacemos de sistemas de IA, de sistemas de informática, de ordenadores. En principio podría ser posible que vayan a ser más inteligentes que los hombres en general, pero pienso que no va a suceder o al menos no pronto. Y, en cualquier caso, no va a suceder antes de finales de este siglo.
¿Sería posible robotizar el cerebro humano? Es decir, ¿se podría introducir información en nuestro cerebro como si fuera un ordenador?
Eso es totalmente ciencia ficción porque ni siquiera hemos empezado a comprender cuál es la información que tenemos dentro del cerebro. En este momento, eso es imposible.
¿La IA creará o quitará puestos de trabajo?
No sé si los puestos de trabajo que se van a crear van a compensar aquellos que se van a destruir. Por ejemplo, en los despachos de abogados la IA ya se está utilizando para identificar casos similares que hayan sentado un precedente y a partir de ahí poder obtener información para avanzar con el caso de forma más rápida y mejor. Este tipo de tarea está siendo automatizada y está siendo asistida por los sistemas de IA. Por lo tanto, la pregunta es: si éste va a ser el futuro, ¿qué es lo que le va a pasar a un joven abogado dentro de poco? Algunos puestos de trabajo se perderán y otros van a cambiar. Por ejemplo, hoy no están totalmente robotizadas las tareas en los almacenes porque resulta demasiado caro, pero la mayor parte del trabajo ya está realizado por robots. Algunas personas van a perder su trabajo, otros empleos van a cambiar y probablemente los sueldos también van a bajar.
En este sentido, ¿se van a perder más puestos de trabajo del área de ciencias que de letras?
-No creo que la IA vaya a acabar con la creatividad humana y con las artes. Por ejemplo, en el caso de la música es verdad que el compositor o músico puede elegir ciertas sintonías y lo puede hacer con unos resultados que están por encima de la media. En cuanto a la literatura, ya sabemos que existen programas que pueden escribir informes periodísticos o que pueden redactar informes financieros sobre resultados del año anterior o un dossier sobre un partido de fútbol. Sin embargo, hoy no existe ningún programa que pueda hacer un informe sobre un partido de fútbol y que pueda transmitir a los oyentes un gol excepcional. Por ejemplo, recuerdo el caso del gol de Beckham en 1996. Hoy no existe ningún sistema que pueda reconocer que ha marcado un tanto excepcional desde su propio campo y, por otra parte, no existe ningún programa de procesamiento de lenguaje natural que pueda escribir sobre ello de forma interesante, ya que a los potenciales lectores no les interesa saber si marcó únicamente un gol, sino que quieren más información sobre este gol y una interpretación. Actualmente, los programas trabajan con nubes de palabras. Es decir, con palabras que van juntas. El gran problema, por lo tanto, reside en aquellas actividades en las que el lenguaje está involucrado. No creo que haya un ordenador que durante los próximos años, y hablo dentro de muchos años, pueda crear algo interesante desde el punto de vista creativo.
La IA se puede utilizar para hacer el bien y para hacer el mal. Si la IA empezó durante la II Guerra mundial con Turing para lograr descifrar códigos secretos de los nazis, recientemente la ONU ha alertado del uso de IA en guerras. ¿A qué peligros nos enfrentamos?
-Realmente el panorama es un poco aterrador. Existe un peligro de que se produzca una guerra armamentística con la IA. Es decir, que los países intenten armarse con IA antes y mejor que sus potenciales enemigos. Naciones Unidas han intentado que se firme un acuerdo internacional y de hecho ya existen acuerdos que dicen que no puede haber armas letales que sean autónomas. Sabemos que existen los drones, pero aún así las decisiones sobre qué es lo que deben hacer los drones la toman los seres humanos. Por lo tanto, uno asume que las decisiones tomadas por humanos son decisiones correctas y que dirigen adecuadamente a los drones. Sería una situación completamente distinta si fuera la IA la que tuviera que tomar la decisión. Hasta ahora, la ONU solo han prohibido el uso de armas químicas, biológicas y nucleares. Pero a pesar de este tratado de prohibición todavía se siguen utilizando. No obstante, es mejor que exista este tratado, aunque no se cumpla, a que no haya ninguno. En el caso de la IA no existe ningún tratado y el problema no es el tratado en sí, sino que no existe una definición consensuada sobre qué es un arma autónoma.
¿Veremos en un futuro a corto plazo a robots seleccionando y atacando objetivos de forma autónoma tal y como pasa con las armas biológicas pese a que estén prohibidas?
-Sería posible que los robots seleccionaran y dispararan contra los objetivos, pero sería muy peligroso. Recuerdo que en los años 80 hubo una alerta en EE UU porque un ordenador detectó que había algo en el cielo que parecía un ataque nuclear. El encargado de bombas nucleares de EE UU decidió no dar el segundo paso por dos razones: la primera porque le parecía horroroso una posible guerra nuclear y quería a toda costa evitarla. La segunda, y más interesante, porque se puso a examinar el comportamiento de la Unión Soviética en los últimos años y se dio cuenta que en los años 80 no estaba siendo particularmente beligerante contra Estados Unidos. La época de Jruschov ya había sido superada y dedujo que era muy poco probable que la Unión Soviética quisiera lanzar un ataque contra Estados Unidos. Efectivamente estaba en lo cierto. La respuesta a ese fenómeno era la Luna, que estaba situada en un mal lugar, a la hora de diseñar el calendario no habían tenido en cuenta un aspecto concreto de la Luna ese día y eso es lo que pasó. Lo horrible sería pensar, no podemos ni siquiera imaginar, si ese juicio, si esa decisión hubiera estado en manos de una máquina y no de una persona.

# data[].attributes.attachment_link.title
"Existe el peligro de una guerra con inteligencia artificial"

# data[].attributes.attachment_link.description
El deseo del hombre por crear vida y la idea de que las máquinas hicieran el trabajo de las personas despertó en la Antigüedad. En 1495, Leonardo da Vinci diseñó el Caballero mecánico, considerado el primer humanoide a pesar de ser muy diferente del androide de Asimov.

# data[].attributes.attachment_link.readable_text
Max Tegmark, director del Future of Life Institute (MIT). Josh Reynolds / Getty Images

Cuando el rey Midas le pidió a Dionisio transformar en oro todo lo que tocase cometió un fallo de programación. No pensaba que el dios sería tan literal al concederle el deseo y solo fue consciente de su error cuando vio a su hija convertida en una estatua metálica. Max Tegmark (Estocolmo, 1967) cree que la inteligencia artificial puede presentar riesgos y oportunidades similares para la humanidad.

El profesor del MIT y director del Future of Life Institute en Cambridge (EE UU) estima que la llegada de una Inteligencia Artificial General (IAG) que supere a la humana es cuestión de décadas. En su visión del futuro, podríamos acabar viviendo en una civilización idílica donde robots superinteligentes harían nuestro trabajo, crearían curas para todas nuestras enfermedades o diseñasen sistemas para ordeñar la energía descomunal de los agujeros negros. Sin embargo, si no somos capaces de transmitirle nuestros objetivos con precisión, también es posible que a esa nueva inteligencia dominante no le interese nuestra supervivencia o, incluso, que asuma un objetivo absurdo como transformar en clips metálicos todos los átomos del universo, los que conforman nuestros cuerpos incluidos.

Para evitar el apocalipsis, Tegmark considera que la comunidad global debe implicarse en un debate para orientar el desarrollo de la inteligencia artificial en nuestro beneficio. Esta discusión deberá afrontar problemas concretos, como la gestión de las desigualdades generadas por la automatización del trabajo, pero también un intenso esfuerzo filosófico que triunfe donde llevamos siglos fracasando y permita definir y acordar qué es bueno para toda la humanidad para después inculcárselo a las máquinas.

Estos y otros temas relacionados con la discusión que Tegmark considera más importante para el futuro de la humanidad son los que recoge en su libro Vida 3.0: ser humano en la era de la inteligencia artificial, un ambicioso ensayo que han recomendado gurús como Elon Musk en el que el cosmólogo sueco trata de adelantarse a lo que puede suceder durante los próximos milenios.

Pregunta. Los humanos, en particular durante los últimos dos o tres siglos, hemos tenido mucho éxito comprendiendo el mundo físico, gracias al avance de disciplinas como la física o la química, pero no parece que hayamos sido tan eficaces entendiéndonos a nosotros mismos, averiguando cómo ser felices o llegando a acuerdos sobre cómo hacer un mundo mejor para todo el mundo. ¿Cómo vamos a dirigir los objetivos de la IAG sin alcanzar antes acuerdos sobre estos asuntos?

Respuesta. Creo que nuestro futuro puede ser muy interesante si ganamos la carrera entre el poder creciente de la tecnología y la sabiduría con la que se gestiona esa tecnología. Para conseguirlo, tenemos que cambiar estrategias. Nuestra estrategia habitual consistía en aprender de nuestros errores. Inventamos el fuego, la fastidiamos unas cuantas veces y después inventamos el extintor; inventamos el coche, la volvimos a fastidiar varias veces e inventamos el cinturón de seguridad y el airbag. Pero con una tecnología tan potente como las armas atómicas o la inteligencia artificial sobrehumana no vamos a poder aprender de nuestros errores. Tenemos que ser proactivos.

Es muy importante que no dejemos las discusiones sobre el futuro de la IA a un grupo de frikis de la tecnología como yo sino que incluyamos a psicólogos, sociólogos o economistas para que participen en la conversación. Porque si el objetivo es la felicidad humana, tenemos que estudiar qué significa ser feliz. Si no hacemos eso, las decisiones sobre el futuro de la humanidad las tomarán unos cuantos frikis de la tecnología, algunas compañías tecnológicas o algunos Gobiernos, que no van a ser necesariamente los mejor cualificados para tomar estas decisiones para toda la humanidad.

P. ¿La ideología o la forma de ver el mundo de las personas que desarrollen la inteligencia artificial general definirá el comportamiento de esa inteligencia?

R. Muchos de los líderes tecnológicos que están construyendo la IA son muy idealistas. Quieren que esto sea algo bueno para toda la humanidad. Pero si se mira a las motivaciones de las compañías que están desarrollando la IA, la principal es ganar dinero. Siempre harás más dinero si reemplazas humanos por máquinas que puedan hacer los mismos productos más baratos. No haces más dinero diseñando una IA que es más bondadosa. Hay una gran presión económica para hacer que los humanos sean obsoletos.

La segunda gran motivación entre los científicos es la curiosidad. Queremos ver cómo se puede hacer una inteligencia artificial por ver cómo funciona, a veces sin pensar demasiado en las consecuencias. Logramos construir armas atómicas porque había gente con curiosidad por saber cómo funcionaban los núcleos atómicos. Y después de inventarlo, muchos de aquellos científicos desearon no haberlo hecho, pero ya era demasiado tarde, porque para entonces ya había otros intereses controlando ese conocimiento.

P. En el libro parece que da por hecho que la IA facilitará la eliminación de la pobreza y el sufrimiento. Con la tecnología y las condiciones económicas actuales, ya tenemos la posibilidad de evitar una gran cantidad de sufrimiento, pero no lo hacemos porque no nos interesa lo suficiente o no le interesa a la gente con el poder necesario para conseguirlo. ¿Cómo podemos evitar que eso suceda cuando tengamos los beneficios de la inteligencia artificial?

R. En primer lugar, la tecnología misma puede ser muy útil de muchas maneras. Cada año hay mucha gente que muere en accidentes de tráfico que probablemente no morirían si fuesen en coches autónomos. Y hay más gente en América, diez veces más, que mueren en accidentes hospitalarios. Muchos de esos se podrían salvar con IA si se utilizase para diagnosticar mejor o crear mejores medicinas. Todos los problemas que no hemos sido capaces de resolver debido a nuestra limitada inteligencia es algo que podría resolver la IA. Pero eso no es suficiente. Como dice, ahora mismo tenemos muchos problemas que sabemos exactamente cómo resolver, como el hecho de que haya niños que vivan en países ricos y no estén bien alimentados. No es un problema tecnológico, es un problema de falta de voluntad política. Esto muestra lo importante de que la gente participe en esta discusión y seleccionemos las prioridades correctas.

Por ejemplo, en España, el Gobierno español ha rechazado unirse a Austria y muchos otros países en la ONU en un intento para prohibir las armas letales autónomas. España apoyó la prohibición de armas biológicas, algo que apoyaban los científicos de esa área, pero no han hecho lo mismo para apoyar a los expertos en IA. Esto es algo que la gente puede hacer: Animar a sus políticos para que afronten estos asuntos y nos aseguremos de que dirigimos la tecnología en la dirección adecuada.

P. La conversación que propone en Vida 3.0 sobre la Inteligencia Artificial en el fondo es muy parecida a la que se debería tener sobre política en general, sobre cómo convivimos entre nosotros o como compartimos los recursos. ¿Cómo crees que el cambio en la situación tecnológica va a cambiar el debate público?

R. Creo que va a hacer las cosas más drásticas. Los cambios producidos por la ciencia se están acelerando, todo tipo de trabajos desaparecerán cada vez más rápido. Muchos se ríen de la gente que votó a Trump o a favor del Brexit, pero su rabia es muy real y los economistas te dirán que las razones por las que esta gente está enfadada, por ser más pobres de lo que eran sus padres, son reales. Y mientras no se haga nada para resolver estos problemas reales, su enfado aumentará.

La Inteligencia Artificial puede crear una cantidad enorme de nueva riqueza, no se trata de un juego de suma cero. Si nos convencemos de que va a haber suficientes impuestos para proporcionar servicios sociales y unos ingresos básicos, todo el mundo estará feliz en lugar de enfadado. Hay gente a favor de la Renta Básica Universal, pero es posible que haya mejores formas de resolver el problema. Si los gobiernos van a dar dinero a la gente solo para apoyarles, también se lo puede dar para que la gente trabaje como enfermeros o como profesoras, el tipo de trabajos que se sabe que dan un propósito a la vida de la gente, conexiones sociales...

No podemos volver a los criterios de distribución del Egipto de los faraones, en los que todo estaba en manos de un puñado de individuos, pero si una sola compañía puede desarrollar una inteligencia artificial general, es solo cuestión de tiempo que esa compañía posea casi todo. Si la gente que acumule este poder no quiere compartirlo el futuro será complicado.

P. Si no hacemos nada, ¿cuál serían las principales amenazas provocadas por el desarrollo de la IA?

R. En los próximos tres años comenzaremos una nueva carrera armamentística con armas letales autónomas. Se producirán de forma masiva por los superpoderes y en poco tiempo organizaciones como ISIS podrán tenerlas. Serán los AK-47 del futuro salvo que en este caso son máquinas perfectas para perpetrar asesinatos anónimos. En diez años, si no hacemos nada, vamos a ver más desigualdad económica. Y por último, hay mucha polémica sobre el tiempo necesario para crear una inteligencia artificial general, pero más de la mitad de los investigadores en IA creen que sucederá en décadas. En 40 años nos arriesgamos a perder completamente el control del planeta a manos de un pequeño grupo de gente que desarrolle la IA. Ese es el escenario catastrófico. Para evitarlo necesitamos que la gente se una a la conversación.

# data[].attributes.attachment_link.title
"Hay una gran presión económica para hacer obsoletos a los humanos"

# data[].attributes.attachment_link.description
Cuando el rey Midas le pidió a Dionisio transformar en oro todo lo que tocase cometió un fallo de programación. No pensaba que el dios sería tan literal al concederle el deseo y solo fue consciente de su error cuando vio a su hija convertida en una estatua metálica.

# data[].attributes.attachment_link.readable_text
Rosa Colmenarejo Fernández

Doctora por la universidad de Córdoba. Su línea de investigación principal está centrada en la caracterización de una ética de la emancipación, a partir del desarrollo de capacidades que facilitan las oportunidades que ofrecen la cultura y la tecnología. Es Máster en Métodos de Investigación en Economía y Empresa por ETEA-Loyola. Licenciada en Humanidades, en el itinerario de Filosofía, por la universidad de Córdoba e Ingeniera Agrícola por la Universidad Politécnica de Madrid. Es Experta universitaria en Gestión del Patrimonio Cultural y Natural por la Universidad Internacional de Andalucía, y forma parte de la red de expertos en patrimonio de las universidades andaluzas.

Ha realizado estancias de investigación pre-doc en la Universidad Centroamericana (UCA) en Managua y en la Universidad Nacional Autónoma (UNAN) en León, Nicaragua; y post-doc en el Institute of Development Policy and Management, Antwerp University, Bélgica, y en Georgetown University, Estados Unidos. Colabora regularmente con el máster en Gestión de Patrimonio de la universidad Complutense de Madrid, el de Intervención Cultural de la universidad de Córdoba, y con el área de Igualdad de la universidad de Granada. Desde 2013 es profesora contratada del departamento de Humanidades y filosofía de la universidad Loyola Andalucía.

Ninguna parte de esta publicación, incluido el diseño general y la cubierta, puede ser copiada, reproducida, almacenada o transmitida de ninguna forma, ni por ningún medio, sea éste eléctrico, químico, mecánico, óptico, grabación, fotocopia, o cualquier otro, sin la previa autorización escrita de los titulares del copyright.

Aristóteles (2014). Ética a Nicómaco. Edición de José Luis Calvo Martínez. Madrid: Alianza Editorial.

Bauman, Z. (2006). Ética posmoderna. Madrid: Siglo xxi.

Beck, U. (1992). Risk Society: Towards a New Modernity. Londres: Sage.

Bell, G.; Gemmell, J. (2010). Your Life, Uploaded: The Digital Way to Better Memory, Health, and Productivity. Nueva York: Penguin Books.

Bonnefon, J. F.; Shariff, A.; Rahwan, I. (2016). "The social dilemma of autonomous vehicles". Science (vol. 352, núm. 6293, págs. 1573-1576).

Boyd, D.; Crawford, K. (2012). "Critical questions for big data. Provocations for a cultural, technological, and scholarly phenomenon". Information, Communication & Society (vol. 15, núm. 5, págs. 662-679).

Camps, V. (2005). La voluntad de vivir. Barcelona: Ariel.

Capurro, R.; Eldred, M.; Nagel, D. (2013). Digital Whoness: Identity, Privacy and Freedom in the Cyberworld. Fráncfort: Ontos Verlag.

Castells, M. (2009). Comunicación y poder (pág. 38). Madrid: Alianza.

Davis, K. (2012). Ethics of Big Data. Sebastopol, CA: O'Reilly Books.

Davis, N. A. (2010). "La deontología contemporánea". En: Peter Singer (ed.). Compendio de Ética (págs. 291-307). Madrid: Alianza.

Douglas, M. (1992). Risk and Blame: Essays in Cultural Theory. Londres: Routledge.

Eco, U. (1973). De la responsabilidad moral como producto tecnológico: diario mínimo. Barcelona: Península.

Gracia, D. (1990). Primum non nocere: El principio de no-maleficencia como fundamento de la ética médica. Discurso para la recepción pública en la Real Academia Nacional de Medicina de Diego Gracia Guillén; y contestación de Pedro Laín Entralgo. Madrid: Anzos.

Heidegger, M. (2001). Carta sobre el Humanismo. Madrid: Alianza, 1947.

Hortal, A. (2002). Ética de las profesiones. Bilbao: Declée de Brower.

Hortal, A. (2002). "Ética aplicada y conocimiento moral". En: D. García Marzá (comp.). El estatuto de la ética aplicada. Castellón: Universidad Jaume I.

Jonas, H. (1995). El principio de responsabilidad. Ensayo de una ética para la civilización tecnológica. Barcelona: Herder, 1979.

Johnson, D. G.; Miller, K. W. (2009). Computer Ethics. Nueva Jersey: Prentice Hall.

Kant, I. (2007). "Contestación a la pregunta: ¿Qué es la Ilustración?". En: I. Kant. ¿Qué es la Ilustración? Y otros escritos de ética, política y filosofía de la historia. Edición, traducción y estudio preliminar de Roberto R. Aramayo. Madrid: Alianza Editorial, 1784.

López Aranguren, J. L. (1994). Obras Completas. Vol. II: Ética (págs. 172-177). Madrid: Trotta.

Mason, R. O. (1986). "Four Ethical Issues of the Information Age". Management Information Systems Quarterly (vol. 10, núm. 1, págs. 5-12).

Margalit, A. (2010). La sociedad decente. Barcelona: Paidós.

Michelini, D. J. (2008). Bien común y ética cívica, una propuesta desde la ética del discurso. Buenos Aires: Bonum.

Mortazavi M.; Salah, K. (2015). "Privacy and Big Data". En: S. Zeadally; M. Badra (eds.). Privacy in a Digital, Networked World. Technologies, Implications and Solutions (págs. 37-55). Springer.

Morozov, E. (2015). "Los peligros de la mediación algorítmica". En: La locura del solucionismo tecnológico (págs. 165-206). Madrid: Katz Editores.

Nozick, R. (1988). Anarquía, Estado, y utopía. Ciudad de México: Fondo de Cultura Económica, 1974.

Pettit, P. (2010). "El consecuencialismo". En: P. Singer (ed.). Compendio de Ética (págs. 323-346). Madrid: Alianza.

Ortega y Gasset, J. (1998). Meditación de la técnica y otros ensayos sobre ciencia y filosofía. Madrid: Alianza, 1939.

Rawls, J. (1971). A Theory of Justice. Cambridge, Massachusetts: Belknap Press of Harvard University Press.

Swan, M. (2015). "Philosophy of Big Data". 2015 IEEE First International Conference on Big Data Computing Service and Applications (págs. 468-477). IEE Computer Society.

Trías, E. (2000). Ética y condición humana. Barcelona: Ediciones Península.

Weil, F.; Haarkötter, H. (2014). "Ethics for the Internet of Things". International Review of Information Ethics (vol. 22, págs. 2-5).

Zamagni, S. (2008). Por una economía del bien común. Madrid: Ciudad Nueva.

Zambrano, M. (2004). Persona y democracia. Madrid: Siruela.

Zubiri, X. (1944). Naturaleza, Historia, Dios. Madrid: Ed. Nacional.

Carmody, T. (2010, 20 de noviembre). "You are not your name and photo, a call to re-imagine identity". WIRED. https://www.wired.com/2011/10/you-are-not-your-name-and-photo-a-call-to-re-imagine-identity/ [Fecha de consulta: 8 de diciembre de 2016].

The good Project. http://www.thegoodproject.org/projects/the-good-work-project/ [Fecha de consulta: 30 de octubre de 2016].

The Guardian. The Snowden Files. Recopilación de documentos relacionados con las revelaciones de Snowden. https://www.theguardian.com/world/series/the-snowden-files [Fecha de consulta: 9 de diciembre de 2016].

# data[].attributes.attachment_link.description
Doctora por la universidad de Córdoba. Su línea de investigación principal está centrada en la caracterización de una ética de la emancipación, a partir del desarrollo de capacidades que facilitan las oportunidades que ofrecen la cultura y la tecnología. Es Máster en Métodos de Investigación en Economía y Empresa por ETEA-Loyola.

# data[].attributes.body
Entrevista a CATHY O'NEIL, experta en algoritmos: Cómo el Big data aumenta la desigualdad

# data[].attributes.attachment_link.readable_text
Cathy O'Neil (Cambridge, 1972), doctora en matemáticas por la Universidad de Harvard, cambió el mundo académico por el análisis de riesgo de inversión de la banca. Pensaba que esos fondos eran neutros desde el punto de vista ético, pero su idea no tardó en derrumbarse. Se dio cuenta de "lo destructivas" que pueden ser las matemáticas, y dio un cambio radical: se sumó al grupo de banca alternativa del movimiento Occupy Wall Street -nacido en 2011 en Nueva York para protestar contra los abusos del poder financiero- y comenzó su lucha para concienciar sobre cómo el big data "aumenta" la desigualdad y "amenaza" la democracia.

La autora del libro (Capitán Swing, 2017), que también asesora a Armas de destrucción matemática startups, defiende que los algoritmos generan injusticias porque se basan en modelos matemáticos diseñados para replicar prejuicios, equivocaciones y sesgos humanos. "La crisis financiera dejó claro que las matemáticas no solo están involucradas en muchos de los problemas del mundo, sino que los agravan", considera.

O'Neil, que participó hace unas semanas en un foro sobre el impacto de los algoritmos en las democracias, organizado por Aspen Institute España y la Fundación Telefónica, contestó a las preguntas de EL PAÍS.

Pregunta. Afirma en su libro que las matemáticas son más importantes que nunca en los asuntos humanos.

Respuesta. No creo que sean las matemáticas, sino los algoritmos. Ese es parte del problema; estamos trasladando nuestra confianza en las matemáticas a unos modelos que no entendemos cómo funcionan. Detrás, siempre hay una opinión, alguien que decide qué es importante. Si miramos las redes sociales, hay sesgos. Por ejemplo, se ordenan los contenidos en función de quién habla más en Twitter o Facebook. Eso no son matemáticas, sino discriminaciones hechas por humanos. La persona que diseña el algoritmo define qué es el éxito.

P. Detrás de los algoritmos hay matemáticos. ¿Son conscientes del sistema de sesgos que están creando?

R. No son necesariamente matemáticos, sino expertos que puedan lidiar con fórmulas lógicas y tengan conocimientos de programación, estadística o matemáticas. Saben trasladar la forma de pensar de los humanos a los sistemas de procesamiento de datos. Muchos de ellos, ganan mucho dinero con ello y aunque desde el punto de vista técnico son capaces de detectar esos fallos, prefieren no pensar en ello. En empresas como Google, hay quienes se dan cuenta, pero si manifiestan su compromiso con la justicia, los abogados de la compañía les recordarán que se deben a los accionistas. Hay que maximizar los ingresos. No hay suficientes incentivos para transformar el sistema, para hacerlo más justo. El objetivo ético no suele ir acompañado de dinero.

P. Denuncia que los algoritmos nos son transparentes, que no rinden cuentas de su funcionamiento. ¿Cree que los Gobiernos deben regular?

R. Son opacos incluso para los que los diseñan que, en muchas ocasiones, no están lo suficientemente pagados como para entender cómo funcionan. Tampoco comprueban si cumplen con la legalidad. Los Gobiernos deben legislar y definir, por ejemplo, qué convierte a un algoritmo en racista o sexista.

P. En su libro menciona un caso de una profesora en Estados Unidos a la que echaron por decisión de un algoritmo. ¿Cree que se puede medir la calidad humana con un sistema informático?

R. El distrito escolar de Washington empezó a usar el sistema de puntuación Mathematica para identificar a los profesores menos productivos. Se despidió a 205 docentes después de que ese modelo les considerara malos profesores. Ahora mismo no podemos saber si un trabajador es eficiente con datos. El dilema si es o no un buen profesor no se puede resolver con tecnología, es un problema humano. Muchos de esos profesores no pudieron reclamar porque el secretismo sobre cómo funciona el algoritmo les quita ese derecho. Al esconder los detalles del funcionamiento, resulta más difícil cuestionar la puntuación o protestar.

P. ¿Cuál es la clave para poder hacerlo en el futuro?

R. Es un experimento complicado. Primero tiene que haber un consenso entre la comunidad educativa sobre qué elementos definen a un buen profesor. Si se quiere valorar si genera la suficiente curiosidad en el alumno como para que aprenda, ¿cuál es la mejor fórmula para medirlo? Si nos metemos en un aula y observamos, podremos determinar si el docente está incluyendo a todos los estudiantes en la conversación, o si consigue que trabajen en grupo y lleguen a conclusiones o solo hablan entre ellos en clase. Sería muy difícil programar un ordenador para que lo haga. Los expertos en datos tienen la arrogancia de creer que pueden resolver esas cuestiones. Ignoran que primero hace falta un consenso en el campo educativo. Un estúpido algoritmo no va a resolver una cuestión sobre la que nadie se pone de acuerdo.

P. ¿Las Administraciones usan cada vez más los algoritmos por la falta de perfiles suficientemente formados?

R. Por un lado, ahorran costes en personal. Pero lo más importante: evitan la rendición de cuentas. Cuando usas un algoritmo, el fracaso no es tu culpa. Es la máquina. Estuve trabajando para el Ayuntamiento de Nueva York mientras investigaba para escribir mi libro. Estaban desarrollando un sistema de ayudas para los sin techo, pero me di cuenta de que no querían mejorar sus vidas, sino no fracasar en sus políticas. Pasó lo que querían evitar: el New York Times publicó un artículo sobre la muerte de un niño como consecuencia de un fallo en esa red de ayuda. La culpa era del algoritmo, que no había calculado bien. Creo que no deberíamos dejar a las Administraciones usar algoritmos para eludir la responsabilidad.

P. El uso de algoritmos para la contratación se está extendiendo. ¿Cuáles son los perjuicios?

R. La automatización de los procesos de selección está creciendo entre el 10% y el 15% al año. En Estados Unidos, ya se utilizan con el 60% de los trabajadores potenciales. El 72% de los currículums no son analizados por personas. Los algoritmos suelen castigar a los pobres, mientras los ricos reciben un trato más personal. Por ejemplo, un bufete de abogados de renombre o un exclusivo instituto privado se basarán más en recomendaciones y entrevistas personales durante los procesos de selección que una cadena de comida rápida. Los privilegiados son analizados por personas, mientras que las masas, por máquinas.

Si quieres trabajar en un call center o de cajero, tienes que pasar un test de personalidad. Para un puesto en Goldman Sachs tienes una entrevista. Tu humanidad se tiene en cuenta para un buen trabajo. Para un empleo de sueldo bajo, eres simplemente analizado y categorizado. Una máquina te pone etiquetas.

P. ¿Cree que falta más formación en matemáticas para ser conscientes de esa manipulación?

R. Eso es ridículo. La gente tiene que entender que es un problema de control político. Hay que ignorar la parte matemática y exigir derechos. No necesitas formación matemática para comprender qué es injusto. Un algoritmo es el resultado de un proceso de toma de decisiones. Si te despiden porque así lo ha determinado un algoritmo, tienes que exigir una explicación. Eso es lo que tiene que cambiar.

P. ¿En qué otros aspectos están perjudicando los algoritmos los derechos laborales?

R. Hay un fenómeno que se conoce como clopenning (en español, cerrar y abrir al mismo tiempo). Son horarios irregulares que, cada vez, afectan a más empleados con salarios bajos. Esos calendarios son el resultado de la economía de los datos, son algoritmos diseñados para generar eficiencia, que tratan a los trabajadores como meros engranajes. Según datos del Gobierno de Estados Unidos, a dos tercios de los trabajadores del sector servicios y a más del 50% de los dependientes se les informa de su horario laboral con una semana o menos de antelación.

Esta es una de las situaciones extremas que provoca el uso de algoritmos en el ámbito laboral. Hay una ley que estipula que si trabajas al menos 35 horas a la semana, se te deben dar beneficios. Pues hay un algoritmo que se asegura de que ningún empleado haga más de 34 horas. Como no hay ninguna ley que determine que debes trabajar el mismo horario todos los días, el algoritmo no se preocupa de tu vida, y te asigna las horas de trabajo en función de las necesidades de la empresa. Si se prevé un día de lluvia, aumentan las ventas, y cambian los turnos. Hasta el último minuto no deciden. Esas personas no conocen su horario con antelación, no pueden organizar su tiempo libre, estudiar o cuidar de sus hijos. Su calidad de vida se deteriora, y los ordenadores son ciegos a eso. La regulación gubernamental es la única solución.

# data[].attributes.attachment_link.keywords[]
matemáticas por la universidad de harvard

# data[].attributes.attachment_link.title
"Los privilegiados son analizados por personas; las masas, por máquinas"

# data[].attributes.attachment_link.description
Cathy O'Neil (Cambridge, 1972), doctora en matemáticas por la Universidad de Harvard, cambió el mundo académico por el análisis de riesgo de inversión de la banca. Pensaba que esos fondos eran neutros desde el punto de vista ético, pero su idea no tardó en derrumbarse.

# data[].attributes.headline
Ethics Commission. Automated and Connected DrivingJune 2017

# data[].attributes.subject
Ethics Commission. Automated and Connected DrivingJune 2017

# data[].attributes.body
Sesgos, estereotipos y estupidez de la IA

# data[].attributes.attachment_link.readable_text
Una investigadora en un laboratorio de EE UU que emplea sistemas de inteligencia artificial para buscar nuevos materiales. SLAC

Cualquier conductor que vea una señal de stop a la que algún gracioso le ha puesto una pegatina que pone "odio" sabe que sigue siendo una señal de stop y debe parar. En cambio un coche autónomo será incapaz de reconocerla más del 60% de las veces y pasará de largo.

Los sistemas de visión artificial confunden una tortuga de juguete con un rifle y a personas negras con gorilas. Estos dispositivos han sido entrenados para ver patrones y hacen falta solo sutiles cambios de simetría para desbaratarlos, como demuestra el estudio de las señales de tráfico publicado el pasado abril por expertos de varias universidades de EE UU.

Las personas también hemos evolucionado durante miles de años para ver patrones. "Estamos hechos para identificar caras y las vemos en las nubes, en las manchas de la pared, lo hacemos continuamente", explica José Manuel Molina, del grupo de inteligencia artificial aplicada de la Universidad Carlos III de Madrid. Un humano conoce el contexto de esa imagen, sabe que parece una cara, pero en realidad es una nube. En cambio la experiencia de vida de un algoritmo de visión se limita a bases de datos con miles de imágenes con las que se ha entrenado una y otra vez. "Los algoritmos han sido diseñados para resolver problemas muy concretos, pero no para comprender qué está sucediendo en su entorno, solo ven señales y aplican la misma solución siempre. Las máquinas son totalmente autistas y darles comprensión de su entorno es muy complicado", resume Molina.

Ejemplos de señales modificadas para engañar a los sistemas de visión artificial. Dawn Song / Berkeley

Estos fallos están cambiándole la vida a la gente. El sistema de inteligencia artificial Compas que usan los jueces en EE UU como asesor tiene un sesgo y tiende a desaconsejar la libertad a los negros más a menudo que a los blancos. El algoritmo analiza 173 variables -ninguna de ellas es la raza- y da una probabilidad de reincidencia de 0 al 10. "La causa de estos problemas es que las bases de datos con las que funcionan estos algoritmos son de la policía y en ellas hay importantes sesgos racistas", explica Ramón López de Mántaras, experto en inteligencia artificial del CSIC. Un estudio publicado este mismo año sostiene que el sistema tiene una tasa de error equiparable a la de personas sin conocimientos legales. El problema no es tanto la máquina, sino el riesgo de que el juez delegue en ella.

A un nivel mucho menos grave, la aparente estupidez artificial acecha a cualquiera que use Internet con anuncios omnipresentes de cosas que ya han comprado o que no interesan. Una vez más, la culpa no es de la máquina, sino de la falta de contexto. "Si buscamos un producto en Internet esa información es pública y queda grabada, pero cuando lo compramos la transacción es privada, el algoritmo no sabe que lo has comprado, se lo tienes que enseñar. No es un error, te sigue mostrando lo que cree que te interesa y lo seguirá haciendo hasta que pase su tiempo de olvido", explica Molina.

Tortugas identificadas como rifles por el sistema de visión artificial Anish Athalye

En este caso las bases de datos somos nosotros. Los asistentes domésticos de conversación y los sistemas de análisis de cookies en Internet se entrenan y aprenden con nuestro uso de la red. En ocasiones "el algoritmo detecta un patrón que no existe y se empieza a comportar de una forma concreta, por ejemplo mostrando un anuncio en el que pinchamos por error una o dos veces", explica Carlos Castillo, experto en inteligencia artificial de la Universidad Pompeu Fabra de Barcelona. "Estos errores son como supersticiones que adquieren las máquinas. Tenemos que entender que los sistemas de computación se pueden equivocar, lo importante es saber por qué y cómo corregirlo. En Europa ha entrado en vigor una regulación en este aspecto que nos permite ver qué perfiles automáticos se han creado de nosotros, cambiarlos, borrarlos y saber qué información se está compartiendo sobre nosotros, aunque poca gente se molestará en hacerlo", explica.

A menudo las empresas propietarias de los algoritmos no permiten que se conozcan los detalles de su funcionamiento. Es lo que sucede con el algoritmo de recomendación de vídeos de YouTube, explica el doctor en inteligencia artificial Guillaume Chaslot, que trabajó en Google (propietaria de YouTube) entre 2010 y 2013. El canal de vídeo online "gana un céntimo de euro por cada hora", asegura. "Cada día en todo el mundo se ven unas 1.000 millones de horas, con lo que gana mucho dinero. El algoritmo que recomienda otros vídeos después de una reproducción tiene como principal objetivo maximizar el tiempo de permanencia. Lo que sucede es que el algoritmo acaba recomendando vídeos sobre teorías de la conspiración, discursos del odio, racistas o sexistas, porque esos son los que tienen un tiempo de permanencia mayor. En dos o tres clicks puedes acabar viendo uno de estos vídeos, pero todo depende de cada usuario. El algoritmo es tan complejo que no puedes rastrear cada una de las decisiones individuales que tomó para recomendar un contenido. Por supuesto todo esto es un accidente no intencionado por los programadores", explica.

"Desde 2017 hemos estado introduciendo formas para mejorar el acceso a la información en España incluyendo un estante de noticias de última hora en la página de inicio de YouTube y el estante de mejores noticias en el buscador que ofrece contenido de fuentes de noticias verificadas después de un evento importante", explica Katherine Vargas, portavoz de Google . "Además hemos anunciado más de media docena de nuevas funcionalidades en el último año y una inversión global de 25 millones de dólares para editores de noticias que producen videos en línea para crear una mejor experiencia de noticias", añade.

Chaslot cree que "se ha mejorado mucho el sistema de búsqueda, pero no tanto el de recomendación". El ingeniero ha creado un sistema de inteligencias artificiales que están continuamente viendo YouTube y siguiendo recomendaciones, de forma que pueden consultarse los vídeos más sugeridos cada día, entre los que abundan contenidos de dudoso rigor. Chaslot es asesor del Centro para la Tecnología Humana, formado por un grupo de ingenieros y ejecutivos salidos de la industria tecnológica que intentan denunciar los efectos negativos de la tecnología y revertirlos. "Ahora mismo estamos viviendo las consecuencias de que haya grandes empresas que controlan las mayores plataformas de inteligencia artificial y no haya apenas inversión desde los gobiernos y la sociedad civil para promover usos más positivos", alerta.

A la amplificación de contenidos radicales en redes sociales se suma una tendencia a sobrevalorar las capacidades de las máquinas. "Nos imaginamos que hay un pequeño cerebro humano dentro del ordenador, pero no, solo es programación y matemáticas", explica Meredith Broussard, exprogramadora, profesora de periodismo en la Universidad de Nueva York y autora del libro Artificial Unintelligence (Estupidez artificial). "Un sistema de visión artificial ve una imagen, sitúa una retícula de píxeles sobre ella y busca patrones entre los puntos. Si ve arcos y óvalos dirá que es una cara, aunque en realidad esté mirando un nabo. Por eso es importante enseñarle a la gente a desarrollar programas de aprendizaje computacional. Al principio les suena a magia, pero es solo escribir códigos. Una vez que lo ven se sienten defraudados", resalta.

Broussard habla de "la creencia extendida entre la mayoría de los programadores de que las soluciones tecnológicas son siempre mejores que las humanas"."Los pioneros de este campo decían que el mundo de la alta tecnología sería glorioso y libre. Tardamos demasiado tiempo en cuestionarles. Incluso ahora es difícil para muchos aceptar que lo que imaginaban hace 20 años sobre cómo sería la tecnología era un engaño", resalta.

En julio de 2017 muchos pensaron que lo inevitable había pasado. Facebook había desconectado dos robots de conversación porque habían desarrollado un lenguaje secreto para comunicarse sin que lo supieran sus programadores. Una de sus diálogos era:

"-Bob: Yo puedo yo yo lo demás...

-Alice: bolas tienen cero para mí para mí para mí para mí para mí para mí para"

El objetivo de los programadores era crear algoritmos capaces de negociar con humanos y para ello les entrenaron para repartirse tres tipos de objetos: sombreros, bolas, libros. El objetivo principal era llegar a negociaciones exitosas así que los robots empezaron a usar repeticiones de palabras sin tener en cuenta su coherencia. Llegaban a acuerdos válidos según los parámetros fijados por los programadores pero la charla era incomprensible para los humanos, como desveló Wired. "Fue un simple error de programación. Ninguna máquina tiene intenciones ni las tendrán nunca. Pueden enseñarse a sí mismas a jugar al Go y derrotar a un campeón, pero no saben que están jugando. Si pusiésemos a esa misma máquina a distinguir fotos de perros y gatos olvidaría todo lo anterior. Solo pueden hacer una cosa a la vez", resalta Mántaras. "Es cierto que hace años nadie podía predecir que la inteligencia artificial se pusiera tan de moda y se hablara tanto de los problemas que podía traer asociados, pero hace ya 42 años que [el informático del MIT] Joseph Weizenbaum escribió que nunca deberíamos dejar que los ordenadores tomasen decisiones importantes porque nunca tendrán cualidades humanas como la compasión y la sabiduría".

# data[].attributes.attachment_link.title
Estupidez artificial: el problema que nadie vio venir

# data[].attributes.attachment_link.description
Cualquier conductor que vea una señal de stop a la que algún gracioso le ha puesto una pegatina que pone "odio" sabe que sigue siendo una señal de stop y debe parar. En cambio un coche autónomo será incapaz de reconocerla más del 60% de las veces y pasará de largo.

# data[].attributes.headline
"L'intelligence artificielle plus puissante que l'intelligence humaine ?

# data[].attributes.subject
"L'intelligence artificielle plus puissante que l'intelligence humaine ?

# data[].attributes.attachment_link.title
L'intelligence artificielle plus puissante que l'intelligence humaine ? #cadire 17.10.2017