# data[].attributes.body
Imagine si algunas personas trataran a los androides como si las máquinas fueran sus esposas, señaló Park Hye-Young, integrante del equipo de robótica del ministerio, en entrevista con la agencia noticiosa AFP. El objetivo principal de la carta ética consiste en resolver los problemas sociales, tales como el control humano sobre los robots y la posibilidad de que el ser humano se vuelva adicto a la interacción con los androides. El documento también tocará aspectos legales, como la protección de los datos que adquieran los robots, y tratará de establecer una clara identificación y la capacidad para rastrear las máquinas. «Piense en la biorrobótica, en la aplicación militar de la robótica, en los robots dentro de los cuartos de los niños», declaró.

Las leyes de la robótica

El código surcoreano, que posiblemente incluya lineamientos para los propios robots, podría ser considerado una especie de reconocimiento a las tres leyes de la robótica formuladas por Isaac Asimov. Aunque celebro el esfuerzo coreano para establecer una carta de ética para robots, temo que sería prematuro basarla en las leyes de Asimov, declaró Mark Tilden, diseñador de RoboSapien, un robot parecido a un juguete. Todavía no hemos alcanzado ese nivel y, como demuestran muchas historias de Asimov, los enigmas que enfrentarían robots y humanos resultarían en más tragedias que beneficios», agregó Tilden, quien trabaja para Wow Wee Toys, en Hong Kong.

# data[].attributes.body
Maltrato de robots
Corea del Sur es una de las sociedades que ha alcanzado mayor desarrollo tecnológico en el mundo. El Ministerio de Información y Comunicaciones de esta nación está desarrollando planes para colocar un robot en cada hogar surcoreano hacia el año 2020.
La nueva normativa forma parte de un esfuerzo para definir las reglas de la futura interacción entre humanos y androides. «Imagine si algunas personas trataran a los androides como si las máquinas fueran sus esposas», señaló Park Hye-Young, integrante del equipo de robótica del ministerio, en entrevista con la agencia noticiosa AFP.
Las leyes de la robótica
El código surcoreano, que posiblemente incluya lineamientos para los propios robots, podría ser considerado una especie de reconocimiento a las tres leyes de la robótica formuladas por Isaac Asimov. Conocidas por los aficionados a la ciencia ficción, dichas leyes aparecieron por primera vez en un cuento corto del difunto autor, Círculo vicioso (Runaround), publicado en 1942.

Las leyes establecen que los robots no pueden lastimar a los humanos ni permitir que corran peligro como consecuencia de una falta de intervención; los robots deben obedecer las órdenes humanas a menos que estén en conflicto con la primera ley, y los robots deben protegerse si para ello no entran en conflicto con las otras leyes.

# data[].attributes.attachment_link.title
Código de ética sobre robots - National Geographic en Español

# data[].attributes.attachment_link.description
El gobierno de Corea del Sur está redactando un código ético para evitar que los humanos abusen de los robots, y viceversa. Líneas de conducta para humanos y robots, encaminadas a la protección de ambos. El gobierno de Corea del Sur está redactando un código ético para evitar que los humanos abusen…

# data[].attributes.body
La posibilidad de crear máquinas pensantes plantea una serie de cuestiones éticas que abarcan diferentes puntos, tanto que las máquinas no lastimen a seres humanos o seres vivos en general, como el estatus moral propio de la máquina.

# data[].attributes.body
Puede ser el catalizador de nuevos cambios, profundos y positivos, en el empleo y las relaciones laborales, en la desubicación de los centros de trabajo y, en general, en una mejora de las condiciones de vida.

# data[].attributes.body
¿Qué es un androide?
Por definición un androide es un robot o máquina autómata antropomorfa, que posee una apariencia y características similares a las de los humano. Son máquinas que, de manera autónoma por su configuración, imitan ciertas acciones o conductas que realiza el hombre.

¿Para qué sirve un androide?
Los robots androides son diseñados gracias a la robótica con el fin de que simulen las acciones de un ser humano. Pueden ser utilizados para el sector industrial, social o para la ciencia ficción, en donde los androides son muy populares.

# data[].attributes.body
La construcción de una sociedad donde los algoritmos cada vez tienen más importancia y coexisten con los seres humanos obliga a definir ciertos límites sobre cómo usamos la inteligencia artificial y en la manera en que ésta se relaciona con nosotros. Para eso existen leyes en la robótica las cuales son:

Tres leyes de la Robótica

1. Un robot no puede dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.

2. Un robot debe cumplir las órdenes de los seres humanos, excepto si dichas órdenes entran en conflicto con la Primera Ley.

3. Un robot debe proteger su propia existencia en la medida en que ello no entre en conflicto con la Primera o la Segunda Ley.

# data[].attributes.headline
¿Deberíamos implementar una ética para robots?

# data[].attributes.subject
¿Deberíamos implementar una ética para robots?

# data[].attributes.body
Para implantar ética en un robot, tienes que tener clara la ética. Miles de leyes han sido necesarias para la convivencia humana porque unas simples reglas éticas no sirven. ¿Cómo implementar en los robots algo que no está claro en los humanos?

Es el problema que se discute referente a la ética en los robots.

# data[].attributes.body
Hoy en día, la humanidad está inmersa en una revolución tecnológica sin precedentes. La preocupación ética por la creación de nuevos tipos de inteligencia requiere de un exquisito criterio moral de las personas que diseñan estas nuevas formas de tecnología. El algoritmo ha de ser capaz de discernir y reconocer fallos cuando se centran en acciones sociales con repercusión que antes realizaba un ser humano. El concepto es claro: el código no puede dañar a personas o a empresas.

# data[].attributes.attachment_link.readable_text
Getty Images

No se trata de ciencia ficción. Desde hace décadas, son muchos los científicos que vaticinan una explosión de inteligencia artificial en algún momento del siglo XXI. Esta inteligencia artificial podría llegar a ser algo único, algo enormemente poderoso que podría imponerse a la inteligencia humana. ¿Es el momento de establecer criterios éticos sólidos?

En 1985, Judith Jarvis Johnson puso de manifiesto en la revista The Yale Law Journal (la publicación de la Facultad de Derecho de Yale) algunas preguntas que llevaban rondando desde principios del siglo XX en el conocimiento humano. Este reconocido jurista expuso la complejidad que supondría para una inteligencia artificial encontrar la solución de un dilema humano complejo. Imaginemos que una persona conduce un coche sin frenos; ante él se bifurca el camino en dos: en el camino de la izquierda hay cinco personas, en el de la derecha sólo hay una. ¿Es lícito matar a una persona para salvar a otras cinco? Vamos con la segunda parte del dilema: un joven acude a una clínica para un chequeo rutinario; en esa clínica hay cinco pacientes esperando trasplantes de órganos. Para poder vivir, dos de ellos necesitan un pulmón, otros dos necesitan sendos riñones y el quinto requiere un corazón. Curiosamente el joven que ha ido a hacerse el chequeo tiene el mismo grupo sanguíneo que ellos, lo que le convierte en el donante idóneo. Repetimos la pregunta: ¿Es lícito matar a una persona para salvar a otras cinco?

Un ser humano tendría que despejar las incógnitas de la ecuación atendiendo criterios éticos. En cualquiera de los casos, cuantitativamente hablamos de matar a una persona para salvar a otras cinco. No obstante, casi todo el todo el mundo estaría de acuerdo en que es preferible atropellar a esa persona para salvar a las otras cinco. Hay muchos factores puramente humanos que podrían justificar esta decisión, como la ausencia de contacto físico (no es lo mismo matar a un desconocido que a alguien que tratamos y conocemos personalmente). Sin embargo, es difícil que una máquina pueda calibrar este tipo de decisiones, por eso es tan importante que la inteligencia artificial pueda estar dotada de una ética, o código de valores, que condicione, a nuestra imagen y semejanza, la esencia de sus actos.

Siguiendo este razonamiento, hay teóricos que se postulan en creencias catastrofistas. Es el caso del filósofo Nick Bostrom, que sostiene que una inteligencia artificial avanzada podría tener la capacidad de provocar la extinción humana, ya que sus planes pueden no implicar tendencias motivacionales humanas. No obstante, Bostrom también plantea la situación contraria en la que una super inteligencia podría ayudarnos a resolver problemas tediosos y constantes en la humanidad, tales como la pobreza, la enfermedad o la destrucción del planeta.
Una ética empresarial
La infinita complejidad de un sistema de valores humanos hace que la inteligencia artificial no encuentre motivaciones amigables en formas de proceder humanas. No obstante, es la ética la que sostiene la mayoría de organizaciones. El común entender y la aceptación de nuestros esquemas culturales, implica el funcionamiento de complejos recovecos y motivaciones de la psique humana. Al incorporar la Inteligencia Artificial a los procesos de las organizaciones, es importante dotar a esta nueva tecnología de valores y principios. Y, dentro de las organizaciones, son los desarrolladores de esta tecnología las personas que realmente han de trabajar siendo conscientes de las implicaciones morales y éticas que conlleva su trabajo.

La problemática planteada se está materializando en la Asociación sobre Inteligencia Artificial, creada por Elon Musk y Sam Altman, en la que se invita a los principales líderes tecnológicos para poder identificar dilemas éticos y prejuicios. Su objetivo primordial es establecer unas reglas de juego, basadas en un marco de comportamiento moral, donde la Inteligencia Artificial pueda desarrollarse en representación de la humanidad.

Según un informe realizado por SAS en el año 2017, el 92% de las empresas considera prioritario capacitar a sus tecnólogos en ética, y el 63% cuenta con comités en este tipo de asuntos para revisar el buen uso de la inteligencia artificial. Se trata, pues, de un tema necesario y de solución posible. Por ello, algunas compañías están comenzando a formar a las personas que a su vez están formando a las máquinas. Es, al fin y al cabo, una inclusión de la ética en los algoritmos que rigen la inteligencia artificial. Por ejemplo, la concesión de un préstamo no debe realizarse atendiendo criterios de sexo, edad o religión. Es importante que el machine learning se nutra de principios universales de respeto, libertad e igualdad. La cultura es uno de los vehículos de nuestra supervivencia: es básico que continuemos formando e informando atendiendo a unos principios básicos.
Roboética: principios para el siglo XXI
Hoy en día, la humanidad está inmersa en una revolución tecnológica sin precedentes. La preocupación ética por la creación de nuevos tipos de inteligencia requiere de un exquisito criterio moral de las personas que diseñan estas nuevas formas de tecnología. El algoritmo ha de ser capaz de discernir y reconocer fallos cuando se centran en acciones sociales con repercusión que antes realizaba un ser humano. El concepto es claro: el código no puede dañar a personas o a empresas.

Fruto de esta preocupación, el Parlamento Europeo realizó un informe sobre robótica en 2017 llamado Código Ético de Conducta y, recientemente (diciembre de 2018), ha publicado el primer borrador de la Guía Ética para el uso responsable de la Inteligencia Artificial. 52 expertos han escudriñado y exprimido los rincones de la problemática, centrándose en el ser humano siempre bajo la luz de la defensa de los derechos fundamentales.

Son estándares morales dirigidos a humanos, a los creadores de tecnología. Los principios son los siguientes:

Se debe asegurar que la IA está centrada en el ser humano.

Se debe prestar atención a los grupos vulnerables, como los menores de edad o las personas con discapacidades.

Debe respetar los derechos fundamentales y la regulación aplicable.

Debe ser técnicamente robusta y fiable.

Debe funcionar con transparencia.

No debe restringir la libertad humana.

Las grandes organizaciones, empresas y gobiernos están centrándose en los problemas que pueden surgir en el tema de la ética de la inteligencia artificial para trazar consideraciones, prácticas y marcos comunes de cara al futuro. Es importante alcanzar un acuerdo donde se pueda conceptualizar y, sobre todo, regular las prácticas derivadas. Al fin y al cabo, la tecnología es un paso más de nuestra evolución... Y su código de ceros y unos debe ser un reflejo de nuestros genes.

Miguel Ángel Barrio es head de Entelgy Digital

DeepMind de Google aprende a compartir

Más información

# data[].attributes.attachment_link.title
La importancia de la ética en la inteligencia artificial

# data[].attributes.attachment_link.description
No se trata de ciencia ficción. Desde hace décadas, son muchos los científicos que vaticinan una explosión de inteligencia artificial en algún momento del siglo XXI. Esta inteligencia artificial podría llegar a ser algo único, algo enormemente poderoso que podría imponerse a la inteligencia humana. ¿Es el momento de establecer criterios éticos sólidos?

# data[].attributes.headline
1.Inteligencia Artificial. Como funciona y que puede hacer una IA.

# data[].attributes.subject
1.Inteligencia Artificial. Como funciona y que puede hacer una IA.

# data[].attributes.attachment_link.title
¿Qué es y cómo funciona la INTELIGENCIA ARTIFICIAL?

# data[].attributes.headline
Anexo este link el cual es una investigación sobre un dilema que se hizo una encuesta para ver como funcionaria la moral de un coche autónomo es bastante interesante  

# data[].attributes.subject
Anexo este link el cual es una investigación sobre un dilema que se hizo una encuesta para ver como funcionaria la moral de un coche autónomo es bastante interesante  

# data[].attributes.body
PUNTO DOS DILEMAS ETICOS

# data[].attributes.attachment_link.readable_text
Ilustración del sistema de detección de un vehículo autónomo. Getty Images

Dilema 1: Un coche sin conductor se queda sin frenos llegando a un paso de cebra. Si sigue recto atropella a dos peatones, si da el volantazo se lleva por delante a un gato. Dilema 2: El vehículo se encuentra en el paso a un ejecutivo trajeado y, si gira, a un indigente. El choque matará a uno de ellos. Dilema 3: A bordo del automóvil van una mujer embarazada y su hija, enfrente tres ancianos que solo puede evitar yendo contra un muro. ¿A quién salvarías? Un experimento con millones de personas muestra ahora cómo debería ser la moral que guíe a los vehículos conectados en un accidente. Sus resultados son una medida de la propia moral humana.

Ya hay infinidad de ensayos con coches que se conducen solos, ha habido hasta atropellos mortales y es cuestión de tiempo que los vehículos autónomos circulen de forma habitual por las carreteras. Un reciente informe de Intel, por ejemplo, indica que serán mayoría en unas décadas. Al retirar de la ecuación la imprudencia y errores humanos, prometen reducir los accidentes. Pero habrá situaciones en las que un fallo mecánico, el tiempo o las condiciones de la carretera hagan inevitable el accidente. En esos casos las máquinas deberán decidir entre dos males y para ello habrá que dotarlas de unos principios morales.

Buscando esos principios, un grupo de científicos europeos y estadounidenses diseñaron un videojuego (un serious game) en el que los participantes tenían que hacer de coche autónomo. Se les presentaron una decena de dilemas como los de arriba en los que alguien moría sí o sí, ya fueran los ocupantes del coche o diversos peatones, desde una persona obesa hasta tres viejecitas, pasando por alguien que cruzaba la carretera por donde no debía.

En el experimento de la máquina moral, como la han llamado, han participado ya más de dos millones de personas de 233 países y territorios ( aún se puede jugar). Con sus casi 40 millones de dilemas resueltos, se ha convertido en una especie de tratado sobre lo que los humanos creen que es más o menos correcto.

"Vimos que hay tres elementos que las personas tienden a aprobar más", dice.el investigador del Media Lab del Instituto de Tecnología de Massachusetts (MIT) y principal autor del estudio, Edmond Awad. Primero, entre salvar a un humano o un animal, el coche siempre debería atropellar a la mascota. La norma, además, primaría salvar al mayor número de personas. Así que si el conductor va solo y va a atropellar a dos peatones, que se estampe contra el muro. La tercera decisión más universal es que la mayoría cree que si un vehículo autónomo tiene que decidir entre chocar contra un niño o contra un anciano, el viejo debe morir para que el joven tenga la oportunidad de envejecer.

Aparte de estas tres decisiones morales que son casi universales, la investigación, publicada en , muestra una preferencia específica según el tipo de personaje: De los que cruzan el paso de cebra, los que merecen más la pena salvar son, por este orden, un bebé a bordo de un carrito, una niña, un niño y una mujer embarazada. En sentido contrario, y dejando a un lado las mascotas, los delincuentes, los ancianos y los sintecho son los humanos más sacrificables.

ampliar foto
En uno de los dilemas, el jugador debe elegir entre atropellar a la anciana o que el coche choque contra el muro matando a su pasajera. MIT Media LAB

Esta predilección por unas vidas sobre otras introduce un elemento que discrimina a las personas por sus características personales, apuntando a la desigualdad en la moral de las máquinas. "Las comparaciones no implican que los expertos deban cambiar sus normas para complacer a la gente. Lo que sugerimos es que las tengan en cuentan, ya que les ayudarán a anticipar la reacción pública a las diferentes regulaciones que redacten", comenta Awad.

Diferencias según la nacionalidad

Además de resolver dilemas, medio millón de jugadores rellenaron una encuesta con datos personales como edad, género, ingresos, educación, posición política y creencias religiosas. Los investigadores buscaban con ello algún rasgo personal que modulara los dilemas morales. Salvo la religiosidad, ningún otro factor parece influir a la hora de decidir a quién salvar. Pero aquí acaba el sueño de una moral universal.

Gracias a la geolocalización, el estudio pudo determinar el origen de los participantes, detectando marcadas diferencias regionales. Así, aunque las ancianas son las menos salvadas de entre los humanos solo por detrás de los delincuentes, los asiáticos tienden a salvarlas más que los occidentales. En Europa y EE UU hay una predilección sutil pero significativa por las personas de complexión atlética sobre los obesos. En los países del sur, tienden a salvar más a las mujeres sobre los hombres. Y en las naciones más desiguales, un porcentaje mayor de los participantes prefirió salvar al peatón con aspecto de ejecutivo.

"Nuestros resultados sugieren que implantar un único conjunto de normas en todos los países sería complicado", opina el investigador del MIT. "La misma norma aplicada en diferentes lugares podría recibir distinto apoyo social en los distintos países". añade. En la investigación ponen un ejemplo: entre los principios que regirían la toma de decisiones del coche, un algoritmo podría favorecer por norma a los peatones sobre un único conductor. Pero ¿y si esos peatones cruzan de forma indebida?

El único país que ha propuesto ya una guía moral para los vehículos autónomos es Alemania. En el verano de 2017 y a instancias del Ministerio de Transportes, un grupo de ingenieros, profesores de filosofía, expertos en derecho, representantes de los fabricantes, los consumidores y hasta las iglesias elaboraron un código ético con 20 normas. La mayoría no chocan con los resultados de este estudio. Pero sí lo hace su ambición de ser universalmente válidas. Pero hay un choque frontal con la norma ética 9, que dice lo siguiente: "En el caso de situaciones donde el accidente sea inevitable, está estrictamente prohibida cualquier distinción basada en rasgos personales (edad, género, o constitución física o mental).

Uno de los autores de este código es el profesor de Filosofía de la Universidad Técnica de Múnich Christoph Lütge. Para él, la igualdad debería mantenerse. "Tanto por razones legales como éticas, la programación no puede tratar de forma diferente a las personas con rasgos personales distintos. Sé que hay quienes dicen que hay experimentos que muestran que instintivamente favoreceríamos al niño. Pero eso no se puede convertir en una norma para una máquina. La ética no siempre puede seguir los instintos".

# data[].attributes.attachment_link.title
¿A quién mataría (como mal menor) un coche autónomo?

# data[].attributes.attachment_link.description
Dilema 1: Un coche sin conductor se queda sin frenos llegando a un paso de cebra. Si sigue recto atropella a dos peatones, si da el volantazo se lleva por delante a un gato. Dilema 2: El vehículo se encuentra en el paso a un ejecutivo trajeado y, si gira, a un indigente.

# data[].attributes.headline
¿puede una IA crear arte? Punto dos dilemas éticos 

# data[].attributes.subject
¿puede una IA crear arte? Punto dos dilemas éticos 

# data[].attributes.body
Hoy en día existen un sinfín de proyectos en los que se trata de funcionar el arte con los robot de maneras que nunca antes se había visto. Uno de ellos es el que lleva a cabo Stephanie Dinkins, una artista digital norteamericana que busca que su dispositivo llamado “Not the Only One” le responda a las personas en función de las conversaciones que ha tenido con su tía y su sobrina, las cuales se basan en memorias de una familia negra estadounidense.

De hecho, Dinkins cree que la IA, como cualquier otra forma de tecnología, tiene el potencial de ayudar a los humanos a comprenderse mejor, pues estos sistemas son reflejos de quienes los crean y los informan.

Por otro lado, en la casa Sotheby’s se está subastando por 46.500 euros una máquina creada por el artista Mario Klingemann, la cual utiliza IA para generar obras de arte que el dispositivo “imagina” en tiempo real. Se trata de dos pantallas enmarcadas que utilizan un sistema redes neuronales llamado Redes Generativas Antagónicas que crean retratos completamente originales, por lo que cada espectador se lleva un espectáculo único e irrepetible.

# data[].attributes.attachment_link.title
The Hypnotic Allure of the AI Art Generator

# data[].attributes.headline
un video en el que se analiza el sesgo de una IA

# data[].attributes.subject
un video en el que se analiza el sesgo de una IA

# data[].attributes.body
PUNTO DOS DILEMAS ETICOS

# data[].attributes.attachment_link.title
¿LA INTELIGENCIA ARTIFICIAL SERÁ TU JEFE? - Vlog de Marc Vidal

# data[].attributes.headline
Documento sobre la inteligencia artificial en el derecho y sus dilemas ético  

# data[].attributes.subject
Documento sobre la inteligencia artificial en el derecho y sus dilemas ético  

# data[].attributes.body
PUNTO DOS DILEMAS ETICOS

# data[].attributes.attachment_link.title
La aplicación de la inteligencia artificial en el Derecho y sus dilemas éticos