Implica un riesgo del uso intensivo de la inteligencia artificial, que puede debilitar nuestra capacidad para entender el "por qué" detrás del conocimiento.

En el articulo que comparto plantea que las tecnologías son un reflejo y una cristalización de los procesos sociales.

Es evidente que el avance de la tecnociencia, especialmente a través de la inteligencia artificial, está transformando profundamente todos los sistemas humanos, afectando directamente nuestras capacidades cognitivas. Lo que resulta controversial es que las máquinas o algoritmos pueden llegar a diagnosticar enfermedades a partir de uno o varios síntomas, pero aún no comprenden el porqué de esos diagnósticos. Entender los “porqués” requiere explicitar los marcos de referencia, los supuestos, los valores y los objetivos que guían la tarea humana. Por eso, aunque estos sistemas de IA, con asistencia humana, pueden mejorar la rapidez y precisión en las respuestas, no pueden reemplazar el juicio y la comprensión humana.

Comparto texto generado previo al mapa conceptual:

Inteligencia Artificial generativas es una herramienta que requiere exploración y profundización. Por ejemplo un resumen de texto PDF de un tema especifico, lo que hacen es predecir la próxima palabra, la oración, hasta llegar al ensayo. Es decir necesitará la supervisión ya que estas herramientas desconocen las variables contextuales. De qué manera se enseña tal o cual tema, en que contexto (lugar). Por lo tanto siempre tendrá lugar la adaptación y posterior edición.

La IA tiene numerosas ventajas como facilitación de tareas y eficacia de tiempo pero este riesgo de que la utilicen para crear armas químicas es sumamente alarmante.

"El uso de la inteligencia artificial "en la guerra biológica es algo de lo que no hablamos mucho. Va a hacer posible que [estados y grupos terroristas] usen las grandes bases de datos sobre cómo funciona la biología y las usen para generar cosas que dañen a los seres humanos". Son las palabras de Eric Schmidt, el ex-CEO de Google, que fue copresidente de la Comisión Nacional de Seguridad sobre la Inteligencia Artificial del Gobierno norteamericano y ahora ha fundado la organización que ha publicado el estudio —llamada Special Competitive Studies Project— para seguir vigilando los peligros de la inteligencia artificial".

Como la IA es utilizada para crear drogas para curar enfermedades también puede ser utilizada para lo contrario, la creación de un patógeno que pueda acabar con la vida de millones de personas.

"Según la revista militar Air & Space Forces, la predicción no es una mera hipótesis, sino una realidad que ya se ha llevado a cabo en el laboratorio. El estudio detalla el experimento de la compañía farmacéutica Collaborations Pharmaceuticals, que modificó una IA comercial —que ahora utilizan para poder detectar la posible toxicidad de nuevos medicamentos— para transformarla en una máquina capaz de hacer justamente lo contrario".

En vista del peligro que implica para el ser humano en California, Estados Unidos, se está avanzando en un proyecto de ley que busca implementar un control humano sobre los sistemas de inteligencia artificial.

"El objetivo de la ley es mitigar el riesgo de que la IA se utilice para crear nuevas amenazas a la seguridad pública. Esto incluye la posibilidad de desarrollar armas de destrucción masiva, como armas biológicas, químicas y nucleares, así como armas con capacidades cibernéticas ofensivas".

Por más que quieran controlar este enorme riesgo que presenta la IA creo que es imposible controlarlo a nivel mundial y absoluto. La IA cada vez avanza mas rápido y es lamentable que la utilicen para estos fines destructivos.

Fuentes

https://www.elconfidencial.com/tecnologia/novaceno/2022-09-14/virus-inteligencia-artificial-terrorismo-militar_3489780/

https://www.infobae.com/tecno/2024/08/17/crear-armas-con-inteligencia-artificial-el-nuevo-debate-global-sobre-la-destruccion-masiva/

https://www.scientificamerican.com/article/ai-drug-discovery-systems-might-be-repurposed-to-make-chemical-weapons-researchers-warn/

Utilice el video de youtube "El sistema respiratorio" que deje el enlace arriba para generar el mapa conceptual de mapify.

4) ALINEAMIENTO DE LOS SISTEMAS DE IA CON VALORES HUMANOS : Desarrollo y reflexión.

https://www.pagina12.com.ar/591373-la-inteligencia-artificial-y-los-nuevos-poderes-inhumanos

Se refiere a la necesidad de que los sistemas de IA contemplen, desde su diseño, en su desarrollo y en su implementación, valores de la humanidad, o al menos, de la sociedad en la que se insertan. Porque si los únicos valores de programación son la competitividad, la eficacia, la productividad, esos sistemas podrán tener gran robustez para alcanzar esos objetivos, pero pueden ser poco seguros para la vida democrática o para el cuidado del ambiente. Es un área muy desafiante hoy, porque no está claro cómo alcanzarla, sobre todo en las escalas más altas y concentradas del desarrollo de IA. Es importante que la discusión sobre los valores de alineación sea abierta. Y que haya equipos capaces de trabajar en que los sistemas estén alineados a esos valores en el momento de la programación, en la búsqueda de los datos, en todo el ciclo de vida.

Este tipo de riesgo se encuentra en el corazón de los debates actuales sobre IA responsable. La relación entre tecnología y valores humanos es un problema profundo. Desde una perspectiva educativa, esto nos interpela a enseñar a los estudiantes que es necesario repensar colectivamente qué queremos que la tecnología haga por nosotros, y cómo garantizar que esa intención no se pierda en traducciones automatizadas que, en lugar de ayudarnos a resolver un problema real, nos desvían.

Conversaciones pedagógicas - Mariana Maggio, miembro del consejo nacional de calidad de la educación.

Me pareció interesante utilizar el video de Darío Sandrone: "Hay que hablar menos de IA y más de aprendizaje maquínico" Comparto el mapa conceptual generado.

También me hizo pensar en cómo se reparte el poder: si solo unos pocos saben cómo funcionan los algoritmos, entonces solo ellos pueden decidir qué se hace con ellos. El resto queda mirando desde afuera, aunque esas decisiones nos afecten a todos.

Buscando un poco más sobre el tema, encontré una frase del filósofo Éric Sadin que me impactó: “Cuando dejamos que las máquinas decidan por nosotros, perdemos parte de nuestra capacidad de comprender y actuar en el mundo”. Me parece que ahí está el punto: no se trata de tener miedo a la tecnología, sino de no perder de vista lo humano, lo colectivo, lo que nos conecta.

Creo que el gran desafío es cómo hacemos para que la tecnología no nos separe más, sino que nos acerque, y que todos podamos formar parte de las decisiones que marcarán el futuro.

Recursos Adicionales de Éric Sadin:

https://cajanegraeditora.com.ar/libros/la-inteligencia-artificial-o-el-desafio-del-siglo-eric-sadin/

https://nuso.org/autor/eric-sadin/

Fuentes:

https://lab.elmundo.es/inteligencia-artificial/riesgos.html?need_sec_link=1&sec_link_scene=im

https://orcg.info/articulos/informe-gestin-de-riesgos-de-la-inteligencia-artificial-en-espaa?need_sec_link=1&sec_link_scene=im

https://es.m.wikipedia.org/wiki/Riesgo_existencial_de_la_inteligencia_artificial?need_sec_link=1&sec_link_scene=im

https://drive.google.com/drive/folders/1Hu8LqYIq_BO-fnaXzordPASnXk4f9_Bv

También menciona 8 riesgos del desarrollo de IA, las que más me impactaron son las de armas químicas para las guerras, la dependencia de las IA por parte de los humanos y la necesidad de que éstas estén alineadas con los valores humanos para que no terminen exterminando a la población.

https://blog.maestriasydiplomados.tec.mx/el-impacto-de-la-inteligencia-artificial-en-la-actualidad#:~:text=La%20IA%20ha%20penetrado%20profundamente,y%20mejorar%20con%20el%20tiempo.

Será cuestión de orientar su uso, controlarla para que no pase lo mismo que con el internet o los Smartphone y sus efectos adversos en las sociedades.
Hay una canción que se me vino a la mente con este tema, se llama “De haber sabido” de Facundo Saravia, y en una estrofa dice lo siguiente:

De haber tenido juguetes
Que por si solos juegan
No hubiera usado mi ingenio
Ni menos mi habilidad.

https://ciencialatina.org/index.php/cienciala/article/download/10678/15719/

Elegí este artículo en donde kos autores destacan que la IA, como herramienta, puede ser valiosa para apoyar el aprendizaje (por ejemplo, ofreciendo recursos, automatizando tareas repetitivas o personalizando contenido). Sin embargo, advierten que cuando los estudiantes la usan para reemplazar el esfuerzo personal —como resolver problemas, analizar información o desarrollar ideas propias—, se generan consecuencias negativas:

·         Pérdida de habilidades críticas: La dependencia de la IA para respuestas rápidas o soluciones automáticas reduce la práctica de habilidades como el razonamiento, la creatividad y la resolución de problemas. Los docentes encuestados notaron que los estudiantes tienden a "delegar" el pensamiento crítico a la IA.

·          Falta de autonomía: Al usar IA como muleta, los estudiantes pierden la capacidad de aprender de manera independiente, lo que afecta su confianza y motivación para enfrentar desafíos sin tecnología.

También dicen que a inteligencia artificial debería ser un complemento en la educación, no un sustituto del esfuerzo humano y lo que proponen que los educadores integren la IA de forma estratégica, promoviendo su uso como apoyo (por ejemplo, para investigación inicial o análisis de datos) mientras se fomenta el esfuerzo humano en tareas que desarrollen el pensamiento crítico y la autonomía. Esto implica diseñar actividades que requieran análisis profundo, reflexión y creatividad, donde la IA sea un medio y no el fin.
La propuesta, buenísima… el tema es ¿Cómo?