En conclusión plicar los principios éticos de la UNESCO en la educación superior permite que el uso de la IA:

• Promueva el desarrollo humano y social.

• Respete los derechos fundamentales.

• Refuerce la justicia, la transparencia y la confianza.

• Sea una herramienta de inclusión, no de exclusión.

Estos principios aseguran que las herramientas tecnológicas, incluyendo la IA, se puedan emplear y aprovechar en alineación con valores humanos y sociales, como lo es la justicia y la equidad.

Tratan de proteger a las poblaciones y grupos vulnerables, brindando apoyo a estudiantes con necesidades, perfiles y expectativas diversas.

Además, buscan evitar el uso y la difusión incorrecta de los datos personales, académicos y organizacionales, entre otros aspectos.

Saludos cordiales.

Amanda Arias H.

La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO (2021) establece principios clave para asegurar que la IA beneficie a la humanidad de forma justa, segura y responsable. En el contexto de la educación superior, estos principios actúan como una guía ética para docentes, estudiantes e instituciones ante el creciente uso de herramientas basadas en IA (como ChatGPT, sistemas de evaluación automatizada, análisis predictivo, etc.).

Se podrían mencionar algunos ejemplos como

1-    Alfabetización y educación digital 

Los docentes y estudiantes deben comprender cuales son los riesgos, límites y posibilidades del uso de inteligencia artificial.  Para esto se deben incluir en los programas de estudios contenidos sobre ética digital, el uso de inteligencia artificial y que se tenga un pensamiento crítico sobre las producciones de la IA. 

Para todo esto es importante primero capacitar a los docentes para el uso responsable de herramientas como ChaatGPT, genially, entre otros 

2-      Privacidad, protección y seguridad de datos 

El tratamiento de los datos de estudiantes y docentes debe ser seguro, confidencial y con consentimiento informado.  No se puede estar divulgando sin un consentimiento informado la información que un estudiante realiza.  Es importante que se les explique a los estudiantes principalmente en que se va a utilizar los documentos que ellos desarrollen. 

Finalmente es importante mencionar que la IA vino para quedarse y hay que aprender a utilizarla de me mejor forma son que se violente la seguridad de las personas.

Al adherirnos a estos principios, se garantiza que la IA en el ámbito universitario se convierta en un catalizador para una formación integral, fomentando habilidades esenciales y preparando a los futuros profesionales para interactuar con la tecnología de manera ética y reflexiva.

Alfred González

Los principios éticos de la UNESCO 2021 pueden guiar el uso de la IA en la educación superior al brindar lineamientos que recuerdan al ser humano que todo lo que hacemos tiene una repercusión en nosotros mismos, siendo los mayores beneficiarios o los más perjudicados. Humanidad, Dignidad, Igualdad, lo queremos todos para cada uno de nosotros. Mientras la transparencia, la nomaleficiencia, la privacidad nos hace confiar en las propuestas modernas que siempre traen un consigo desconfianza, la gobernanza y la multidisciplinariedad nos permite desarrollar en comunidad. Comentario Kristel Castillo

Los principios éticos de la UNESCO (2021) brindan una guía importante de cómo aplicar responsablemente la Inteligencia Artificial en la educación. Estos principios establecen reglas u objetivos que deben cumplirse para garantizar una educación equitativa, digna e inclusiva. Por ejemplo, los principios de Rendición de cuentas y Gobernanza establecen que es de suma importancia que docentes e instituciones definan políticas claras sobre el uso permitido de la IA en el proceso educativo. Estas políticas garantizarán un uso ético de la IA y se enfocarán en sacar el máximo provecho de la IA en el proceso de aprendizaje. Además, los principios de Dignidad e Igualdad buscan garantizar que la IA sea utilizada como herramienta de apoyo y ayuda para la inclusión educativa y la personalización del aprendizaje para garantizar una educación equitativa sin sesgos o discriminaciones.

Por todo lo anterior y más, la aplicación de los principios éticos de la UNESCO (2021) en la educación superior deben ser esencial para asegurar una educación que garantice los derechos fundamentales de todas las personas, la igualdad y el bienestar común de toda la sociedad.

Dejar todo en manos de la IA, seria evadir el compromiso de afrontar los cambios tecnológicos con empatía y sobre todo con integridad, enseñando y aplicando principios responsables y pautas claras en las actividades que se realicen profesionales o consultivas dentro de la IA

Específicamente en el contexto educativo, creo que los docentes estamos comprometidos al uso responsable para ofrecer mejores recursos de aprendizaje a los estudiantes, así como a fomentar entre nuestros estudiantes la importancia de una comprensión moral, ética y humanista, lo que nos difiere de una máquina, promoviendo así que el uso de la IA para el aprendizaje y para otras disciplinas, sea éticamente responsable.

Rosa Cordero Solano

Si bien hay una excelente oportunidad para emplear la IA a favor de potenciar las competencias, lo cierto es puede ensanchar brechas ya existentes como el acceso digital, por lo que debe velarse por un acceso inclusivo que no deje a nadie atrás y que no fomente brechas tecnológicas si no que potencie la posibilidad de que más personas accedan a esta herramienta.

Por otra parte, es fundamental velar porque que esté incorporada la equidad y no discriminación y se eviten sesgos que se han reproducido históricamente en relación con poblaciones vulnerabilizadas, por ejemplo, personas diversas, mujeres, pueblos originarios, adultos mayores, personas con discapacidad, entre otros.

Asimismo, el uso adecuado debe garantizar la protección de datos y la privacidad para salvaguardar a uno de los públicos esenciales que es la población estudiantil. Las medidas a tomar deben ser suficientes para que esto sea protegido y no haya riesgos de fuga de datos o vulneración a derecho a la privacidad.

Otro de los elementos que ha sido objeto de debate durante el curso, es el que se puedan diseñar políticas o normativas que transparenten o den cuenta de cuál va a ser el uso de la inteligencia artificial, de manera que haya certeza del uso y cómo las personas emplearán la herramienta.

Finalmente, comprender que el uso de la IA vino para quedarse y que más bien se pueden aprovechar sus potencialidades para mejorar situaciones que pueden ser susceptibles de ser cambiadas, de promover mayor acceso y mejoras en consecuencia con un desarrollo sostenible justo y equitativo.

Las universidades pueden jugar un rol fundamental en orientar y guiar los nuevos usos de esta poderosa tecnología y potenciar las capacidades de los futuros y futuras profesionales con valores éticos y con capacidad de sacar el máximo provecho a la IA.

La implementación de tecnologías basadas en inteligencia artificial (IA) ha experimentado un aumento considerable en contextos educativos, por lo que su uso presenta retos éticos significativos que permitan una gestión transparente, informada y respetuosa de los datos. En este aspecto, los principios éticos propuestos por la UNESCO (2021) representan una guía para orientar el diseño e implementación de la IA en espacios académicos.

Estos principios no solo contribuyen a prevenir prácticas inadecuadas en el uso de la IA, sino que además, impulsan una visión humanista e inclusiva en el uso de los datos.

- En los procesos de enseñanza-aprendizaje e investigación en el que participan o se involucren las tecnologías de la IA, cuenten con lineamientos y marcos normativos para que el desarrollo y la utilización de esas tecnologías y se guíe por una investigación científica sólida por un análisis y una evaluación ética.

- Que se respeten los instrumentos y marcos de los derechos humanos en donde interviene la IA y sus diferentes sistemas y en los procesos educativos. Las nuevas tecnologías deben promover, defender y ejercer los derechos humanos. Asimismo, se garantice la diversidad, inclusión, equidad y bienestar para todas las personas.

- El personal docente, investigativo y funcionario colabore en sensibilizar a la sociedad con respecto a las tecnologías que utilizan IA, mediante una educación abierta y accesible, como por ejemplo en la alfabetización mediática e informacional. Con el fin de garantizar una participación pública efectiva, de modo que todos los miembros de la sociedad puedan adoptar decisiones informadas en el uso de la IA.

Melissa Valverde Hernández

Las recomendaciones éticas sobre el uso de la Inteligencia Artificial propuestas por la UNESCO en noviembre del 2021 brindan una visión universal y un marco regulatorio global para guiar a aquellas personas tomadoras de decisiones que les permita asegurarse que el desarrollo de la IA y su uso sea ético. Su uso en la Educación Superior (ES) podría ayudar en 3 áreas específicas:

La acción humana:

En la ES, el uso de la IA debe aumentar y mejorar las capacidades humanas, y no disminuirlas ni sustituirlas.  Por ejemplo, en un contexto de formación docente, el estudiantado puede aprender a usar la IA para crear tareas de aprendizaje complejas, y de esta manera acelerar su aprendizaje desde destrezas básicas a destrezas más avanzadas. Es importante considerar que el ser humano, (e.g. en este caso las personas docentes) deben mantener la responsabilidad última de las decisiones y acciones basados en los sistemas de IA al tratarse de un proceso formativo y humanista.

Transparencia y explicabilidad:

En la educación superior, las personas estudiantes y docentes deben comprender cómo funcionan los sistemas de IA específicos, sus métodos, características, capacidades y limitaciones. Por ejemplo, es importante comprender el fenómeno de “alucinaciones de IA” al interactuar con estos sistemas, verificar la información que los sistemas brindan, comprender el impacto de redacción que tiene un prompt al hacer peticiones a los estos sistemas, y posibles sesgos por la misma redacción (uso de lenguaje en el prompt).

Responsabilidad: En la ES, es necesario asumir la responsabilidad de las decisiones y acciones basadas en los sistemas de IA, de acuerdo con la legislación sobre derechos humanos, y regulaciones institucionales. Para ello resulta importante diseñar procesos adecuados de supervisión, valoración del impacto y evaluación, incluyendo auditorías de cada proceso para garantizar la responsabilidad.  En el caso de docentes y autoridades, estos deben definir quién es responsable de la supervisión continua de los resultados de los sistemas de IA y como estos mejorar la enseñanza y el aprendizaje.

Es fundamental tomar en cuenta elementos como la igualdad, dignidad y humanidad, para garantizar que los Derechos Humanos sean la base de su gestión en las instituciones, así como su aprovechamiento a través de principios como transparencia, mutidisciplinariedad y gobernanza.

Karol Sánchez Mora

Diana Jara Colquichagua