# data[].attributes.attachment_caption
Initial policy considerations for generative artificial intelligence

# data[].attributes.headline
OECD: Initial policy considerations for generative artificial intelligence

# data[].attributes.subject
OECD: Initial policy considerations for generative artificial intelligence

# data[].attributes.attachment_link.title
Initial policy considerations for generative artificial intelligence

# data[].attributes.attachment_link.description
Generative artificial intelligence (AI) creates new content in response to prompts, offering transformative potential across multiple sectors such as education, entertainment, healthcare and scientific research. However, these technologies also pose...

# data[].attributes.headline
IA en el aula. Repositorio de recursos, experiencias e ideas para el aula

# data[].attributes.subject
IA en el aula. Repositorio de recursos, experiencias e ideas para el aula

# data[].attributes.headline
Inteligencia artificial y educación: guía para las personas a cargo de formular políticas

# data[].attributes.subject
Inteligencia artificial y educación: guía para las personas a cargo de formular políticas

# data[].attributes.attachment_caption
Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina | Fundación Sadosky

# data[].attributes.headline
Declaración de Montevideo sobre IA y su impacto en América Latina

# data[].attributes.subject
Declaración de Montevideo sobre IA y su impacto en América Latina

# data[].attributes.attachment_link.readable_text
Las personas abajo firmantes, reunidas inicialmente en ocasión de Khipu - Encuentro Latinoamericano de Inteligencia Artificial - sabemos del potencial productivo de los sistemas de inteligencia artificial, así como los riesgos que conlleva su crecimiento irreflexivo. En nuestro rol desde la investigación y desarrollo de estos sistemas manifestamos que:

Las tecnologías en general y los sistemas de Inteligencia Artificial (IA) en particular deben ser puestas al servicio de las personas. Mejorar la calidad de vida, las condiciones laborales, económicas, de salud y de bienestar general deben ser nuestra prioridad.

La implementación de IA debe cumplir con los principios rectores de los Derechos Humanos, respetar y representar diferencias culturales, geográficas, económicas, ideológicas, religiosas entre otras, y no reforzar estereotipos o profundizar la desigualdad.

Desde su diseño, la IA no debe dañar a las personas y se debe minimizar su impacto ambiental. La evaluación y mitigación de riesgos e impactos debe ser parte del proceso de diseño y debemos implementar instrumentos para prevenir, detectar tempranamente e incluso suspender la implementación de tecnologías cuyos riesgos sean inaceptables.

El impacto de estas tecnologías en el empleo es un tema ineludible. Una mejora en la productividad debería tener un correlato directo en una mejora en las condiciones de trabajo y en la calidad del empleo, con especial atención a las poblaciones más vulnerables. Cualquier transformación del mercado laboral debe atender de forma prioritaria la problemática del desempleo y la precarización con medidas proactivas y efectivas.

La diversidad cultural debe ser tenida en cuenta en los procesos de diseño y entrenamiento de modelos de IA ya que el comportamiento humano está moldeado por contextos diversos. De lo contrario, existe riesgo de que se excluya y minimice el acervo cultural latinoamericano que reivindicamos.

Es urgente integrar cabalmente las particularidades de las culturas latinoamericanas en la creación de tecnologías de IA para la región; una creación pensada para y con los latinoamericanos, valorando su participación en investigación y desarrollo, y no sólo como meros productores de datos en bruto o anotaciones manuales con bajo valor agregado.

Es imprescindible fortalecer la soberanía de los países latinoamericanos con respecto a las cuestiones estratégicas y regulatorias de la IA. Los esfuerzos en formación de personas al más alto nivel y desarrollo de pensamiento crítico, como Khipu, son cruciales para ese objetivo.

Proponemos desarrollar criterios y estándares que nos permitan calificar estas tecnologías según sus riesgos de manera clara y transparente, para avanzar en políticas públicas que protejan el bien común sin obturar los beneficios del desarrollo tecnológico. Desde la concepción de una solución tecnológica basada en IA y no después de creada, debemos preguntar cuál es el valor social que aporta y los riesgos que conlleva, con una mirada informada de la idiosincrasia latinoamericana. También es necesario analizar y comunicar honestamente sus limitaciones, sin exagerar sus capacidades ni hacer promesas inconducentes. No hay valor social en tecnologías que simplifican tareas a unas pocas personas generando alto riesgo para la dignidad de muchas otras, limitando sus oportunidades de desarrollo, su acceso a recursos y sus derechos.

Firmantes iniciales (por orden alfabético):

Amparo Marroquín Parducci, Universidad Centroamericana José Simeón Cañas, El Salvador
Andres Lombana-Bermudez, Universidad Javeriana/Berkman Klein Center/Centro ISUR/Tierra Común, Colombia
Beatriz Busaniche, Fundación Vía Libre / Universidad de Buenos Aires, Argentina
Diego Galeano, Facultad de Ingeniería, Universidad Nacional de Asunción, Paraguay
Eliana Quiroz, Fundación Internet Bolivia, Bolivia
Fabrizio Scrollini, ILDA, Uruguay
Federico Lecumberry, Universidad de la República, Uruguay
Fernando Schapachnik, Fundación Sadosky / Instituto de Ciencias de la Computación UBA-CONICET, Argentina
Ivana Feldfeber, Observatorio DataGénero, Argentina
Jaime Gutiérrez Alfaro, Laboratorio Experimental, Instituto Tecnológico de Costa Rica, Costa Rica
Jocelyn Dunstan Escudero, Pontificia Universidad Católica, Chile
Juan de Brigad, Fundación Karisma, Colombia
Juan Pane, Centro de Desarrollo Sostenible - Universidad Nacional de Asunción, Paraguay
Julio Paciello, Centro de Desarrollo Sostenible - Universidad Nacional de Asunción, Paraguay
Laura Ación, Instituto de Cálculo, Universidad de Buenos Aires-CONICET / MetaDocencia, Argentina
Laura Alonso Alemany, Universidad Nacional de Córdoba, Argentina
Luciana Benotti, Universidad Nacional de Córdoba, Argentina
Maria Angela Petrizzo Paez, Universidad Nacional del Turismo, Venezuela
Maria Ines Fariello Rico, Universidad de la República, Uruguay
Maria Vanina Martinez, UBA - CONICET; IIIA-CSIC, Argentina/España
Martín Rocamora, Universidad de la República, Uruguay
Moshe Vardi, Rice University, Israel/USA
Nayat Sánchez Pi, Inria, Chile/Francia
Omar U. Florez, Utah State University / Universidad Nacional de San Agustín, Perú/USA
Pablo Sprechmann, United Kingdom
Paola Ricaurte, Tecnológico de Monterrey / Berkman Klein Center for Internet & Society / Red Feminista de Investigación en Inteligencia Artificial / Red Tierra Común, México
Peter Norvig, Google, United States
Rafael Grohmann, University of Toronto, Brasil/Canadá
Renata Avila, Open Knowledge Foundation, Guatemala
Saiph Savage, Universidad Nacional Autonoma de Mexico (UNAM) / Northeastern University, México/USA
Sandra Avila, Universidade Estadual de Campinas, Brasil
Sasha Luccioni, Huggingface, Canada
Susana Cadena, Fundación Datalat - Universidad Central del Ecuador, Ecuador
Stuart Russell, University of California, Berkeley, United States

El resto de los firmantes puede consultarse aquí. Para adherir, por favor complete el siguiente formulario.

# data[].attributes.attachment_link.title
Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina | Fundación Sadosky

# data[].attributes.attachment_link.description
Las personas abajo firmantes, reunidas inicialmente en ocasión de Khipu - Encuentro Latinoamericano de Inteligencia Artificial - sabemos del potencial productivo de los sistemas de inteligencia artificial, así como los riesgos que conlleva su crecimiento irreflexivo.

# data[].attributes.attachment_caption
OEI | Secretaría General | Publicaciones | Competencia digital docente para la transformación educativa

# data[].attributes.headline
Competencia digital docente para la transformación educativa

# data[].attributes.subject
Competencia digital docente para la transformación educativa

# data[].attributes.attachment_link.title
OEI | Secretaría General | Publicaciones | Competencia digital docente para la transformación educativa

# data[].attributes.attachment_link.description
La transformación digital que camina a pasos acelerados en todos los ámbitos –también en la educación–, lleva asociada nuevas y crecientes demandas en los sistemas educativos. Por ello, y conscientes de esta realidad, la OEI considera fundamental ocuparse de conocer, estudiar y plantear accion…

# data[].attributes.headline
Consenso de Beijing sobre IA y Educación (2019) 

# data[].attributes.subject
Consenso de Beijing sobre IA y Educación (2019) 

# data[].attributes.attachment_caption
Inteligencia Artificial y administración pública: entenderla(s) para dominarla(s)

# data[].attributes.headline
Simona Levi (2023) Inteligencia Artificial y administración pública: entenderla(s) para dominarla(s)

# data[].attributes.subject
Simona Levi (2023) Inteligencia Artificial y administración pública: entenderla(s) para dominarla(s)

# data[].attributes.attachment_link.readable_text
Esta semana se vota en el parlamento europeo una legislación que repercutirá en la vida de todo el mundo: el Artificial Inteligence Act , la legislación sobre inteligencia artificial.

La Inteligencia Artificial (IA) puede mejorar prodigiosamente la vida de todos, siempre y cuando se plantee como una tecnología democráticamente desplegada y respetuosa con los derechos humanos desde el diseño y por defecto.

En la historia hemos visto muchas veces cómo el alarmismo en torno a la tecnología en muchos casos esconde otros intereses: si le tenemos miedo, aceptaremos que otros "que saben más" la controlen. Esto aleja la tecnología de su democratización.

Esta legislación, aunque perfectible, llega a tiempo para reconducir los excesos que ya se comienzan a vislumbrar. En las instituciones, la IA se está desplegando dando bandazos entre la fe ciega en la tecnología, permitiendo a las máquinas decidir quién es digno de ayuda y quién de castigo, o la tecnofobia por la cual mejor quedarnos con boli y papel en la ineficiencia más obtusa.

La solución es que la ciudadanía pueda controlar el uso de esta (y todas) las tecnologías.

Aquí queremos aportar algunos elementos a conocer para juzgar si nuestras administraciones nos están sometiendo a una IA suficientemente democrática.

Desde el punto de vista de los derechos y libertades fundamentales, los elementos a considerar cuando se habla de IA (en las administraciones) son:

- La eficiencia: es el gran y justo argumento para el uso de IA. Ciertamente puede contribuir a mejorar los servicios. Ahora bien, en nombre de la eficiencia no deben sacrificarse derechos y libertades.

- La seguridad: el derecho a la seguridad es también un bien del que deben poder disfrutar, pero con demasiada frecuencia se confunde la seguridad con el control de la población. La escalada en el ámbito de la identificación de las personas en aras de la seguridad a menudo colisiona con su derecho legítimo a no ser perfiladas ni vigiladas. El frenesí con el reconocimiento facial es un claro ejemplo de una deriva que debemos frenar, puesto que el rostro, de todos los datos biométricos, datos que nunca podremos cambiar o borrar, es el elemento personal más expuesto y público.

- La privacidad: es un derecho fundamental que debe priorizarse en todas las consideraciones respecto al uso del IA y biometría para que eficiencia y seguridad no la perjudiquen.

La auditabilidad de la IA se refiere al hecho de que sea pública la "receta" de los procedimientos, de las "órdenes" que se dan a ejecutar a la IA y los "ingredientes" utilizados, la información sobre las personas con la que se la nutre

Para integrar esta perspectiva en los aspectos prácticos de la creación de IA se deben aplicar en cómo se diseña, por lo que se habla de usabilidad [1], yen cómo se informa sobre el diseño, por lo que se debe hablar de auditabilidad. Decimos "se debe hablar" porque podréis fijaros fácilmente en que es el elemento que más a menudo se oculta cuando una institución aplica IA, mientras es la conditio sine qua non para que la aplicación se haga con garantías democráticas verificables.

La auditabilidad de la IA se refiere al hecho de que sea pública la "receta" de los procedimientos, de las "órdenes" que se dan a ejecutar a la IA y los "ingredientes" utilizados, es decir las bases de datos, la información sobre las personas con la que se la nutre, se le pide trabajar.

También debería significar que esta auditoría no debe llevarse a cabo sólo por parte de las instituciones involucradas, sino que la información debe ser accesible, incluyendo los datos utilizados para el entrenamiento, información sobre su origen y cómo se han recogido, los mecanismos (como los mecanismos de anonimización de los datos personales) y funciones utilizadas, etc. Esta información debería hacerse pública de forma pormenorizada, como se hace, por ejemplo, con los medicamentos. Es decir, la auditabilidad debe ser distribuida, pública, en abierto.

Para mayor precisión sobre qué tipo de información debe ser pública y trazable, estas son las definiciones aportadas por la Comisión Europea[1]:

- La trazabilidad se ha de aplicar sobre los métodos utilizados para el diseño y desarrollo del algoritmo, incluyendo qué datos se han recogido y seleccionado, cómo se ha hecho y por qué; las metodologías utilizadas para probar y validar el algoritmo; los escenarios o casos utilizados para probar y validarlo; y los resultados obtenidos.

- La explicabilidad al público se ha de aplicar sobre las decisiones tomadas por el sistema de IA; el grado de influencia del algoritmo en los procedimientos de decisión de una entidad; el motivo por el que se aplica IA; garantizar que se utiliza el modelo más simple y explicable.

- La comunicación, es decir, informar a las personas usuarias finales de que están interactuando con un sistema de IA y no con una persona. Se requiere claridad e inteligibilidad de la información; procedimientos para tener en cuenta los comentarios de los usuarios a fin de adaptar el sistema; información sobre los riesgos de los sesgos y cómo se han paliado; información sobre el objetivo de la IA y quién o qué se beneficia; la información sobre todo esto ha de ser comprensible y tiene que tener en cuenta el sesgo de confirmación y la fatiga cognitiva.

El marco es, pues, favorable. A lo que tendremos que prestar esfuerzo y atención será, por un lado, a que las instituciones lo implementen con la mirada puesta en el interés común y, por el otro, que no se burocratice de manera que los desarrollos de IA solo se los puedan permitir grandes monopolios tecnológicos, dejando fuera el magnífico desarrollo distribuido en Open Source que se está llevando a cabo.

Este texto es la adaptación de una parte de la contribución de Xnet al Proyecto Gavius, para la EU Urban Innovative Actions (marzo 2023)

[1] Las normas internacionales ISO 9241-11 [2]y 25010[3] la definen como la capacidad de un producto para ser entendido, aprendido, utilizado y resultar atractivo para que los usuarios alcancen objetivos específicos con efectividad, eficiencia y satisfacción en un contexto específico.

[2] UNE-EN ISO 9241-11:2018. Ergonomía de la interacción hombre-sistema. Parte 11: Usabilidad. Definiciones y conceptos.

[3] ISO/IEC 25010:2011. Systems and software engineering -- Systems and software Quality Requirements and Evaluation (SQuaRE) -- System and software quality models.

________

Simona Levi es fundadora de Xnet. El artículo es la adaptación de una contribución al Proyecto Gavius, para la EU Urban Innovative Actions, en colaboración con Miriam Carles.

# data[].attributes.attachment_link.title
Inteligencia Artificial y administración pública: entenderla(s) para dominarla(s)

# data[].attributes.attachment_link.description
Esta semana se vota en el parlamento europeo una legislación que repercutirá en la vida de todo el mundo: el Artificial Inteligence Act , la legislación sobre inteligencia artificial. La Inteligencia Artificial (IA) puede mejorar prodigiosamente la vida de todos, siempre y cuando se plantee como una tecnología democráticamente desplegada y respetuosa con los derechos humanos desde el diseño y por defecto.

# data[].attributes.headline
AI and the Future of Teaching and Learning: Engaging Educators

# data[].attributes.subject
AI and the Future of Teaching and Learning: Engaging Educators

# data[].attributes.attachment_caption
AI and the Future of Teaching and Learning: Defining Artificial Intelligence

# data[].attributes.headline
AI and the Future of Teaching and Learning: Defining Artificial Intelligence

# data[].attributes.subject
AI and the Future of Teaching and Learning: Defining Artificial Intelligence

# data[].attributes.attachment_link.readable_text
Educational technology is evolving to include artificial intelligence.

Artificial intelligence will bring "human-like" features and agency into future technologies.

Policy will have an important role in guiding the uses of artificial intelligence in education to realize benefits while limiting risks.

Educators, students, and parents and caregivers use technology daily and it has become essential to teaching and learning. Yet, familiarity with educational technology obscures a transformation occurring behind the scenes: almost all forms of technology used in education are beginning to incorporate artificial intelligence (AI) systems. More than half of school leaders already see the role of AI increasing in their school districts (Figure 1). Within five years, AI will change the capabilities of teaching and learning tools. This parallels with what is happening in our everyday lives; many people regularly use AI-enabled features like voice assistants, automatic mapping, and early warnings of potential credit card fraud. Now is the time to begin to understand implications, support effective use, and prepare policies that address future technologies for teaching and learning.

In this first of a series of six blog posts, we define AI in three ways, shifting from a view of AI as human-like toward a view of AI that keeps humans in the decision cycle.

"the theory and development of computer systems able to perform tasks
normally requiring human intelligence" [1]

Broad cultural awareness of AI may be traced to the landmark 1968 film "2001: A Space Odyssey" - in which a HAL 9000 computer converses with astronaut Frank. "HAL" helps Frank pilot the journey through space, a job that Frank could not do on his own. However, eventually Frank goes outside the spacecraft, Hal takes over control, and this does not end well for Frank. HAL exhibits human-like features like reasoning, talking, and acting. Like all applications of AI, HAL can both help humans, but also introduces unanticipated risks.

The idea of "human-like" is helpful because it can be a shorthand for the idea that computers now have capabilities that are very different from the capabilities of early educational technology applications. As is the case with HAL, educational applications will be able to converse with students and teachers, will be able to co-pilot how activities unfold in classrooms, and will be able to take actions that impact students and teachers broadly. There will be both opportunities to do things much better than we do today, and also risks that must be anticipated and addressed.

The "human-like" shorthand is not useful, however, because AI processes information differently from how people process information. When we do gloss over the differences between people and computers, we may frame policies for AI in education that miss the mark.

"computing that acts independently towards a goal
based on inferences from theory or patterns in data"[2]

This second definition emphasizes agency: that AI systems will make choices that impact human teaching and learning. Correspondingly, humans must determine the types and degree of agency we will grant to technology within educational processes. This is not new: for decades, we've discussed the lines between the roles of teachers and computers. However, the discussion will intensify as technology becomes more powerful and ubiquitous.

Let's start with a simple example. When a teacher says, "Display a map of ancient Greece on the classroom screen," an AI agent may choose among hundreds of available maps by taking note of the lesson objectives, what has worked well in similar classrooms, or what maps have the features needed by students in the classroom. When an AI agent chooses an appropriate instructional resource, or provides a choice among a few options, teachers may save time. An independent agent may help teachers or students by handling some of the lesser goals that must be achieved in a lesson plan, allowing teachers and students to focus on more important goals. Although we may allow a computer agent to choose a map for us, there will be other forms of agency that we may reject, such as choosing individual readings for students before a discussion of a historical event.

This definition also brings up "theory and patterns in data" as the basis for how a computer reasons. Computers process theory and data in different ways from humans. AI depends on associations or relationships found in the specific data identified during the AI system development process. Although some associations may be useful, others may be biased or inappropriate. Finding bad associations in data is a major risk. Every parent, however, is familiar with the problem: a person or computer may say "Our data suggests your student should be placed in this class" and the parent may well argue "No, you are using the wrong data. I know my child better, and they should instead be placed in another class." This problem is not only true of AI systems, but AI systems amplify the problem because when a computer uses data to make a recommendation, it can appear to be more objective and authoritative, even if it is not.[3]

Although this definition can be useful, it is also somewhat misleading. Our human view of agency, pursuing goals and reasoning includes our human abilities to make sense of contexts; AI does not yet understand context well and things break when the context slightly shifts . For this and other reasons, people will have a broader understanding of goals and must be involved in goal-setting, pattern-analysis and decision-making.

"Augmented intelligence is a design pattern for a human-centered partnership model of people and artificial intelligence (AI) working together to enhance cognitive performance, including learning, decision making and new experiences."[4]

Whereas the first two definitions may appear to substitute computer-based reasoning for human reasoning, a long-standing perspective keeps humans in the loop and positions AI systems as a support for human reasoning. "Intelligence augmentation" (IA) centers "intelligence" and "decision-making" in humans but recognizes that people sometimes are overburdened and benefit from assistive tools. AI may help teachers make better decisions because computers notice patterns that teachers can miss due to time constraints and bandwidth issues. For example, when a teacher and student agree that the student needs reminders, an AI agent may provide reminders in whatever form a student likes without adding to the teacher's workload. IA uses the same basic capabilities of AI, using associations in data to notice patterns and using automation to take actions based on those patterns. However, IA may be safer and more humane because people remain in charge and in the loop.

We can summarize the capabilities of AI systems as "automations based on associations." By recognizing associations in data and initiating automated action, AI systems will bring capabilities to technologies to pursue goals, choose among different plans, and carry out sequences of actions. Teachers and students may find AI systems to be helpful - much as we find automated maps helpful when traveling, but risks will appear as well. The intelligence augmentation perspective can help by keeping humans involved in teaching and learning processes that involve setting goals, analyzing patterns, and making decisions. Nonetheless, risks will remain.

Policy can inform educators and the public so they are prepared for the changing nature of the technologies used in schools and wherever students learn. Policy may also activate the involvement of students, teachers, educational leaders, and other community members so that they can participate in designing and evaluating AI systems. In addition, policy may help the marketplace to function well, for example, by providing guidelines, requiring disclosures, or regulating aspects of how products use data or automate decisions. In future posts, we will elaborate on the themes of opportunities and risks of AI along with what policy and guidance documents can do to steer these capabilities toward societal and individual goals.

[1] Artificial Intelligence Research, Development and Regulation Adopted by the IEEE-USA Board of Directors, 10 Feb. 2017

[2] Friedman, L., Blair Black, N., Walker, E., & Roschelle, J. Safe AI in Education Needs You. Blog@CACM. https://cacm.acm.org/blogs/blog-cacm/256657-safe-ai-in-education-needs-you/fulltext

[3] Noble, S. Uafiya Umoja. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. New York University Press.

[4] Gartner Glossary. Augmented intelligence. https://www.gartner.com/en/information-technology/glossary/augmented-intelligence

# data[].attributes.attachment_link.title
AI and the Future of Teaching and Learning: Defining Artificial Intelligence

# data[].attributes.attachment_link.description
Educational technology is evolving to include artificial intelligence. Artificial intelligence will bring "human-like" features and agency into future technologies. Policy will have an important role in guiding the uses of artificial intelligence in education to realize benefits while limiting risks. Educators, students, and parents and caregivers use technology daily and it has become essential to teaching and learning.

# data[].attributes.headline
Floridi (2023) Machine Unlearning: its nature, scope, and importance for a “delete culture”

# data[].attributes.subject
Floridi (2023) Machine Unlearning: its nature, scope, and importance for a “delete culture”

# data[].attributes.attachment_caption
Tecnolog a e innovaci n en educaci n superior

# data[].attributes.headline
Briceño Martínez (2022) Tecnología e innovación en educación superior

# data[].attributes.subject
Briceño Martínez (2022) Tecnología e innovación en educación superior

# data[].attributes.headline
Artificial Intelligence: Media and Information Literacy, Human Rights and Freedom of Expression

# data[].attributes.subject
Artificial Intelligence: Media and Information Literacy, Human Rights and Freedom of Expression

# data[].attributes.attachment_caption
White Paper on Artificial Intelligence: a European approach to excellence and trust

# data[].attributes.headline
White Paper on Artificial Intelligence: a European approach to excellence and trust

# data[].attributes.subject
White Paper on Artificial Intelligence: a European approach to excellence and trust

# data[].attributes.attachment_link.title
White Paper on Artificial Intelligence: a European approach to excellence and trust

# data[].attributes.attachment_link.description
White Paper on Artificial Intelligence: a European approach to excellence and trust

# data[].attributes.headline
Bias in algorithms: AI and discrimination 

# data[].attributes.subject
Bias in algorithms: AI and discrimination 

# data[].attributes.headline
AI language models.
Technological, socio-economic and policy considerations

# data[].attributes.subject
AI language models.
Technological, socio-economic and policy considerations

# data[].attributes.attachment_link.description
AI language models are a key component of natural language processing (NLP), a field of artificial intelligence (AI) focused on enabling computers to understand and generate human language. Language models and other NLP approaches involve developing...

# data[].attributes.attachment_caption
Measuring the environmental impacts of artificial intelligence compute and applications

# data[].attributes.headline
Measuring the environmental impacts of artificial intelligence compute and applications.
The AI footprint

# data[].attributes.subject
Measuring the environmental impacts of artificial intelligence compute and applications.
The AI footprint

# data[].attributes.attachment_link.title
Measuring the environmental impacts of artificial intelligence compute and applications

# data[].attributes.attachment_link.description
Artificial intelligence (AI) systems can use massive computational resources, raising sustainability concerns. This report aims to improve understanding of the environmental impacts of AI, and help measure and decrease AI's negative effects while...

# data[].attributes.attachment_caption
The OECD Artificial Intelligence (AI) Principles - OECD.AI

# data[].attributes.attachment_link.title
The OECD Artificial Intelligence (AI) Principles - OECD.AI

# data[].attributes.attachment_caption
AI and the Future of Skills, Volume 1: Capabilities and Assessments | READ online

# data[].attributes.headline
AI and the Future of Skills, Volume 1. Capabilities and Assessments

# data[].attributes.subject
AI and the Future of Skills, Volume 1. Capabilities and Assessments

# data[].attributes.attachment_link.title
AI and the Future of Skills, Volume 1: Capabilities and Assessments | READ online

# data[].attributes.attachment_link.description
Artificial intelligence (AI) and robotics are major breakthrough technologies that are transforming the economy and society. The OECD’s Artificial Intelligence and the Future of Skills (AIFS) project is developing a programme to assess the capabilities of AI and robotics, and their impact o…

# data[].attributes.attachment_caption
AI Universal Guidelines - thepublicvoice.org

# data[].attributes.headline
Universal Guidelines for Artificial Intelligence

# data[].attributes.subject
Universal Guidelines for Artificial Intelligence

# data[].attributes.attachment_link.readable_text
New developments in Artificial Intelligence are transforming the world, from science and industry to government administration and finance. The rise of AI decision-making also implicates fundamental rights of fairness, accountability, and transparency. Modern data analysis produces significant outcomes that have real life consequences for people in employment, housing, credit, commerce, and criminal sentencing. Many of these techniques are entirely opaque, leaving individuals unaware whether the decisions were accurate, fair, or even about them.

We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights. These Guidelines should be incorporated into ethical standards, adopted in national law and international agreements, and built into the design of systems. We state clearly that the primary responsibility for AI systems must reside with those institutions that fund, develop, and deploy these systems.

1. Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them. This includes access to the factors, the logic, and techniques that produced the outcome.

2. Right to Human Determination. All individuals have the right to a final determination made by a person.

3. Identification Obligation. The institution responsible for an AI system must be made known to the public.

4. Fairness Obligation. Institutions must ensure that AI systems do not reflect unfair bias or make impermissible discriminatory decisions.

5. Assessment and Accountability Obligation. An AI system should be deployed only after an adequate evaluation of its purpose and objectives, its benefits, as well as its risks. Institutions must be responsible for decisions made by an AI system.

6. Accuracy, Reliability, and Validity Obligations. Institutions must ensure the accuracy, reliability, and validity of decisions.

7. Data Quality Obligation. Institutions must establish data provenance, and assure quality and relevance for the data input into algorithms.

8. Public Safety Obligation. Institutions must assess the public safety risks that arise from the deployment of AI systems that direct or control physical devices, and implement safety controls.

9. Cybersecurity Obligation. Institutions must secure AI systems against cybersecurity threats.

10. Prohibition on Secret Profiling. No institution shall establish or maintain a secret profiling system.

11. Prohibition on Unitary Scoring. No national government shall establish or maintain a general-purpose score on its citizens or residents.

12. Termination Obligation. An institution that has established an AI system has an affirmative obligation to terminate the system if human control of the system is no longer possible.

EXPLANATORY MEMORANDUM AND REFERENCES ENDORSEMENTS

# data[].attributes.attachment_link.title
AI Universal Guidelines - thepublicvoice.org

# data[].attributes.attachment_link.description
New developments in Artificial Intelligence are transforming the world, from science and industry to government administration and finance. The rise of AI decision-making also implicates fundamental rights of fairness, accountability, and transparency. Modern data analysis produces significant outcomes that have real life consequences for people in employment, housing, credit, commerce, and criminal sentencing.

# data[].attributes.attachment_caption
Generating Harms: Generative AI's Impact & Paths Forward

# data[].attributes.headline
EPIC - Generating Harms: Generative AI’s Impact & Paths Forward

# data[].attributes.subject
EPIC - Generating Harms: Generative AI’s Impact & Paths Forward

# data[].attributes.attachment_link.provider_name
EPIC - Electronic Privacy Information Center

# data[].attributes.attachment_link.title
Generating Harms: Generative AI's Impact & Paths Forward

# data[].attributes.attachment_link.description
EPIC's report on generative A.I. harms and the policy interventions that can mitigate them.

# data[].attributes.headline
Listado de casos y cuestionamientos éticos al uso de IA

# data[].attributes.subject
Listado de casos y cuestionamientos éticos al uso de IA

# data[].attributes.attachment_link.title
GitHub - daviddao/awful-ai: 😈Awful AI is a curated list to track current scary usages of AI - hoping to raise awareness

# data[].attributes.attachment_link.description
😈Awful AI is a curated list to track current scary usages of AI - hoping to raise awareness - GitHub - daviddao/awful-ai: 😈Awful AI is a curated list to track current scary usages of AI - hoping to raise awareness

# data[].attributes.headline
UNESCO: Recomendación sobre la ética de la inteligencia artificial

# data[].attributes.subject
UNESCO: Recomendación sobre la ética de la inteligencia artificial

# data[].attributes.attachment_caption
Global Experiences from Regulatory Sandboxes

# data[].attributes.attachment_caption
¿Quién vigila a la IA? Consulta el ranking de las iniciativas globales para regularla

# data[].attributes.headline
¿Quién vigila a la IA? Consulta el ranking de las iniciativas globales para regularla

# data[].attributes.subject
¿Quién vigila a la IA? Consulta el ranking de las iniciativas globales para regularla

# data[].attributes.attachment_link.readable_text
Una guía sobre los esfuerzos más (y menos) prometedores para gobernar la IA en todo el mundo

por Melissa Heikkilä | traducido por

1. Además, se han detectado contenidos nocivos en la era de la inteligencia artificial

2. Los nuevos modelos de lenguaje podrían ayudar a crear aplicaciones de voz para muchas más lenguas de las que existen ahora

3. Un mayor acceso al código de los modelos generativos de lenguaje está impulsando la innovación. Pero si las grandes empresas se asustan, podrían cerrar sus puertas

# data[].attributes.attachment_link.title
¿Quién vigila a la IA? Consulta el ranking de las iniciativas globales para regularla

# data[].attributes.attachment_link.description
Una guía sobre los esfuerzos más (y menos) prometedores para gobernar la IA en todo el mundo por Melissa Heikkilä | traducido por Además, se han detectado contenidos nocivos en la era de la inteligencia artificial Los nuevos modelos de lenguaje podrían ayudar a crear aplicaciones de voz para muchas más lenguas de las que existen ahora Un mayor acceso al código de los modelos generativos de lenguaje está impulsando la innovación.

# data[].attributes.headline
Uruguay: Estrategia de Inteligencia Artificial para el gobierno digital

# data[].attributes.subject
Uruguay: Estrategia de Inteligencia Artificial para el gobierno digital

# data[].attributes.attachment_link.provider_name
Agencia de Gobierno Electrónico y Sociedad de la Información y del Conocimiento

# data[].attributes.attachment_link.readable_text
Estrategia de Inteligencia Artificial

Lineamiento

La Estrategia de IA surge como herramienta para la transformación digital que se desarrolla con el propósito de promover y fortalecer su uso responsable en la Administración Pública. Para ello se definen 9 principios generales, pilares, objetivos y líneas de acción que faciliten y fomenten el uso responsable de esta tecnología en el ámbito público.

Principios generales

Finalidad: La IA debe potenciar las capacidades del ser humano, complementándolas en todo lo que sea posible, apuntando a mejorar la calidad de vida de las personas, facilitando procesos y aportando valor agregado a la actividad humana.

Interés general: Las soluciones basadas en IA impulsadas desde el Estado deben tender al interés general, garantizando la inclusión y la equidad. Para esto, se debe trabajar específicamente para reducir la posibilidad de sesgos no deseados en datos y modelos utilizados que puedan impactar de manera negativa en las personas o favorecer prácticas discriminatorias.

Respeto de los Derechos Humanos: Toda solución tecnológica que utilice IA debe respetar los Derechos Humanos, las libertades individuales y la diversidad.

Transparencia: Las soluciones de IA utilizadas en el ámbito público deben ser transparentes, cumpliendo con la normativa vigente. Está transparencia debe:

* Poner a disposición los algoritmos y datos utilizados para el entrenamiento de la solución y su puesta en práctica, así como las pruebas y validaciones realizadas.
* Visibilizar explícitamente, a través de mecanismos de transparencia activa, todos aquellos procesos que utilicen IA, ya sea en la generación de servicios públicos o en el apoyo a la toma de decisiones.

Responsabilidad: Las soluciones tecnológicas basadas en IA deben tener un responsable claramente identificable y que responda por las consecuencias derivadas del accionar de la solución.

Ética: Cuando la aplicación y/o el desarrollo de soluciones basadas en IA presenten dilemas éticos, estos deben ser abordados y resueltos por seres humanos.

Valor agregado: Las soluciones basadas en IA deberán utilizarse solamente cuando agreguen valor a un proceso. La IA no debe ser un fin en sí mismo, sino una herramienta que pueda potenciar el desarrollo del Gobierno Digital.

Privacidad por diseño: Las soluciones de IA deberán contemplar, desde su diseño, la privacidad de las personas. Los principios de Protección de Datos Personales vigentes en Uruguay se consideran componentes de este documento.

Seguridad: Los desarrollos de IA deben cumplir, desde su diseño, con los principios básicos de la seguridad de la información. Los lineamientos y la normativa relacionados con ciberseguridad vigentes en Uruguay que apliquen al desarrollo de IA se consideran componentes de este documento.

Objetivo general

El objetivo general de la estrategia es promover y fortalecer el uso responsable de IA en la Administración Pública. En ese marco, se han identificado cuatro pilares que la componen, cada uno de ellos con objetivos y líneas de acción específicos:

1. Gobernanza de IA en la Administración Pública: velar por los principios y cumplir con las recomendaciones indicadas en el presente documento.
2. Desarrollo de capacidades para la IA: formar a funcionarios públicos en distintas capacidades relacionadas.
3. Uso y aplicación de la IA: fortalecer el buen uso de la IA, a través de la generación de lineamientos técnicos, guías y buenas prácticas que puedan ser compartidos en la Administración Pública.
4. Ciudadanía Digital e IA: preparar a la ciudadanía para aprovechar las oportunidades y hacer frente a los desafíos que trae aparejados la IA, así como generar la confianza necesaria en las personas para desarrollar y utilizar las nuevas tecnologías.
Acceder a la versión en español de la Estrategia de Inteligencia Artificial para el Gobierno Digital Acceder a la versión en inglés de la Estrategia de Inteligencia Artificial para el Gobierno Digital
Descargas

Etiquetas

# data[].attributes.attachment_link.description
La Estrategia de IA surge como herramienta para la transformación digital que se desarrolla con el propósito de promover y fortalecer su uso

# data[].attributes.attachment_caption
BOLETIN OFICIAL REPUBLICA ARGENTINA - JEFATURA DE GABINETE DE MINISTROS SUBSECRETARÍA DE TECNOLOGÍAS DE LA INFORMACIÓN - Disposición 2/2023

# data[].attributes.headline
Argentina: Recomendaciones para una Inteligencia Artificial Fiable

# data[].attributes.subject
Argentina: Recomendaciones para una Inteligencia Artificial Fiable

# data[].attributes.attachment_link.title
BOLETIN OFICIAL REPUBLICA ARGENTINA - JEFATURA DE GABINETE DE MINISTROS SUBSECRETARÍA DE TECNOLOGÍAS DE LA INFORMACIÓN - Disposición 2/2023

# data[].attributes.attachment_link.description
JEFATURA DE GABINETE DE MINISTROS SUBSECRETARÍA DE TECNOLOGÍAS DE LA INFORMACIÓN - Disposición 2/2023 - DI-2023-2-APN-SSTI#JGM

# data[].attributes.attachment_link.title
DigComp 2.2: The Digital Competence Framework for Citizens - With new examples of knowledge, skills and attitudes

# data[].attributes.attachment_link.description
The Digital Competence Framework for Citizen (DigComp) provides a common understanding of what digital competence is. The present publication has two main parts: the integrated DigComp 2.2 framework provides more than 250 new examples of knowledge, skills and attitudes that help citizens engage conf…

# data[].attributes.attachment_caption
60 organizaciones instan al Gobierno a controlar la inteligencia artificial durante su presidencia de la UE

# data[].attributes.headline
España: 60 organizaciones instan al Gobierno a controlar la inteligencia artificial durante su presidencia de la UE

# data[].attributes.subject
España: 60 organizaciones instan al Gobierno a controlar la inteligencia artificial durante su presidencia de la UE

# data[].attributes.attachment_link.readable_text
Hasta 60 organizaciones de la sociedad civil, tanto españolas como internacionales, han remitido una carta este miércoles al Gobierno instándole a aumentar "la protección de los derechos fundamentales" en la nueva regulación para la inteligencia artificial que se está negociando en Bruselas. Los firmantes solicitan a España que aproveche su presidencia rotativa de la Unión Europea, que se desarrollará de julio a diciembre de este año, para establecer "una legislación robusta y respetuosa" para esta tecnología.

España abre una investigación contra ChatGPT por posibles violaciones de privacidad

El nuevo Reglamento de la Inteligencia Artificial que prepara la UE encara ya la fase final de su trámite comunitario y es una de las importantes leyes europeas en materia digital que se aprobarán durante la presidencia española. El Gobierno de Pedro Sánchez ha tenido además una actitud proactiva en esta regulación, ofreciendo a España como campo de pruebas del Reglamento y lanzando instituciones nuevas como la AESIA, la Agencia Española de Supervisión de la Inteligencia Artificial, que se establecerá en A Coruña.

"Dado el papel que desempeñará el Gobierno español a partir del 1 de julio de 2023 al asumir la Presidencia rotatoria del Consejo, y el interés mostrado ya por liderar la carrera de la Inteligencia Artificial en Europa, creemos que la Presidencia española debe asumir un papel asertivo y garantizar que la legislación sea a prueba de futuro", recalcan las organizaciones firmantes.

"Algunas de nuestras preocupaciones se refieren a prácticas peligrosas que conducen a la vigilancia masiva sobre la población. Al fomentar la vigilancia masiva y amplificar algunas de las desigualdades sociales y desequilibrios de poder más profundos, los sistemas de IA están poniendo en grave peligro nuestros derechos fundamentales y los procesos y valores democráticos", exponen.

La carta concentra las solicitudes al Gobierno en cinco puntos. El primero es aumentar los sistemas prohibidos en el Reglamento, en donde incluyen la justicia predictiva, el reconocimiento emocional o el uso de sistemas que puedan manipular a personas aprovechando una vulnerabilidad. Se trata de una postura que comparte el Parlamento Europeo, que ha pedido recientemente aumentar el listado de prácticas prohibidas que incluía el la propuesta original de la Comisión para excluir el uso indiscriminado de tecnologías como el reconocimiento facial por parte de la policía.

El segundo punto de la carta pide "eliminar cualquier tipo de discrecionalidad en el proceso de clasificación de sistemas de alto riesgo". Este tipo de inteligencias artificiales serán las más restringidas y las que deberán incluir más salvaguardas antes de su despliegue. Los firmantes consideran que la propuesta actual no aclara lo suficiente qué tipo de sistemas serán clasificados con el nivel de riesgo más alto y cuándo.

El tercero y el cuarto se refieren a la transparencia obligada de todos los sistemas de IA y al establecimiento de mecanismos para que las personas afectadas por ellos puedan "presentar reclamaciones ante autoridades públicas en caso de incumplimientos del Reglamento".

La última solicitud de la misiva gira en torno a la capacidad de los fabricantes y desarrolladores de esta tecnología para influir en cuestiones relacionadas con los derechos fundamentales. Por ello, piden que "los estándares técnicos no sean utilizados para evaluar la posible afectación sobre los derechos fundamentales de las personas" y que "se pongan los medios y recursos necesarios para garantizar una mayor participación de la sociedad civil en los procesos de estandarización sobre el Reglamento de IA, que ya están teniendo lugar".

Por último, las organizaciones firmantes piden al Ejecutivo establecer una agenda de reuniones con la sociedad civil y "garantías" sobre cuál será su plan de acción para conseguir los objetivos marcados en la carta.

# data[].attributes.attachment_link.title
60 organizaciones instan al Gobierno a controlar la inteligencia artificial durante su presidencia de la UE

# data[].attributes.attachment_link.description
Hasta 60 organizaciones de la sociedad civil, tanto españolas como internacionales, han remitido una carta este miércoles al Gobierno instándole a aumentar "la protección de los derechos fundamentales" en la nueva regulación para la inteligencia artificial que se está negociando en Bruselas.

# data[].attributes.attachment_caption
✉️ Carta al Gobierno sobre la futura supervisión de algoritmos e inteligencias artificiales

# data[].attributes.headline
Carta al Gobierno sobre la futura supervisión de algoritmos e inteligencias artificiales

# data[].attributes.subject
Carta al Gobierno sobre la futura supervisión de algoritmos e inteligencias artificiales

# data[].attributes.attachment_link.readable_text
Actualización. 17.05.2023

Más de 60 organizaciones hemos enviado una nueva carta a la Presidencia española del Consejo de la UE pidiendo mejoras en la Ley de Inteligencia Artificial de la Unión Europea, encaminadas a proteger mejor derechos fundamentales. Pedimos suficientes garantías y controles en la normativa europea de IA para que estos sistemas no incurran en riesgo de amplificar desigualdades sociales. Aquí puedes consultar la carta ( en castellano, catalán e inglés) y la nota de prensa.

En una carta al Gobierno de España, más de 40 organizaciones de la sociedad civil, entre ellas Civio, reclamamos al Gobierno que dé prioridad al respeto por los derechos, la transparencia y la inclusividad en el uso de algoritmos, inteligencias artificiales (IAs) y sistemas de decisión automatizados por parte de las administraciones públicas.

Y, para ello, pedimos que incluya a la sociedad civil tanto en el proceso de creación de la futura Agencia Estatal para la Supervisión de la Inteligencia Artificial (AESIA) como en su posterior funcionamiento con mecanismos formales de interlocución y debate público.

Estas son las claves:

✔️ ¿Quiénes firman esta carta? Junto con Civio, la promueven Lafede.cat, la Fundación Eticas, Algorights, el Observatorio del Trabajo, Algoritmos y Sociedad, AlgoRace o Komons. Además de ellas, se han adherido más de 40 organizaciones.

✔️ ¿A quién va dirigida? A la Secretaría de Estado de Digitalización e Inteligencia Artificial.

✔️ ¿Qué pedimos? Que la futura Agencia Estatal para la Supervisión de la Inteligencia Artificial (AESIA):

Facilite que quienes ya velamos por el buen funcionamiento y la garantía de derechos asociados al uso de algoritmos, inteligencias artificiales (IAs) y sistemas de decisión informatizados podamos participar en su diseño y estrategia.

Garantice la transparencia, equidad y responsabilidad de este tipo de tecnologías.

Sea un organismo realmente independiente, transparente y que tenga como una de sus prioridades facilitar la comprensión de toda la ciudadanía sobre estos sistemas.

✔️ ¿En qué contexto? La creación de la AESIA está prevista para este mismo año. Se espera además que sirva de "campo de pruebas" para la aplicación del futuro reglamento europeo sobre las IAs y para la puesta en marcha de un organismo supervisor para toda la UE.

✔️ ¿Qué hace Civio en esto? Desde 2018 tenemos un litigio abierto para conocer el código fuente de BOSCO, la aplicación informática desarrollada por el Gobierno y que usan las eléctricas para conceder o no descuentos en su factura de la luz. ¿Por qué? Porque demostramos que denegó la ayuda a personas que tenían derecho a ella por un fallo de diseño. Los tribunales nos han denegado en primera instancia el acceso a dicho código, y condenado a pagar las costas. Por supuesto, hemos recurrido. Y ojo, que puede haber remontada.

✔️ ¿Por qué es importante? Nuestra relación con lo público está cada día más automatizada. La opacidad sobre cómo funcionan los sistemas informáticos que, cada día más, determinan derechos y deberes, nos afecta individualmente y también como sociedad. ¿Debemos confiar en ellos a ojos ciegos? ¿O -como pensamos en Civio- deberíamos poder conocerlos y auditarlos, como al resto de códigos y normas que rigen sobre nuestras vidas?

👉 Aquí puedes leer la carta en castellano, , (¡gracias a nuestro socio Anxo por la traducción!) e , y adherirte a ella, si quieres, desde la plataforma o colectivo que representes.

👉 Aquí puedes descargar la nota de prensa colectiva que hemos emitido.

NO a la opacidad en los procesos de decisión informatizados

En Civio hacemos un enorme esfuerzo para que exista transparencia sobre el funcionamiento de programas y sistemas informáticos que rigen sobre nuestras vidas y derechos.

Sí tú también piensas que nos jugamos la transparencia del mañana en procesos como este, ayúdanos a decir NO al uso de algoritmos ocultos al escrutinio público por parte de las administraciones.
ÚNETE AHORA
Gracias por tu compromiso.

# data[].attributes.attachment_link.title
✉️ Carta al Gobierno sobre la futura supervisión de algoritmos e inteligencias artificiales

# data[].attributes.attachment_link.description
Actualización. 17.05.2023 Más de 60 organizaciones hemos enviado una nueva carta a la Presidencia española del Consejo de la UE pidiendo mejoras en la Ley de Inteligencia Artificial de la Unión Europea, encaminadas a proteger mejor derechos fundamentales. Pedimos suficientes garantías y controles en la normativa europea de IA para que estos sistemas no incurran en riesgo de amplificar desigualdades sociales.

# data[].attributes.attachment_caption
AI regulation in Canada is moving forward. Here's what needs to come next. - Schwartz Reisman Institute

# data[].attributes.headline
AI regulation in Canada is moving forward. Here’s what needs to come next.

# data[].attributes.subject
AI regulation in Canada is moving forward. Here’s what needs to come next.

# data[].attributes.attachment_link.readable_text
Part of the anticipated two-year timeline allows for consultations, feedback, and revisions. While this is important, Canada can put itself leagues ahead by simply selecting a few low-barrier initiatives to push through quickly, offering increased certainty and stability to industry and investors. One potential course of action is creating so-called "safe harbours."

What are "safe harbours"?

Safe harbours allow organizations to continue AI use and innovation without facing uncertainty about legal repercussions. Safe harbours set out specific guidelines for acceptable AI and make it clear that, for the time being, organizations following these guidelines or performing to certain minimum standards will not be held responsible.

For example, an organization could deploy an algorithmic decision-making system and be protected from liability if a certified auditor examines the system and declares it fair. Early regulations could create the apparatus for certifying some auditors and implementing the use of safe harbours, with the added benefit of driving the development of the AI audit space.

Stakeholders worry that the bare-bones formulation of AIDA cannot solve the uncertainty currently being faced by industry and investors. However, the combination of AIDA and safe harbours would help mitigate this uncertainty. Indeed, it would do so in a way that holding off on AI legislation (as many are pushing for) could never accomplish.

Consider algorithmic discrimination. Without a safe harbour, a company developing AI model that, for example, decides which applicants receive loans, currently faces legal uncertainty as to what is expected of them in order to mitigate potential algorithmic bias. If Canada were to hold off on AIDA or even follow its current two-year regulatory trajectory, the company's options are to refrain from using the model or to move forward and risk repercussions. However, with safe harbours in place and the promise of regulation to follow, the company could, for example, place its product on the market after undergoing an impact assessment and performance test by certified organizations.

Not everything need be solved by inventing something new, either. The government could leverage existing regimes to cover many concerns about AI right now. Consider the recent white paper published by the Schwartz Reisman Institute for Technology and Society examining how existing consumer protection laws can be harnessed to control the use of AI in the financial services sector.

With the framework offered by AIDA and regulatory safe harbours, broad uncertainty for industry could be effectively mitigated, allowing for safe, trustworthy AI to flourish. Rather than stifling innovation, effective AI regulation has the ability to unlock even greater potential while ensuring that citizens remain protected from the risks posed by rapidly advancing technologies.
This op-ed originally appeared in The Hill Times.
Want to learn more?

# data[].attributes.attachment_link.title
AI regulation in Canada is moving forward. Here's what needs to come next. - Schwartz Reisman Institute

# data[].attributes.attachment_link.description
Canada took an important step towards effectively regulating artificial intelligence when Parliament completed its second reading of the Artificial Intelligence and Data Act in April 2023. But there is still much to do to ensure that this agile regulatory framework is put to effective use.

# data[].attributes.attachment_caption
La inteligencia artificial desde un enfoque de Derechos Humanos

# data[].attributes.headline
La inteligencia artificial desde un enfoque de Derechos Humanos

# data[].attributes.subject
La inteligencia artificial desde un enfoque de Derechos Humanos

# data[].attributes.attachment_link.readable_text
Esperar menos por el transporte público, permitir el acceso a atención en salud a personas que están lejos de centros urbanos, identificar estrategias para adaptarnos mejor al cambio climático, enfrentar de mejor manera las sequías, incrementar la producción de alimentos más sanos, diseñar edificios que sean más eficientes en su energía, son solo algunos de los beneficios que la inteligencia artificial podría generar o ya está generando en nuestras vidas cotidianas.

Sin embargo, sin una perspectiva ética, estos cambios pueden ampliar las desigualdades económicas, sociales y culturales. La paradoja está presente y la oportunidad para tomar acciones es parte de la discusión pública en todo el mundo.

Contamos con evidencia respecto al rumbo que podría tomar la inteligencia artificial si no es bien gestionada y los ejemplos sobran: personas que han sido catalogadas como más propensas a cometer delitos solo porque algoritmos de inteligencia artificial tienen sesgos en torno a personas afrodescendientes o latinas; sistemas de reconocimiento facial que se alimentan de preconceptos estereotipados; amenazas hacia la democracia, sus procesos electorales y la credibilidad de sus instituciones por acciones como la desinformación, diseminación de discursos de odio, cibervigilancia.

Todo esto pone en evidencia la necesidad de adoptar principios éticos que frenen cualquier intento de manipulación de comportamientos sociales, exacerbación de las desigualdades, profundización de los sesgos, fomento del extremismo y la radicalización, discriminación o daño a la diversidad, y erosión de los derechos humanos y las libertades fundamentales que constituyen nuestras democracias.

Por ello, y en respuesta a esta necesidad, en noviembre de 2021, los 193 Estados Miembros de la Unesco aprobaron la "Recomendación sobre la Ética de la inteligencia artificial".

Este es el primer instrumento normativo mundial en la materia que establece un estándar global para la inteligencia artificial, que se basa en valores y principios éticos para ser aplicados en todo el ciclo de vida de la IA.

Además, ofrece orientación detallada sobre cómo aplicarlos en una amplia gama de áreas que están siendo impactadas por la IA, como la gobernanza de datos, el medio ambiente, la igualdad de género, la economía y el trabajo, la cultura, la educación y la investigación.

La Recomendación de Unesco es un punto de partida. Transitar este camino de manera coordinada requiere una estrategia basada en 3 P: proveer de capacidades, prever resultados y priorizar la regulación.

Por un lado proveer de capacidades y fortalecer las herramientas con que cuentan las personas para dirigir y guiar el desarrollo de la inteligencia artificial. El desarrollo de espacios de formación para proveer de conocimiento a quienes se vean enfrentados a dilemas en torno a la IA es clave.

Por otro lado, es necesario prever y estar preparados respecto a los impactos que tiene la IA sobre la vida cotidiana de las personas. Un ejemplo de ello es la creación de un Observatorio de ética de la IA, de una red de mujeres en IA #Women4EAI, así como la generación de instancias de grupo de expertos y expertas en que brinden pautas en la evolución de esta temática.

Y como este es un asunto colectivo, se requiere priorizar y planificar acciones en conjunto. Aquí ningún gobierno de manera aislada será capaz de poder afrontar este fenómeno, se requiere coordinación, especialmente entre los países de América Latina. En conjunto con la CAF- Banco de Desarrollo de América Latina, próximamente se lanzará el Consejo Regional para la implementación de la Recomendación sobre la Ética de IA de la Unesco, como primer espacio de gobernanza política de la IA en la región.

Pero además esta planificación requiere de diagnósticos, y por ello la Unesco colabora con los países de la región para determinar su grado de preparación para implementar la IA de manera ética y responsable para todos sus ciudadanos, destacando qué cambios institucionales y regulatorios serán necesarios.

Es fundamental que los países tengan capacidad humana, políticas y regulaciones para abordar los desafíos que plantea la IA, y garantizar que las personas y sus intereses estén siempre en el centro del desarrollo de la IA.

ChatGPT o Bard podrían haber escrito esta columna, pero lo que de la humanidad depende es conducir los esfuerzos para que la inteligencia artificial sea un activo acelerador para alcanzar los Objetivos de Desarrollo Sostenible. Hay una oportunidad para la acción coordinada entre Estados, academia, sociedad civil y empresas, trazando la ruta de la inteligencia artificial con un enfoque de derechos humanos. Es momento de que la sociedad toda tomé el timón para conducir la evolución de la inteligencia artificial hacia un desarrollo sostenible, que no deje a nadie atrás.
Ernesto Fernández Polcuch es Director de la Oficina Regional de UNESCO, en Montevideo. Mirá también Mirá también

# data[].attributes.attachment_link.title
La inteligencia artificial desde un enfoque de Derechos Humanos

# data[].attributes.attachment_link.description
Esperar menos por el transporte público, permitir el acceso a atención en salud a personas que están lejos de centros urbanos, identificar estrategias para adaptarnos mejor al cambio climático, enfrentar de mejor manera las sequías, incrementar la producción de alimentos más sanos, diseñar edificios que sean más eficientes en su energía, son solo algunos de los beneficios que la inteligencia artificial podría generar o ya está generando en nuestras vidas cotidianas.

# data[].attributes.attachment_link.readable_text
At its heart, AI is computer programming that learns and adapts. It can't solve every problem, but its potential to improve our lives is profound. At Google, we use AI to make products more useful-from email that's spam-free and easier to compose, to a digital assistant you can speak to naturally, to photos that pop the fun stuff out for you to enjoy.

Beyond our products, we're using AI to help people tackle urgent problems. A pair of high school students are building AI-powered sensors to predict the risk of wildfires. Farmers are using it to monitor the health of their herds. Doctors are starting to use AI to help diagnose cancer and prevent blindness. These clear benefits are why Google invests heavily in AI research and development, and makes AI technologies widely available to others via our tools and open-source code.

We recognize that such powerful technology raises equally powerful questions about its use. How AI is developed and used will have a significant impact on society for many years to come. As a leader in AI, we feel a deep responsibility to get this right. So today, we're announcing seven principles to guide our work going forward. These are not theoretical concepts; they are concrete standards that will actively govern our research and product development and will impact our business decisions.

We acknowledge that this area is dynamic and evolving, and we will approach our work with humility, a commitment to internal and external engagement, and a willingness to adapt our approach as we learn over time.

Objectives for AI applications

We will assess AI applications in view of the following objectives. We believe that AI should:
1. Be socially beneficial.

The expanded reach of new technologies increasingly touches society as a whole. Advances in AI will have transformative impacts in a wide range of fields, including healthcare, security, energy, transportation, manufacturing, and entertainment. As we consider potential development and uses of AI technologies, we will take into account a broad range of social and economic factors, and will proceed where we believe that the overall likely benefits substantially exceed the foreseeable risks and downsides.
2. Avoid creating or reinforcing unfair bias.
AI also enhances our ability to understand the meaning of content at scale. We will strive to make high-quality and accurate information readily available using AI, while continuing to respect cultural, social, and legal norms in the countries where we operate. And we will continue to thoughtfully evaluate when to make our technologies available on a non-commercial basis.
3. Be built and tested for safety.
AI algorithms and datasets can reflect, reinforce, or reduce unfair biases. We recognize that distinguishing fair from unfair biases is not always simple, and differs across cultures and societies. We will seek to avoid unjust impacts on people, particularly those related to sensitive characteristics such as race, ethnicity, gender, nationality, income, sexual orientation, ability, and political or religious belief.
4. Be accountable to people.
We will continue to develop and apply strong safety and security practices to avoid unintended results that create risks of harm. We will design our AI systems to be appropriately cautious, and seek to develop them in accordance with best practices in AI safety research. In appropriate cases, we will test AI technologies in constrained environments and monitor their operation after deployment.
5. Incorporate privacy design principles.
We will design AI systems that provide appropriate opportunities for feedback, relevant explanations, and appeal. Our AI technologies will be subject to appropriate human direction and control.
6. Uphold high standards of scientific excellence.
We will incorporate our privacy principles in the development and use of our AI technologies. We will give opportunity for notice and consent, encourage architectures with privacy safeguards, and provide appropriate transparency and control over the use of data.

Technological innovation is rooted in the scientific method and a commitment to open inquiry, intellectual rigor, integrity, and collaboration. AI tools have the potential to unlock new realms of scientific research and knowledge in critical domains like biology, chemistry, medicine, and environmental sciences. We aspire to high standards of scientific excellence as we work to progress AI development.
7. Be made available for uses that accord with these principles.
We will work with a range of stakeholders to promote thoughtful leadership in this area, drawing on scientifically rigorous and multidisciplinary approaches. And we will responsibly share AI knowledge by publishing educational materials, best practices, and research that enable more people to develop useful AI applications.

Primary purpose and use: the primary purpose and likely use of a technology and application, including how closely the solution is related to or adaptable to a harmful use

Nature and uniqueness: whether we are making available technology that is unique or more generally available

Scale: whether the use of this technology will have significant impact

Nature of Google's involvement: whether we are providing general-purpose tools, integrating tools for customers, or developing custom solutions

Many technologies have multiple uses. We will work to limit potentially harmful or abusive applications. As we develop and deploy AI technologies, we will evaluate likely uses in light of the following factors:

1. Technologies that cause or are likely to cause overall harm. Where there is a material risk of harm, we will proceed only where we believe that the benefits substantially outweigh the risks, and will incorporate appropriate safety constraints.

2. Weapons or other technologies whose principal purpose or implementation is to cause or directly facilitate injury to people.

3. Technologies that gather or use information for surveillance violating internationally accepted norms.

4. Technologies whose purpose contravenes widely accepted principles of international law and human rights.

AI applications we will not pursue

In addition to the above objectives, we will not design or deploy AI in the following application areas:

We want to be clear that while we are not developing AI for use in weapons, we will continue our work with governments and the military in many other areas. These include cybersecurity, training, military recruitment, veterans' healthcare, and search and rescue. These collaborations are important and we'll actively look for more ways to augment the critical work of these organizations and keep service members and civilians safe.

AI for the long term

While this is how we're choosing to approach AI, we understand there is room for many voices in this conversation. As AI technologies progress, we'll work with a range of stakeholders to promote thoughtful leadership in this area, drawing on scientifically rigorous and multidisciplinary approaches. And we will continue to share what we've learned to improve AI technologies and practices.

We believe these principles are the right foundation for our company and the future development of AI. This approach is consistent with the values laid out in our original Founders' Letter back in 2004. There we made clear our intention to take a long-term perspective, even if it means making short-term tradeoffs. We said it then, and we believe it now.

# data[].attributes.attachment_link.description
We're announcing seven principles to guide our work in AI.

# data[].attributes.attachment_caption
A Policy Agenda for Responsible Progress in Artificial Intelligence 1

# data[].attributes.headline
Google White Paper: A Policy Agenda for Responsible Progress in Artificial Intelligence

# data[].attributes.subject
Google White Paper: A Policy Agenda for Responsible Progress in Artificial Intelligence

# data[].attributes.headline
The National Artificial Intelligence Advisory Committee (#NAIAC) Year 1 Report 2023 identifies a number of risks, challenges, and problems associated with AI.

# data[].attributes.subject
The National Artificial Intelligence Advisory Committee (#NAIAC) Year 1 Report 2023 identifies a number of risks, challenges, and problems associated with AI.

# data[].attributes.headline
Conversatorio: IA y enseñanza: ¿Cómo abordar ChatGPT desde el aula?

# data[].attributes.subject
Conversatorio: IA y enseñanza: ¿Cómo abordar ChatGPT desde el aula?

# data[].attributes.attachment_link.title
Conversatorio: IA y enseñanza: ¿Cómo abordar ChatGPT desde el aula?

# data[].attributes.headline
Entrevista a Karina Pedace, doctora en filosofía especializada en inteligencia artificial. "La inteligencia artificial es un certificado de poder"

# data[].attributes.subject
Entrevista a Karina Pedace, doctora en filosofía especializada en inteligencia artificial. "La inteligencia artificial es un certificado de poder"

# data[].attributes.attachment_link.readable_text
La inteligencia artificial cumple un rol cada vez más importante en la vida cotidiana de los humanos. Ya sea ver una película que nos recomendó el servicio de streaming que contratamos, chequear el clima en nuestro celular o decidir el destino de nuestras vacaciones por las publicidades en internet. Todas esas acciones ya no nos sorprenden, y las aceptamos como parte de nuestro día a día.

En las últimas semanas, las redes sociales se llenaron de usuarios que compartieron sus experiencias con el chat GPT, un chat con inteligencia artificial cuya diferencia entre otras de su tipo consiste en su aparente precisión: es capaz de responder preguntas, generar textos, traducir y brindar información sobre un abanico de tópicos variados, en tiempo real, y con un lenguaje coherente, imitando la conversación humana.

Este tipo de avances tecnológicos producen en la sociedad debates acerca de cuáles esferas de la vida cotidiana se verán afectadas, y cuánto: ya sea el mundo del trabajo, de la educación, el arte, entre otras. Si bien el debate es imprescindible, la pregunta es quién tiene el derecho de tenerlo. Quizás, lo importante sería que no esté cooptado por los territorios que suelen apropiarse del debate.

Recientemente, la investigadora de la Universidad Nacional de La Matanza ( UNLaM), Karina Pedace, recibió un reconocimiento como una de las 100 Mujeres Brillantes en Ética de la Inteligencia Artificial (IA) - WAIE -, una distintición de la institución americana Social Good Fund por su trabajo y compromiso por la reflexión crítica sobre la inteligencia artificial.

Buenos Aires 12 entrevistó a Karina acerca de la importancia de un debate situado sobre los límites y alcances de la inteligencia artificial, además de la responsabilidad de los usuarios de pensar críticamente.

Ni tan inteligente, ni tan artificial

"Yo adscribo a la teoría de que la inteligencia artificial no es tan inteligente ni tan artificial", afirma la investigadora, doctora en Filosofía por la Universidad de Buenos Aires, docente e investigadora en el Departamento de Humanidades y Ciencias Sociales de la UNLaM y en la Facultad de Filosofía y Letras de la UBA.

Karina se especializa en investigar lo que se conoce como human-centered AI, o inteligencia artificial centrada en lo humano. "Por un lado, no es tan artificial porque existe de forma corpórea, está hecha de recursos materiales, mano de obra, infraestructura, logística. Por otro lado, decimos que no son tan inteligentes en el sentido de que no son capaces de generar pensamiento por sí solas", afirma.

Estos primeros conceptos para entender la IA son un punto de partida crucial para entender los límites y desarrollos del debate. Los sistemas basados en aprendizaje automático o machine learning, tan en boga en estos días, no son capaces de discernir algo sin un entrenamiento vasto, con enormes conjuntos de datos, o directrices decididas previamente por humanos.

"Todo desarrollo tecnológico implica nuevas posibilidades de acción, es decir, qué acciones queremos realizar y hacia dónde queremos orientarlas. Esa es una pregunta filosófica, que la técnica no puede responder. Somos nosotros los humanos los que tenemos que resolverla", afirma Karina.

Sesgos

Sobre todo a partir del grupo de investigación que Karina integra desde la Universidad Nacional de La Matanza ( UNLaM), se trabaja sobre los sesgos presentes en la inteligencia artificial. Según la filósofa, hay estructuras subyacentes, políticas y sociales que permean la IA.

"La inteligencia artificial es un certificado de poder", afirma Karina. "Es importante que sepamos que son sistemas diseñados mediante los saberes predominantes ya existentes. Las tecnologías, en cuanto constructos culturales y políticos, no están desprovistas de valores. Ya desde el momento en que identificamos que un problema puede recibir una solución tecnologica, hay mucha decisión humana en juego. Los datos de entrenamiento de esta inteligencia artificial pueden ser discriminados según sesgos, de género, raza, clase, que terminan subalternizando grupos ya de por sí subalternizados".

En 2018, la provincia de Salta y el gigante tecnológico estadounidense Microsoft presentaron un sistema algorítmico para predecir el embarazo adolescente llamado Plataforma Tecnológica de Intervención Social. El objetivo declarado era utilizar el algoritmo para predecir qué niñas de zonas de bajos ingresos quedarían embarazadas en los próximos cinco años, sin comunicar qué acciones se tomarían al respecto o cómo esta información ayudaría a prevenir el embarazo adolescente.

"Los datos fueron recolectados bajo una serie de asunciones tremendas. Por ejemplo, recolectando datos a través de encuestas a los jefes de familia, en vez de a las sujetas a las que la inteligencia trataba de "ayudar". Es crucial pensar quienes y cómo van a ser impactadas por el desarrollo del sistema, además de pensar en no vulnerar derechos básicos de las personas, como podría ser el derecho a la privacidad", afirma.

Qué hacer: redirigir el debate

A pesar de que su reconocimiento es individual, Karina constantemente refuerza y reconoce el carácter colectivo fundamental en todo esto, no solamente de sus investigaciones, sino del diálogo con sus colegas.

"El pensamiento filosófico se construye a través del diálogo", afirma. Pese a tener una larga trayectoria académica, Karina piensa que la filosofía tiene un compromiso muy grande con salir de la torre de marfil a la que a veces se acostumbra, y salir a la calle.

"La conversación sobre IA tiene que ser polifónica, salir de la academia. Por ejemplo, de lugares de organización civil, organizaciones sociales de base, el estado. Es evidente que la mera buena voluntad y autoregulación de las corporaciones hegemónicas no es ninguna garantía, y no podemos dejarlo librado al azar", afirma.

La filósofa es parte del grupo GIFT, conformado por Tomás Balmaceda, Diana Pérez, Diego Lawler, Maximiliano Zeller y Tobías Schleider, un grupo de filósofos argentinos que buscan no solamente reflexionar sobre la inteligencia artificial, sino diversificar y visibilizar el debate. Por eso, organizan lecturas, talleres y debates para que la sociedad participe del cambio.

"Lo que hace falta es pensar de una manera enraizada, situada, multidisciplinar, y pensar también desde nuestro sur, ya que en general estas discusciones se dan desde el norte global. Es importante situar la discusión crítica en América latina, tratandose de una región tan desigual, porque lo que no queremos es que ayude a que se sigan exhacerbando esas brechas", afirma.

Sin demonizar las tecnologías, el pensamiento crítico sobre estos avances nos permitiría esquivar la fiebre celebratoria de la innovación por la innovación en sí misma, y, en cambio, tomar distancia para pensar democráticamente.

"Algunas de las preguntas más importantes que tenemos que hacernos son qué concepción de lo humano tenemos para diseñar inteligencia basada en eso, y bajo qué condiciones lo haremos, con qué tipo de costos, para qué y quiénes serán los beneficiarios de eso. Además, quienes van a tener acceso a ella, ya que actualmente hay una gran porción de la población que no tiene acceso a este tipo de tecnologías", afirma.

Según Karina, todes tenemos una responsabilidad. En principio, como usuarios, y después desde el lugar que a cada quién le toque ocupar. Por lo pronto, quizás leer los términos y condiciones antes de hacerme una cuenta en cualquier página web tenga que ser el comienzo.

# data[].attributes.attachment_link.title
"La inteligencia artificial es un certificado de poder" | Entrevista a Karina Pedace, doctora en filosofía especializada en inteligencia artificial.

# data[].attributes.attachment_link.description
La inteligencia artificial cumple un rol cada vez más importante en la vida cotidiana de los humanos. Ya sea ver una película que nos recomendó el servicio de streaming que contratamos, chequear el clima en nuestro celular o decidir el destino de nuestras vacaciones por las publicidades en internet.

# data[].attributes.attachment_link.authors[].name
Leah Friedman, Nancye Blair Black, Erin Walker, and Jeremy Roschelle

# data[].attributes.attachment_link.description
Artificial intelligence is coming to your learners and will raise challenging issues that need experts like you. Learn how you can get involved in AI and Educational Policy.

# data[].attributes.attachment_caption
A Guide to Challenges and Recommendations for the Implementation of a Fairer AI EN

# data[].attributes.headline
Challenges and Recommendations for the Implementation of a Fairer AI - Fundación Vía Libre

# data[].attributes.subject
Challenges and Recommendations for the Implementation of a Fairer AI - Fundación Vía Libre

# data[].attributes.headline
Chibás Ortiz, F, Novomisky, S. (2022). Introducción. Alfabetización y ciudadanía digital.En: UNESCO y Defensoría del Público de Servicios de Comunicación Audiovisual. Navegando en la Infodemia con AMI. Pp. 20-30. 

# data[].attributes.subject
Chibás Ortiz, F, Novomisky, S. (2022). Introducción. Alfabetización y ciudadanía digital.En: UNESCO y Defensoría del Público de Servicios de Comunicación Audiovisual. Navegando en la Infodemia con AMI. Pp. 20-30. 

# data[].attributes.headline
Inteligencia artificial, entre el deseo y el miedo: ¿Cómo modificarán nuestra forma de pensar y percibir el mundo las nuevas herramientas basadas en inteligencia artificial?  por C. Scolari

# data[].attributes.subject
Inteligencia artificial, entre el deseo y el miedo: ¿Cómo modificarán nuestra forma de pensar y percibir el mundo las nuevas herramientas basadas en inteligencia artificial?  por C. Scolari

# data[].attributes.headline
IA generativas y educacion: TEC de Monterrey

# data[].attributes.subject
IA generativas y educacion: TEC de Monterrey

# data[].attributes.attachment_link.title
El ChatGPT y las IA generativas en la educación superior

# data[].attributes.attachment_link.description
¿Cómo las IA generativas y el CHAT GPT van a impactar en la educación superior? En esta edición de Diálogos, expertos del Tec de Monterrey, la UOC y la PUCP ...

# data[].attributes.headline
Desafíos de la inteligencia artificial para repensar la alfabetización mediática. Jornada 3: La investigación sobre AMI y sus implicancias en la IA y educación en América Latina. 

# data[].attributes.subject
Desafíos de la inteligencia artificial para repensar la alfabetización mediática. Jornada 3: La investigación sobre AMI y sus implicancias en la IA y educación en América Latina. 

# data[].attributes.attachment_link.title
Jornada 3 - 347. Desafíos de la inteligencia artificial para repensar la alfabetización mediática...

# data[].attributes.attachment_link.title
Un curso en línea gratuito - Elements of AI

# data[].attributes.attachment_link.description
Descubre más sobre el curso de IA de la Universidad de Helsinki y Reaktor para estudiantes y profesionales (no se requieren conocimientos específicos de programación ni de matemáticas).

# data[].attributes.attachment_caption
Digital-driven Education Reform Plan Announced

# data[].attributes.headline
Korea: Digital-driven Education Reform Plan Announced:

Unlocking Opportunities for Personalized Learning in Education

# data[].attributes.subject
Korea: Digital-driven Education Reform Plan Announced:

Unlocking Opportunities for Personalized Learning in Education

# data[].attributes.attachment_link.readable_text
Unlocking Opportunities for Personalized Learning in Education

□ "AI-driven digital textbooks" enabled by AI technologies will be phased-in math, English, and informatics starting from 2025

□ Personalized learning adapted to student needs will be offered via coordinated efforts of teachers and AI assistant teachers

□ Leading teachers at the front lines of AI technologies will be fostered, making meaningful student-teacher connections

□ Over 300 lead school for digital learning will be operated by 7 local offices of education in 2023

# data[].attributes.attachment_link.title
Digital-driven Education Reform Plan Announced

# data[].attributes.attachment_link.description
Unlocking Opportunities for Personalized Learning in Education □ "AI-driven digital textbooks" enabled by AI technologies will be phased-in math, English, and informatics starting from 2025 □ Personalized learning adapted to student needs will be offered via coordinated efforts of teachers and AI assistant teachers □ Leading teachers at the front lines of AI technologies will be fostered, making meaningful student-teacher connections □ Over 300 lead school for digital learning will be operated by 7 local offices of education in 2023

# data[].attributes.attachment_caption
Around the halls: What should the regulation of generative AI look like?

# data[].attributes.headline
Around the halls: What should the regulation of generative AI look like?

# data[].attributes.subject
Around the halls: What should the regulation of generative AI look like?

# data[].attributes.attachment_link.readable_text
We are living in a time of unprecedented advancements in generative artificial intelligence (AI), which are AI systems that can generate a wide range of content, such as text or images. The release of ChatGPT, a chatbot powered by OpenAI's GPT-3 large language model (LLM), in November 2022 ushered generative AI into the public consciousness, and other companies like Google and Microsoft have been equally busy creating new opportunities to leverage the technology. In the meantime, these continuing advancements and applications of generative AI have raised important questions about how the technology will affect the labor market, how its use of training data implicates intellectual property rights, and what shape government regulation of this industry should take. Last week, a congressional hearing with key industry leaders suggested an openness to AI regulation-something that legislators have already considered to reign in some of the potential negative consequences of generative AI and AI more broadly. Considering these developments, scholars across the Center for Technology Innovation (CTI) weighed in around the halls on what the regulation of generative AI should look like.

Regulation of Generative AI Could Start with Good Consumer Disclosures

Generative AI refers to machine learning algorithms that can create new content like audio, code, images, text, simulations, or even videos. More recent focus has been on its enablement of chatbots, including ChatGPT, Bard, Copilot, and other more sophisticated tools that leverage LLMs to perform a variety of functions, like gathering research for assignments, compiling legal case files, automating repetitive clerical tasks, or improving online search. While debates around regulation are focused on the potential downsides to generative AI, including the quality of datasets, unethical applications, racial or gender bias, workforce implications, and greater erosion of democratic processes due to technological manipulation by bad actors, the upsides include a dramatic spike in efficiency and productivity as the technology improves and simplifies certain processes and decisions like streamlining physician processing of medical notes, or helping educators teach critical thinking skills. There will be a lot to discuss around generative AI's ultimate value and consequence to society, and if Congress continues to operate at a very slow pace to regulate emerging technologies and institute a federal privacy standard, generative AI will become more technically advanced and deeply embedded in society. But where Congress could garner a very quick win on the regulatory front is to require consumer disclosures when AI-generated content is in use and add labeling or some type of multi-stakeholder certification process to encourage improved transparency and accountability for existing and future use cases.

Once again, the European Union is already leading the way on this. In its most recent AI Act, the EU requires that AI-generated content be disclosed to consumers to prevent copyright infringement, illegal content, and other malfeasance related to end-user lack of understanding about these systems. As more chatbots mine, analyze, and present content in accessible ways for users, findings are often not attributable to any one or multiple sources, and despite some permissions of content use granted under the fair use doctrine in the U.S. that protects copyright-protected work, consumers are often left in the dark around the generation and explanation of the process and results.

Congress should prioritize consumer protection in future regulation, and work to create agile policies that are futureproofed to adapt to emerging consumer and societal harms-starting with immediate safeguards for users before they are left to, once again, fend for themselves as subjects of highly digitized products and services. The EU may honestly be onto something with the disclosure requirement, and the U.S. could further contextualize its application vis-à-vis existing models that do the same, including the labeling guidance of the Food and Drug Administration (FDA) or what I have proposed in prior research: an adaptation of the Energy Star Rating system to AI. Bringing more transparency and accountability to these systems must be central to any regulatory framework, and beginning with smaller bites of a big apple might be a first stab for policymakers.

Revisiting HIPAA and Health Information Blocking Rules: Balancing Privacy and Interoperability in the Age of AI

With the emergence of sophisticated artificial intelligence (AI) advancements, including large language models (LLMs) like GPT-4, and LLM-powered applications like ChatGPT, there is a pressing need to revisit healthcare privacy protections. At their core, all AI innovations utilize sophisticated statistical techniques to discern patterns within extensive datasets using increasingly powerful yet cost-effective computational technologies. These three components-big data, advanced statistical methods, and computing resources-have not only become available recently but are also being democratized and made readily accessible to everyone at a pace unprecedented in previous technological innovations. This progression allows us to identify patterns that were previously indiscernible, which creates opportunities for important advances but also possible harms to patients.

Privacy regulations, most notably HIPAA, were established to protect patient confidentiality, operating under the assumption that de-identified data would remain anonymous. However, given the advancements in AI technology, the current landscape has become riskier. Now, it's easier than ever to integrate various datasets from multiple sources, increasing the likelihood of accurately identifying individual patients.

Apart from the amplified risk to privacy and security, novel AI technologies have also increased the value of healthcare data due to the enriched potential for knowledge extraction. Consequently, many data providers may become more hesitant to share medical information with their competitors, further complicating healthcare data interoperability.

Considering these heightened privacy concerns and the increased value of healthcare data, it's crucial to introduce modern legislation to ensure that medical providers will continue sharing their data while being shielded against the consequences of potential privacy breaches likely to emerge from the widespread use of generative AI.

Lampedusa on AI Regulation

In " The Leopard," Giuseppe Di Lampedusa's famous novel of the Sicilian aristocratic reaction to the unification of Italy in the 1860s, one of his central characters says, "If we want things to stay as they are, things will have to change."

Something like this Sicilian response might be happening in the tech industry's embrace of inevitable AI regulation. Three things are needed, however, if we do not want things to stay as they are.

The first and most important step is sufficient resources for agencies to enforce current law. Federal Trade Commission Chair Lina Khan properly says AI is not exempt from current consumer protection, discrimination, employment, and competition law, but if regulatory agencies cannot hire technical staff and bring AI cases in a time of budget austerity, current law will be a dead letter.

Second, policymakers should not be distracted by science fiction fantasies of AI programs developing consciousness and achieving independent agency over humans, even if these metaphysical abstractions are endorsed by industry leaders. Not a dime of public money should be spent on these highly speculative diversions when scammers and industry edge-riders are seeking to use AI to break existing law.

Third, Congress should consider adopting new identification, transparency, risk assessment, and copyright protection requirements along the lines of the European Union's proposed AI Act. The National Telecommunications and Information Administration's request for comment on a proposed AI accountability framework and Sen. Chuck Schumer's (D-NY) recently-announced legislative initiative to regulate AI might be moving in that direction.

Innovative AI Requires Innovative Oversight

Both sides of the political aisle, as well as digital corporate chieftains, are now talking about the need to regulate AI. A common theme is the need for a new federal agency. To simply clone the model used for existing regulatory agencies is not the answer, however. That model, developed for oversight of an industrial economy, took advantage of slower paced innovation to micromanage corporate activity. It is unsuitable for the velocity of the free-wheeling AI era.

All regulations walk a tightrope between protecting the public interest and promoting innovation and investment. In the AI era, traversing this path means accepting that different AI applications pose different risks and identifying a plan that pairs the regulation with the risk while avoiding innovation-choking regulatory micromanagement.

Such agility begins with adopting the formula by which digital companies create technical standards as the formula for developing behavioral standards: identify the issue; assemble a standard-setting process involving the companies, civil society, and the agency; then give final approval and enforcement authority to the agency.

Industrialization was all about replacing and/or augmenting the physical power of humans. Artificial intelligence is about replacing and/or augmenting humans' cognitive powers. To confuse how the former was regulated with what is needed for the latter would be to miss the opportunity for regulation to be as innovative as the technology it oversees. We need institutions for the digital era that address problems that already are apparent to all.
Google and Microsoft are general, unrestricted donors to the Brookings Institution. The findings, interpretations, and conclusions posted in this piece are solely those of the author and are not influenced by any donation.

# data[].attributes.attachment_link.title
Around the halls: What should the regulation of generative AI look like?

# data[].attributes.attachment_link.description
We are living in a time of unprecedented advancements in generative artificial intelligence (AI), which are AI systems that can generate a wide range of content, such as text or images.

# data[].attributes.attachment_link.readable_text
Intent

Students should learn how to use AI text generators and other AI-based assistive resources (collectively, AI tools) to enhance rather than damage their developing abilities as writers, coders, communicators, and thinkers. Instructors should ensure fair grading for both those who do and do not use AI tools. The GAIA policy stresses transparency, fairness, and honoring relevant stakeholders such as students eager to learn and build careers, families who send students to the university, professors who are charged with teaching vital skills, the university that has a responsibility to attest to student competency with diplomas, future employers who invest in student because of their abilities and character, and colleagues who lack privileged access to valuable resources. To that end, the GAIA policy adopts a few commonsense limitations on an otherwise embracing approach to AI tools.

Students shall

1. Give credit to AI tools whenever used, even if only to generate ideas rather than usable text or illustrations.

2. When using AI tools on assignments, add an appendix showing (a) the entire exchange, highlighting the most relevant sections; (b) a description of precisely which AI tools were used (e.g. ChatGPT private subscription version or DALL-E free version), (c) an explanation of how the AI tools were used (e.g. to generate ideas, turns of phrase, elements of text, long stretches of text, lines of argument, pieces of evidence, maps of conceptual territory, illustrations of key concepts, etc.); (d) an account of why AI tools were used (e.g. to save time, to surmount writer's block, to stimulate thinking, to handle mounting stress, to clarify prose, to translate text, to experiment for fun, etc.).

3. Not use AI tools during in-class examinations, or assignments, unless explicitly permitted and instructed.

4. Employ AI detection tools and originality checks prior to submission, ensuring that their submitted work is not mistakenly flagged.

5. Use AI tools wisely and intelligently, aiming to deepen understanding of subject matter and to support learning.

Instructors shall

1. Seek to understand how AI tools work, including their strengths and weaknesses, to optimize their value for student learning.

2. Treat work by students who declare no use of AI tools as the baseline for grading.

3. Use a lower baseline for students who declare use of AI tools, depending on how extensive the usage, while rewarding creativity, critical nuance, and the correction of inaccuracies or superficial interpretations in response to suggestions made by AI tools.

4. Employ AI detection tools to evaluate the degree to which AI tools have likely been employed.

5. Impose a significant penalty for low-energy or unreflective reuse of material generated by AI tools and assigning zero points for merely reproducing the output from AI tools.

This policy recognizes that

1. This policy depends on goodwill, a sense of fairness, and honorable character.

2. Some instructors may prefer stronger restrictions on the use of AI tools and they are free to impose them so long as care is taken to maintain transparency and fairness in grading.

3. This policy takes account of the existence of subscription versions of AI tools, which are not affordable for some students; the policy may need to be revised as the differences between subscription and free versions become better understood.

4. This policy may be revised in light of other policies and novel technological developments in AI tools.

This GAIA policy derives from a case study conducted by the 47 juniors and seniors enrolled in the inaugural offering of CDS DS-380, "Data, Ethics, and Society" in Spring 2023. Focusing on the use of OpenAI's ChatGPT in coursework, students were asked to devise a policy for its use in DS-380 that takes full account of the aims of university education and the perspectives of relevant stakeholders, and which can be shared for consideration in other classes. T This policy was further discussed and endorsed by the CDS Academic Policy Committee, which recommended it for adoption by CDS, noting that instructors may adjust it as needed in support of the learning outcomes in their courses. This policy pertains to the use of tools that may rely on current or future technologies that do not (or make it impossible to) adhere to standards that CDS expects its own students and faculty to uphold with respect to appropriation of others work and proper attribution. The policy should not be construed as endorsing this practice. Faculty members in CDS voted unanimously to adopt this policy on March 21, 2023. he case study required students to consider a range of topics from skill building to cheating. Each class session revisited the case study until a consensus was achieved.

# data[].attributes.attachment_link.description
Intent Students should learn how to use AI text generators and other AI-based assistive resources (collectively, AI tools) to enhance rather than damage their developing abilities as writers, coders, communicators, and thinkers. Instructors should ensure fair grading for both those who do and do not use AI tools.

# data[].attributes.headline
Universidad del Rosario: Política de uso de inteligencia artificial en la asignatura

# data[].attributes.subject
Universidad del Rosario: Política de uso de inteligencia artificial en la asignatura

# data[].attributes.attachment_caption
Promoting Academic Integrity in Your Course | Center for Teaching Innovation

# data[].attributes.headline
Cornell University: Promoting Academic Integrity in Your Course

# data[].attributes.subject
Cornell University: Promoting Academic Integrity in Your Course

# data[].attributes.attachment_link.readable_text
Seemingly every year, there is a new platform or website that prompts us to think about how we are assessing student learning and how we can ensure that students are demonstrating what they know with integrity. What follows are several strategies for promoting academic integrity, as well as some specific information on Artificial Intelligence tools (or AI tools, e.g., ChatGPT) that may help inform how you assess learning and create a learning environment that fosters trust and academic integrity.

Strategy #1: Design Opportunities for Authentic Assessment

Perhaps the most effective strategy for ensuring academic integrity involves authentic assessment-tasks that call for students to demonstrate the skills and knowledge they have learned in a real-world (or close to real, authentic) context. Authentic assessment requires students to transfer knowledge, often by engaging in higher order thinking skills (see Bloom's Taxonomy). The extent to which assignments call for the demonstration of learning in authentic, creative, and/or personalized ways minimizes students' ability to outsource academic work. This might involve having students identify themes in various course readings, class discussions, learning experiences (e.g., a lab, service-project), or their personal lived experience. Furthermore, designing maximally authentic assignments is an evidence-based practice that will help students engage more meaningfully with course content.

For more on assignment design with an awareness of AI bots (e.g., ChatGPT), please see the specific information included below.

Strategy #2: Structure Assignments to Lower Grade Anxiety

The following strategies can lower anxiety, which drives many students to consider cheating.

Build structured flexibility into due dates (e.g., by offering a set number of late submissions)

Allow more time for major assignments (whether as a general rule or by individual request)

Scaffold major assignments, establishing incremental check-ins or due dates to ensure students are making adequate progress

Redistribute the relative weight of major assessments, to reduce the stakes of any one assignment

Strategy #3: Communicate Why Academic Integrity Matters

Have clear expectations and take time to explicitly and repeatedly highlight relevant sections of your syllabus (e.g., descriptions of assignments, sources of academic support, flexible due dates, appropriate use of AI tools, relative weights of assignments, etc.), the University's commitment to academic integrity, and your own commitment to supporting students.

Make sure students are aware of Cornell's Code of Academic Integrity. You may also wish to include an academic integrity affirmation (e.g., test item, statement) that students complete on your syllabus or individual assignments.

Explicitly ask students to honor the Code of Academic Integrity. Here are some sample appeals you can modify for your needs:

Logical appeal

Emotional (moral) appeal

Personal appeal

Let students know that you are but one of many resources on campus that are available to help with their specific challenges. This could even include creating a brief assignment to promote students' familiarity with the supports available to them. Knowing that you are aware and that you appreciate how challenging the undergraduate experience can be may encourage students to come to you before compromising their integrity.

What to Know about AI Tools (including ChatGPT)

Most recently, artificial intelligence toolsincluding ChatGPT, DALL-E-2, and Co-Pilothave generated a great deal of curiosity and some concern throughout higher ed. As we continue to learn more about the influence of AI on teaching and learning, it will help to keep the following in mind:

ChatGPT is currently a free tool that is capable of completing a broad range of tasks and responding to a wide range of prompts and in any number of styles and degrees of sophistication. It can answer questions, write essays, poems, computer code, jokes, and much more.

AI tools have limitations. Becoming more familiar with what AI tools can and cannot do will likely help inform your assignment design. For example, ChatGPT currently has several significant limitations. ChatGPT cannot yet

Write about anything that has happened since 2021. This is because ChatGPT is an enclosed ecosystem (meaning that it is not internet based and not updated in real time).

Generate personal reflections. This tool doesn't know about students' personal experiences and therefore would not be able to apply course content to personal experiences or vice versa.

Generate non-text based responses (e.g., infographics).

Make predictions.

Make connections among specific course readings/materials. (Source: Torrey Trust's ChatGPT & Education.)

Guarantee accuracy. It sometimes fabricates information, including references.

Strategies to Consider for Teaching and Learning with AI Tools

If you have specific questions and would like to schedule an individual or group consultation, please contact us.

# data[].attributes.attachment_link.title
Promoting Academic Integrity in Your Course | Center for Teaching Innovation

# data[].attributes.attachment_link.description
Seemingly every year, there is a new platform or website that prompts us to think about how we are assessing student learning and how we can ensure that students are demonstrating what they know with integrity. What follows are several strategies for promoting academic integrity, as well as some spe…

# data[].attributes.headline
Monash University: Generative AI and assessment

# data[].attributes.subject
Monash University: Generative AI and assessment

# data[].attributes.attachment_link.description
A key purpose of assessment is to yield evidence of student learning. This evidence depends on submitted work accurately representing each student’s contribution.

# data[].attributes.attachment_caption
New principles on use of AI in education

# data[].attributes.attachment_link.readable_text
A new set of principles has been created to help universities ensure students and staff are 'AI literate' so they can capitalise on the opportunities technological breakthroughs provide for teaching and learning.

The statement, published today (4 July) and backed by the 24 Vice Chancellors of the Russell Group, will shape institution and course-level work to support the ethical and responsible use of generative AI, new technology and software like ChatGPT.

Developed in partnership with AI and educational experts, the new principles recognise the risks and opportunities of generative AI and commit Russell Group universities to helping staff and students become leaders in an increasingly AI-enabled world.

The five principles set out in today's joint statement are:

Universities will support students and staff to become AI-literate.

Staff should be equipped to support students to use generative AI tools effectively and appropriately in their learning experience.

Universities will adapt teaching and assessment to incorporate the ethical use of generative AI and support equal access.

Universities will ensure academic rigour and integrity is upheld.

Universities will work collaboratively to share best practice as the technology and its application in education evolves.

The statement of principles comes shortly after the UK Government launched a consultation on the use of generative AI in education in England.

Commenting, Chief Executive of the Russell Group Dr Tim Bradshaw said:

"AI breakthroughs are already changing the way we work and its crucial students get the new skills they need to build a fulfilling career. University staff also need support as they look at how AI can be used to enhance their teaching and help bring subjects to life.

"This is a rapidly developing field, and the risks and opportunities of these technologies are changing constantly. It's in everyone's interests that AI choices in education are taken on the basis of clearly understood values.

"The transformative opportunity provided by AI is huge and our universities are determined to grasp it. This statement of principles underlines our commitment to doing so in a way that benefits students and staff and protects the integrity of the high-quality education Russell Group universities provide."

Read the principles in full below

# data[].attributes.attachment_link.title
New principles on use of AI in education

# data[].attributes.attachment_link.description
A new set of principles has been created to help universities ensure students and staff are 'AI literate' so they can capitalise on the opportunities technological breakthroughs provide for teaching and learning.

# data[].attributes.attachment_caption
[WEBINAR] Hacia dónde va la Inteligencia Artificial en Argentina

# data[].attributes.attachment_link.title
[WEBINAR] Hacia dónde va la Inteligencia Artificial en Argentina

# data[].attributes.attachment_link.description
Realizamos el primero de los webinars sobre prospectiva en #InteligenciaArtificial. En esta oportunidad abordamos los desafíos de la IA en el país. Contamos ...

# data[].attributes.attachment_caption
Inteligencia artificial para el análisis de imágenes médicas.

# data[].attributes.headline
IA para el análisis de imágenes médicas 

# data[].attributes.subject
IA para el análisis de imágenes médicas 

# data[].attributes.attachment_link.title
Inteligencia artificial para el análisis de imágenes médicas.

# data[].attributes.attachment_caption
Algoritmos de Deep Learning para diagnósticos por imágenes.

# data[].attributes.headline
Entelai: algoritmos de deep learning para análisis de imágenes

# data[].attributes.subject
Entelai: algoritmos de deep learning para análisis de imágenes

# data[].attributes.attachment_link.title
Algoritmos de Deep Learning para diagnósticos por imágenes.