# data[].attributes.headline
Cómo la inteligencia artificial está transformando la ciencia investigación

# data[].attributes.subject
Cómo la inteligencia artificial está transformando la ciencia investigación

# data[].attributes.body
El análisis de datos a gran escala y el patrón capacidades de reconocimiento de la inteligencia artificial(AI) presentan importantes oportunidades para el avance de la investigación y los descubrimientos científicos.

Estos desarrollos presentar nuevas oportunidades y desafíos la naturaleza y el método de la investigación científica. Basándose en las ideas de las mesas redondas, entrevistas y estudios de investigación, este capítulo describe cómo está cambiando la IA el esfuerzo científico.

# data[].attributes.body
Hay una concentración en ciertos campos como la medicina; la ciencia de los materiales; la robótica; la genética; y, como era de esperar, la informática. Aparecen las ciencias físicas y la medicina a dominar el uso de la IA-tecnologías relacionadas. La IA más importante técnicas en los campos STEM incluyen redes neuronales (ANN); aprendizaje automático (ML) (incluido el aprendizaje profundo (DL)); lenguaje natural procesamiento; y reconocimiento de imágenes.

# data[].attributes.headline
IA y métodos de investigación científica 

# data[].attributes.subject
IA y métodos de investigación científica 

# data[].attributes.body
Los recientes desarrollos en IA sugieren que puede haber cambios transformacionales en los métodos de investigación científica. Estos cambios se centran en hacer las tareas existentes más eficientes procesos para generar conocimiento o nuevos mecanismos de descubrimiento. Los siguientes ejemplos se pusieron de manifiesto en el Actividades de investigación realizadas para este informe.

# data[].attributes.body
os datos son la base de los sistemas de IA. La expresión y el principio de "basura que entra, basura que sale", que se remonta a los primeros días de la informática y a los escritos de Charles Babbage, FRS, siguen vigentes en la actualidad.

Los datos de baja calidad, incompletos, incorrectos o no representativos, pueden dar lugar a resultados engañosos.

# data[].attributes.body
datos recopilados para experimentos científicos pueden ser extremadamente grandes, con tamaños de terabytes, petabytes y exabytes. Este desafío de volumen se aplica a diversos campos, como la genómica, la física de altas energías, la ciencia del clima y la astronomía

# data[].attributes.headline
2. El papel de las instituciones de datos

# data[].attributes.subject
2. El papel de las instituciones de datos

# data[].attributes.body
Las instituciones de datos (por ejemplo, archivos, agencias de estadística, repositorios de datos) pueden desempeñar un papel importante para facilitar el acceso de los investigadores a los datos.

# data[].attributes.body
Una enfermedad rara es una afección que afecta a menos de 1 de cada 2000 personas y a menudo se caracteriza por manifestaciones genéticas diversas, complejas y superpuestas. De las más de 7000 enfermedades raras descritas en todo el mundo, solo el 5% tiene tratamiento.

La aplicación del aprendizaje automático y las técnicas de inteligencia artificial generativa ofrecen la oportunidad de superar algunas de estas limitaciones.

Aplicaciones de IA en el campo de las enfermedades

Aprovechamiento de las imágenes médicas para el diagnóstico temprano

# data[].attributes.headline
Ética de la investigación y seguridad de la IA

# data[].attributes.subject
Ética de la investigación y seguridad de la IA

# data[].attributes.body
1. Datos y sesgos algorítmicos

Los sistemas de IA pueden tener sesgos incorporados

a través de los datos de entrenamiento y el algorítmicos. Si no se mitigan, los sesgos algorítmicos puede conducir a resultados injustos y agravar las desigualdades.

Los daños algorítmicos también pueden manifestarse

en el ámbito de la financiación y la comunicación

académica. Las herramientas de IA se utilizan para

la revisión inicial de los procesos de y la revisión por homólogos

# data[].attributes.headline
2. Alucinaciones y desinformación desinformación generada por IA

# data[].attributes.subject
2. Alucinaciones y desinformación desinformación generada por IA

# data[].attributes.body
El uso creciente de modelos en la ciencia (por ejemplo la IA generativa y los LLM) plantea consideraciones singulares en torno a la ética y la seguridad

Un mayo acceso público a los LLM reduce los obstáculos malintencionados para generar contenidos contenidos creados por máquinas que reduzcan probabilidad de detección humana.

El uso de LLM en un proyecto científico también puede aumentar la exposición a las «alucinaciones - que se refiere a la generación de resultados convincentes y realistas que no se corresponden con la realidad. Incluso cuando no hay intención maliciosa, las tecnologías transformador general preentrenado (GPT) pueden fabricar hechos, datos y citas cuando responder a una pregunta.

# data[].attributes.wish_content.attachment_props.alternative_text
2. Alucinaciones y desinformación desinformación generada por IA

# data[].attributes.headline
3. El uso de LLM en un proyecto científico

# data[].attributes.subject
3. El uso de LLM en un proyecto científico

# data[].attributes.body
también puede aumentar la exposición a las «alucinaciones - que se refiere a la generación de resultados convincentes y realistas que no no se corresponden con la realidad. Incluso cuando no hay intención maliciosa, las tecnologías transformador general prentrenado (GPT) pueden fabricar hechos, datos y citas cuando

responder a una pregunta.

A partir de una base de datos pública

y en menos de 6 horas, el modelo había

generado 40.000 moléculas. Muchas de estas moléculas eran similares o más tóxicas que que el agente nervioso VX, un arma química letal prohibida y altamente tóxica.

Aunque la generación teórica de moléculas

tóxicas no implica que su producción

sea viable o factible, el experimento muestra cómo la IA puede acelerar el proceso de creación de azar

# data[].attributes.wish_content.attachment_props.alternative_text
3. El uso de LLM en un proyecto científico

# data[].attributes.headline
4. Envenenamiento de datos y ataques adversarios

# data[].attributes.subject
4. Envenenamiento de datos y ataques adversarios

# data[].attributes.body
Las medidas para mejorar la seguridad de la IA en la ciencia deben tener en cuenta el desarrollo modelos robustos que puedan resistir ataques adversarios basados en datos.

Entrenamientomodelos de IA sobre conjuntos de datosde datos, crea

vulnerabilidades ante casos de «envenenamiento de datos», «inyecciones de datos falsos» ataques de un solo píxel.

Los conjuntos de datos «envenenados» o manipulados son uno de los ataques más comunes y documentados contra la fiabilidad de los sistemas de IA.

# data[].attributes.wish_content.attachment_props.alternative_text
4. Envenenamiento de datos y ataques adversarios

# data[].attributes.headline
5. Costes medioambientales del uso de sistemas de IA

# data[].attributes.subject
5. Costes medioambientales del uso de sistemas de IA

# data[].attributes.body
La recogida, el análisis, el almacenamiento y el intercambio de datos necesarios para los sistemas basados en IA tiene un impacto medioambiental significativo.

Se calcula que las emisiones globales de gases de efecto invernadero de los centros de datos de los centros de datos equivalen a las de la aviación de la aviación comercial estadounidense, y a medida que

modelos, es probable que esta cifra aumente.

Para mitigar los efectos negativos del cambio del cambio climático, estos sistemas el principio de proporcionalidad energética.

# data[].attributes.wish_content.attachment_props.alternative_text
medioambientales del uso de sistemas de IA

# data[].attributes.headline
Otros avances para mejorar la sostenibilidad medioambiental de las herramientas basadas en IA:

# data[].attributes.subject
Otros avances para mejorar la sostenibilidad medioambiental de las herramientas basadas en IA:

# data[].attributes.body
- Integración de técnicas de computación ecológica en los métodos de investigación

- Normas de certificación de prácticas

sostenibles. Ampliar las redes de «laboratorios verdes junto con las políticas institucionales pueden cambiar las normas de los investigadores.

- Los financiadores pueden obligar a

de carbono y apoyar mejoras como en proyectos de investigación

- Mandatos gubernamentales y presión

las normas de la UE sobre información del carbono

- Utilización de la IA para optimizar y minimizar impacto medioambiental de los métodos de investigación.

Por ejemplo, las tecnologías inmersivas

proporcionan experiencias virtuales, minimizando daños y una visualización que

puede reforzar la eficacia de la preparación

# data[].attributes.headline
6. Coste humano de la formación de los sistemas de IA

# data[].attributes.subject
6. Coste humano de la formación de los sistemas de IA

# data[].attributes.body
El desarrollo y el uso de herramientas de IA dependen de una infraestructura humana crítica pero a menudo invisible. Aunque el trabajo humano es esencial para el despliegue de la IA, en algunos casos sigue sin valorarse lo suficiente bajo el disfraz de la «automatización»

# data[].attributes.headline
Abordar la ética de la IA en la investigación científica

# data[].attributes.subject
Abordar la ética de la IA en la investigación científica

# data[].attributes.body
Existen oportunidades para que la comunidad científica (desde los científicos hasta los desarrolladores de sistemas y los financiadores considere proactivamente estrategias para supervisar, anticipar y responder a los daños imprevistos causados por el uso de sistemas de IA

A partir de entrevistas y debates de mesa redonda se sugirieron las siguientes medidas para garantizar la aplicación ética.

- Establecimiento de una taxonomía de daños específica para cada ámbito:

Establecer auditorías, evaluaciones de impacto o marcos de evaluación

para comprender los daños socio

# data[].attributes.wish_content.attachment_props.alternative_text
Abordar la ética de la IA en la investigación científica

# data[].attributes.body
- Directrices y revisiones éticas: Las directrices éticas y los códigos de conducta pueden orientar el diseño de los modelos de IA utilizados para la ciencia prevenir el uso indebido y establecer las mejores prácticas

# data[].attributes.body
Cuyo objetivo es maximizar los beneficios y

minimizar los riesgos negativos del uso

de la IA para descubrimientos científicos.

Se necesitan más orientaciones específicas de cada ámbito para garantizar que los científicos de todos los ámbitos y sectores puedan tomar decisiones con conocimiento de causa cuando integren la IA en su trabajo.

La sociedad civil han presentado una propuesta para mejorar la confianza a través de medidas de fomento de la confianza, como la comunicación y la coordinación, la observación y la verificación, la cooperación y la integración, y la transparencia

- Compromiso público: Explorar nuevos enfoques de gobernanza para implicar al público afectado en la construcción de limitaciones y barreras de seguridad. También debe estudiarse una estrategia para comunicar al público el riesgo

# data[].attributes.attachment_link.description
Create interactive quizzes, polls, presentations, and more to engage your audience.

# data[].attributes.headline
La IA y la naturaleza de la investigación científica

# data[].attributes.subject
La IA y la naturaleza de la investigación científica

# data[].attributes.body
Estos impactos se refieren principalmente a la prevalencia de los grandes volúmenes de datos, Investigación llevada a cabo, dependencia de la potencia informática y nuevas formas de organizar las cualificaciones y la mano de obra en el proceso científico. Basándose en las actividades realizadas para este fin informe, los seis temas siguientes fueron clave: impacto de la IA en la naturaleza de la investigación científica.

1. La informática y el trabajo como elementos fundamentales Infraestructuras de IA

2. Dominación de la investigación centrada en los grandes datos

3. Ciencia abierta vs cerrada

4. Cuestionar las nociones de transparencia y aplicabilidad

5. La ciencia como actividad interdisciplinar

6. Combinación de la experiencia humana y Automatización de la IA