My harmonious padlet by GRACE DAYANNA SAAVEDRA JIMENEZ https://padlet.com/62504022/bmuysewjlddpnq2g en-us 2025-08-30 02:01:52 UTC 2025-08-30 02:51:10 UTC hello@padlet.com La IA como “caja negra” 74792350_1 https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561281440 El gran problema es que muchas veces ni los propios investigadores saben cómo una inteligencia artificial llega a una decisión. Es como si fuera una “caja negra”: le das datos, te da un resultado pero no puedes ver qué pasa dentro. Esto se vuelve muy riesgoso en áreas sensibles como la salud o la justicia, porque una persona puede recibir un diagnóstico, un tratamiento o incluso una condena sin que nadie pueda explicar claramente por qué la máquina tomó esa decisión.


]]> 2025-08-30 02:39:51 UTC https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561281440 62504022 https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561285304 El País (15 oct 2024): reportaje sobre la opacidad de los modelos de IA avanzados y las dificultades de los investigadores para explicar sus resultados.


El País (23 ago 2024): análisis sobre la dificultad de “abrir” la caja negra de los algoritmos y comprender sus procesos internos.


Caso BOSCO (España, 8 jul 2025): demanda sobre transparencia algorítmica en la gestión de bienes públicos, donde el Tribunal Supremo revisa si el uso de algoritmos opacos en la administración vulnera derechos ciudadanos.


]]> 2025-08-30 02:47:43 UTC https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561285304 74792350_1 https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561286354 Regulación y leyes de transparencia algorítmica (ej. exigencia de explicabilidad en decisiones automatizadas).


Métodos de IA explicable (XAI): técnicas que permiten entender cómo el modelo llega a una conclusión.


Auditorías externas independientes a los sistemas de IA.


Uso de modelos más interpretables en contextos críticos (salud, justicia, administración pública).


Educación digital y ética para que ciudadanos comprendan el alcance y límites de estas tecnologías

]]> 2025-08-30 02:49:42 UTC https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561286354 62504022 https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561286619 Pérdida de confianza social en el uso de IA.


Vulneración de derechos fundamentales (acceso a justicia, ayudas sociales, privacidad).


Decisiones sesgadas o erróneas sin posibilidad de apelación clara.


Riesgos legales y reputacionales para gobiernos y empresas.

]]> 2025-08-30 02:50:18 UTC https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561286619 74792350_1 https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561287097 Ciudadanos: al recibir decisiones automatizadas sin justificación (ej. acceso a servicios, ayudas, evaluaciones).


Gobiernos y administraciones públicas: riesgo de perder legitimidad al usar sistemas no transparentes.


Empresas: pueden enfrentar desconfianza, sanciones o pérdida de reputación.


Investigadores y desarrolladores: limitados en su capacidad de auditar y mejorar modelos cer

rados.

]]> 2025-08-30 02:51:09 UTC https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561287097 62504022 https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561287261 2025-08-30 02:51:30 UTC https://padlet.com/62504022/bmuysewjlddpnq2g/wish/3561287261