# data[].attributes.headline
Caja negra en algoritmos públicos — Caso BOSCO / opacidad de redes neuronales

# data[].attributes.subject
Caja negra en algoritmos públicos — Caso BOSCO / opacidad de redes neuronales

# data[].attributes.body
Las inteligencias artificiales avanzadas, sobre todo las redes neuronales profundas, funcionan como verdaderas “cajas negras”: sabemos qué datos entran y qué resultados salen, pero no queda claro cómo se toman las decisiones en el interior. Esta falta de transparencia complica la detección de sesgos y la explicación de errores en ámbitos sensibles como justicia, salud o administración pública. Aunque se investigan técnicas de explicabilidad (XAI), todavía no resuelven el problema a gran escala.
Un ejemplo actual es el Caso BOSCO en España, donde un algoritmo que decide la distribución de ayudas públicas no pudo ser auditado por razones de propiedad intelectual. El tema llegó hasta el Tribunal Supremo, mostrando el choque entre transparencia ciudadana y confidencialidad empresarial.

El País (2025, 8 jul). Caso BOSCO: el Supremo se pronunciará por la ‘caja negra’ de los algoritmos que gestionan bienes públicos. https://elpais.com/tecnologia/2025-07-08/caso-bosco-el-supremo-se-pronunciara-por-primera-vez-sobre-la-caja-negra-de-los-algoritmos-que-gestionan-bienes-publicos.html

# data[].attributes.body
Ciudadanos que solicitan ayudas o beneficios públicos.

Grupos vulnerables, con mayor riesgo de exclusión por fallos o sesgos.

Administraciones públicas, que pueden perder legitimidad si no garantizan transparencia.

Técnicos, auditores y reguladores, que enfrentan nuevos retos de control y supervisión.

El sistema judicial, al tener que resolver conflictos entre derecho a la información y propiedad intelectual.

# data[].attributes.body
Corto plazo: Errores en la asignación de recursos o beneficios, pérdida de confianza ciudadana y aumento de litigios.

Mediano y largo plazo: Profundización de desigualdades sociales por sesgos ocultos, debilitamiento de la legitimidad de los servicios públicos, obstáculos regulatorios y riesgo de que se frene la innovación por falta de confianza en los algoritmos.

# data[].attributes.body
Crear leyes que obliguen a publicar criterios y auditorías de los algoritmos usados en decisiones sensibles.

Implementar evaluaciones de impacto algorítmico antes de que un sistema sea puesto en marcha.

Elaborar fichas técnicas (model cards y data sheets) que detallen datos, procesos y límites de cada modelo.

Establecer sistemas híbridos donde las decisiones críticas siempre tengan revisión humana.

Formar a funcionarios, jueces y auditores en técnicas de IA explicable.

Diseñar mecanismos que permitan revisar el código de manera controlada (con cláusulas de confidencialidad) para garantizar rendición de cuentas.

Promover la participación ciudadana en la definición de criterios de transparencia y supervisión.