Ciudadanos que solicitan ayudas o beneficios públicos.

Grupos vulnerables, con mayor riesgo de exclusión por fallos o sesgos.

Administraciones públicas, que pueden perder legitimidad si no garantizan transparencia.

Técnicos, auditores y reguladores, que enfrentan nuevos retos de control y supervisión.

El sistema judicial, al tener que resolver conflictos entre derecho a la información y propiedad intelectual.

Corto plazo: Errores en la asignación de recursos o beneficios, pérdida de confianza ciudadana y aumento de litigios.

Mediano y largo plazo: Profundización de desigualdades sociales por sesgos ocultos, debilitamiento de la legitimidad de los servicios públicos, obstáculos regulatorios y riesgo de que se frene la innovación por falta de confianza en los algoritmos.

Crear leyes que obliguen a publicar criterios y auditorías de los algoritmos usados en decisiones sensibles.

Implementar evaluaciones de impacto algorítmico antes de que un sistema sea puesto en marcha.

Elaborar fichas técnicas (model cards y data sheets) que detallen datos, procesos y límites de cada modelo.

Establecer sistemas híbridos donde las decisiones críticas siempre tengan revisión humana.

Formar a funcionarios, jueces y auditores en técnicas de IA explicable.

Diseñar mecanismos que permitan revisar el código de manera controlada (con cláusulas de confidencialidad) para garantizar rendición de cuentas.

Promover la participación ciudadana en la definición de criterios de transparencia y supervisión.