Seminario sobre Transparencia Algorítmica: 4ª Sesión del Consejo de Transparencia

Introducción

Tema: Transparencia algorítmica
Importancia: Actualidad y necesidad de adaptación deliberada por los organismos administrativos.
Asistentes: Variados representantes de cuerpos de garantía y técnicos del Consejo de Transparencia y otros órganos.
Ponentes: Susana de la Sierra (catedrática de derecho administrativo), Jesús Jiménez (presidente del Consejo de Transparencia de Andalucía), y Javier de la Cueva (abogado y doctor en filosofía).

Algoritmo vs Inteligencia Artificial: No son sinónimos. La IA tiene autonomía en la toma de decisiones.
Transparencia: Necesidad de explicar el funcionamiento y especificaciones de los algoritmos, especialmente aquellos que tienen decisiones automatizadas.
Justicia Administrativa: Aún no del todo preparada para el control de decisiones automatizadas.

Naturaleza Jurídica del Algoritmo: Aún en debate. Varía según su función (regla administrativa o acto administrativo).
Transparencia y Explicabilidad (explainability): Esencial garantizar acceso a la información para derechos de rendición de cuentas y justicia.
Brecha Digital: Atención a la inclusión de colectivos vulnerables en procesos digitalizados.

Administraciones Públicas: Uso en subvenciones, contratación pública, inspecciones, y decisiones como infracciones de tráfico.
Esfuerzo Normativo: Uso de legislación existente y nuevas propuestas para la integración y transparencia de estos sistemas.
Agencias y Órganos de Supervisión: Como futuros supervisores y auditores de estos sistemas (ej. Agencia Española de Supervisión de IA).

Transparencia Algorítmica: Ligada al tratamiento de datos personales.
Herramientas Algorítmicas en Administración: Aplicación en servicios públicos, educación, salud, movilidad, etc.
Publicidad Activa y Registro de Actividad: Necesidad de publicar y documentar actividades de tratamiento de datos.

Reglamento de IA: Introduce la necesidad de gobernanza de datos, información transparente y explicaciones sobre decisiones basadas en IA.
Responsabilidad Proactiva: Administración debe demostrar cumplimiento normativo y ético en uso de sistemas digitales.
Desafíos del Marco Jurídico: Presencia de múltiples actores en la cadena de valor que dificultan la transparencia completa.

Algoritmia Histórica: Comparación con desarrollos históricos como la codificación de leyes y diccionarios.
Problema de Correlación Estadística: Diferencia fundamental con la causalidad jurídica tradicional.
Transparencia en Práctica: Ejemplo del caso Bosco y su implicación en el acceso al código fuente.

Recurso Judicial: Caso del Bono Social y el pleito para acceder al código fuente de la administración.
Evidencia en Decisiones Judiciales: Problemas en verificar decisiones basadas en inteligencia artificial desde un punto de vista jurídico.
Participación Ciudadana: Necesidad de un acceso amplio pero mediado para garantizar justicia e igualdad en decisiones tecnológicas.

Colaboración Pública y Privada: Desafíos en el acceso y transparencia cuando se utilizan empresas privadas para soluciones públicas.
Acceso Mediatizado al Código Fuente: Propuesta para intermediarios que faciliten esta transparencia.
Legitimación y Plazos de Impugnación: Cuándo y cómo los ciudadanos pueden impugnar decisiones algorítmicas.
Naturaleza Jurídica de Algoritmos: Impacto en legitimación, plazos y efectos de sentencias.

Importancia de la Transparencia: Para asegurar rendición de cuentas y evitar indefensión ciudadana.
Desafío Continuo: Necesidad de adaptación constante a nuevas tecnologías y formas de regulación.
Cooperación Institucional: Rol esencial de agencias de supervisión y colaboración público-privada.

[Aplausos]

Nos vemos en la siguiente sesión.