Debates | De la gestión algorítmica al poder algorítmico

El nuevo Convenio Marco del Consejo de Europa sobre inteligencia artificial permite observar un cambio relevante en la construcción jurídica de la IA en Europa: la transición desde la mera gestión algorítmica hacia el problema del poder algorítmico. El debate ya no gira únicamente en torno a automatización y eficiencia, sino también sobre transparencia, control, responsabilidad y distribución del poder en organizaciones crecientemente digitalizadas.

La reciente publicación en el DOUE del Convenio Marco del Consejo de Europa sobre inteligencia artificial, derechos humanos, democracia y Estado de derecho —aprobado por la Unión Europea mediante la Decisión (UE) 2026/1080— introduce un elemento jurídicamente relevante en el actual proceso de construcción normativa de la inteligencia artificial en Europa.

La novedad del texto no reside únicamente en ser el primer tratado internacional jurídicamente vinculante dedicado específicamente a la inteligencia artificial. Su interés principal es probablemente otro: desplazar parcialmente el debate jurídico desde la regulación técnica de sistemas hacia el problema del poder algorítmico y sus efectos sobre derechos fundamentales, democracia y estructuras de decisión.

Esta cuestión resulta especialmente relevante en el ámbito laboral. Durante los últimos años, gran parte del debate sobre inteligencia artificial y trabajo se ha concentrado en la llamada “gestión algorítmica”: sistemas de selección automatizada, evaluación de productividad, organización de turnos, vigilancia digital, asignación de tareas o análisis predictivo de comportamiento laboral. Sin embargo, el Convenio del Consejo de Europa introduce un desplazamiento conceptual importante. La cuestión ya no es únicamente qué decisiones automatiza un sistema, sino cómo determinadas arquitecturas digitales reorganizan el ejercicio del poder dentro de organizaciones públicas y privadas.

En este punto, el contraste con el Reglamento (UE) 2024/1689, conocido como AI Act, resulta particularmente interesante. Aunque ambos instrumentos forman parte del mismo ecosistema regulatorio europeo, su lógica jurídica es distinta.

El AI Act responde principalmente a una lógica de gobernanza tecnológica y de mercado interior. Clasifica sistemas según niveles de riesgo y establece obligaciones técnicas y organizativas para proveedores, desarrolladores, importadores, distribuidores y entidades usuarias. El eje central del Reglamento se sitúa en conceptos como evaluación de conformidad, trazabilidad, calidad de datos, supervisión humana, documentación técnica, transparencia o gestión de riesgos. Desde esta perspectiva, la inteligencia artificial aparece fundamentalmente como un sistema técnico susceptible de generar riesgos que deben ser gestionados mediante obligaciones de compliance y supervisión regulatoria.

El Convenio del Consejo de Europa, en cambio, opera en un plano distinto. No se centra prioritariamente en la clasificación técnica de sistemas ni en obligaciones de producto, sino en los efectos estructurales que la inteligencia artificial puede producir sobre derechos humanos, democracia y Estado de derecho. El texto no analiza únicamente la IA como herramienta tecnológica, sino también como infraestructura institucional capaz de alterar relaciones de poder, capacidad de control, acceso efectivo a derechos y funcionamiento de los procesos decisorios. La diferencia no es menor. Mientras el AI Act se pregunta principalmente cómo regular sistemas de IA, el Convenio comienza a plantear otra cuestión: cómo evitar que determinadas arquitecturas algorítmicas erosionen autonomía, igualdad, transparencia, control humano o tutela efectiva.

Y precisamente ahí aparece uno de los elementos más interesantes para el Derecho del Trabajo. La empresa nunca ha sido jurídicamente un espacio neutro. El Derecho laboral parte históricamente de la existencia de una relación estructuralmente desigual y de la necesidad de establecer límites al poder de dirección empresarial. La aparición de sistemas algorítmicos no elimina ese problema; lo transforma. Cada vez con más frecuencia, las decisiones organizativas ya no se presentan como órdenes humanas identificables, sino como resultados derivados de métricas, puntuaciones, predicciones o recomendaciones generadas por sistemas híbridos humano-algorítmicos. En muchos casos, el problema jurídico no consiste en que “la máquina despida”, sino en que el sistema condiciona de forma decisiva cómo se organiza la información, qué comportamientos se consideran valiosos, qué riesgos se detectan o qué trabajadores aparecen como más productivos, fiables o sustituibles. En este contexto, el debate jurídico deja de girar exclusivamente en torno a la automatización de decisiones y comienza a desplazarse hacia la automatización de la autoridad. Ese cambio explica por qué el Convenio resulta doctrinalmente relevante incluso aunque no imponga directamente obligaciones empresariales comparables a las del AI Act.

Formalmente, el Convenio obliga a los Estados y organizaciones internacionales que lo ratifican, no directamente a empresas privadas. Sin embargo, su importancia jurídica no debe infravalorarse. El texto actúa como marco interpretativo y de legitimación de futuras políticas regulatorias, interpretación judicial y construcción de estándares jurídicos sobre inteligencia artificial. De hecho, buena parte de las obligaciones que terminarán afectando a empresas llegarán precisamente a través de la combinación entre el AI Act, el RGPD, el Derecho antidiscriminatorio, el ET, la negociación colectiva, la actuación inspectora y la interpretación judicial de derechos fundamentales en entornos digitalizados. En otras palabras: el Convenio no sustituye al AI Act ni crea directamente una “nueva legislación laboral sobre IA”. Lo que hace es algo distinto: contribuir a constitucionalizar el debate jurídico sobre inteligencia artificial. Esto resulta especialmente visible en materias como transparencia, supervisión humana, derecho a impugnar decisiones influenciadas por IA, acceso a información relevante o preservación de la autonomía individual. Todas ellas adquieren una relevancia creciente en relaciones laborales caracterizadas por opacidad algorítmica, extracción masiva de datos de comportamiento y progresivo desplazamiento del centro de decisión hacia sistemas sociotécnicos complejos.

En este sentido, probablemente uno de los principales desafíos futuros para el Derecho del Trabajo no consistirá únicamente en determinar cuándo existe una decisión automatizada, sino en reconstruir jurídicamente responsabilidad, trazabilidad y control en organizaciones donde el poder aparece cada vez más distribuido entre personas, plataformas, datos y sistemas predictivos. Y precisamente por eso la publicación del Convenio del Consejo de Europa merece atención. No tanto porque añada nuevas obligaciones técnicas inmediatas, sino porque refleja que la inteligencia artificial empieza a dejar de ser concebida exclusivamente como una cuestión tecnológica para convertirse progresivamente en un problema de arquitectura institucional y distribución del poder.

En este punto, el contenido concreto del convenio permite entender mejor su utilidad. El art. 1 sitúa el objetivo del instrumento en garantizar que las actividades desarrolladas durante el ciclo de vida de los sistemas de IA sean compatibles con los derechos humanos, la democracia y el Estado de derecho. Esta formulación es importante porque no se limita al resultado final del sistema ni a la decisión automatizada concreta, sino que permite mirar el diseño, desarrollo, despliegue, uso, supervisión y control posterior de la herramienta. En el ámbito laboral, esto significa que el análisis jurídico no debería empezar solo cuando se produce una sanción, una exclusión de un proceso de selección o una evaluación negativa, sino mucho antes: en la elección del sistema, en los datos utilizados, en los criterios de clasificación, en los mecanismos de supervisión y en la forma en que la empresa integra esa herramienta en su organización del trabajo.

El art. 3 delimita un ámbito de aplicación que resulta especialmente significativo. El Convenio se aplica de forma directa a las actividades de IA realizadas por autoridades públicas o por entidades privadas que actúen por cuenta de aquellas. Para los agentes privados que actúan al margen de funciones públicas, no impone una aplicación directa uniforme, pero obliga a cada Parte a abordar los riesgos e impactos derivados de sus actividades de IA de manera compatible con el objeto y la finalidad del Convenio. Esta precisión es relevante para evitar una lectura simplista. Una empresa privada puede sostener que el Convenio no le impone por sí solo obligaciones inmediatas de compliance. Pero no puede ignorarse que el Estado, la Unión Europea y los tribunales deberán integrar ese marco en la construcción normativa e interpretativa aplicable a la IA empresarial. En la práctica, el puente hacia la empresa se construye a través del Reglamento (UE) 2024/1689, del RGPD, del Derecho antidiscriminatorio, del ET, de la negociación colectiva, de la actuación inspectora y de la tutela judicial de los derechos fundamentales.

También debe destacarse el art. 5, relativo a la integridad de los procesos democráticos y el respeto del Estado de derecho. Aunque pueda parecer alejado de la empresa, no lo está del todo. La democracia no se agota en el espacio electoral ni el Estado de derecho se limita al funcionamiento de los tribunales. En organizaciones altamente digitalizadas, la opacidad de los sistemas de decisión puede reducir la capacidad real de contradicción, dificultar el control colectivo y transformar decisiones empresariales discutibles en resultados aparentemente técnicos. Desde esta perspectiva, la transparencia algorítmica no es solo una exigencia informativa, sino una condición mínima para que trabajadores, representantes y órganos judiciales puedan comprender, discutir e impugnar decisiones que afectan a derechos laborales.

Los arts. 7 a 13 contienen principios especialmente trasladables al ámbito laboral. La dignidad humana y la autonomía individual obligan a preguntarse hasta qué punto determinados sistemas de evaluación, vigilancia o predicción reducen a la persona trabajadora a un conjunto de métricas. La transparencia y supervisión exigen que el uso de IA no quede oculto detrás de una apariencia de neutralidad técnica. La rendición de cuentas impide que la empresa desplace la responsabilidad hacia el proveedor tecnológico o hacia la supuesta objetividad del sistema. La igualdad y no discriminación resultan centrales en selección, promoción, asignación de tareas, evaluación del rendimiento y decisiones extintivas. La privacidad y protección de datos adquieren especial intensidad cuando la IA se alimenta de datos de comportamiento laboral, trazas digitales, comunicaciones, tiempos de conexión o patrones de productividad.

Particular importancia tiene el art. 14, relativo a los recursos efectivos. El Convenio exige que existan vías accesibles y efectivas frente a vulneraciones de derechos humanos derivadas de actividades de IA. Para ello, la información relevante sobre los sistemas debe documentarse y, cuando proceda, ponerse a disposición de las personas afectadas o de los órganos competentes. Esta previsión conecta directamente con uno de los principales problemas laborales de la IA: sin información suficiente sobre el sistema, la impugnación se vuelve meramente formal. Un trabajador difícilmente puede discutir una decisión basada en puntuaciones, predicciones o recomendaciones si desconoce qué variables se han utilizado, qué peso han tenido, qué datos han alimentado el sistema, qué intervención humana ha existido y si se han evaluado sesgos o impactos discriminatorios.

El art. 15 añade garantías procedimentales. Cuando un sistema de IA incida significativamente en derechos humanos, deben existir salvaguardias, garantías y derechos efectivos. En clave laboral, esta previsión puede proyectarse sobre decisiones de acceso al empleo, promoción, movilidad, control disciplinario, despido, evaluación de rendimiento o determinación de condiciones de trabajo. El problema no es solo saber que existe IA, sino asegurar que la persona afectada pueda comprender suficientemente la lógica de la decisión, obtener revisión humana real y articular una defensa eficaz.

Finalmente, el art. 16 incorpora una lógica de gestión de riesgos e impactos. Obliga a identificar, evaluar, prevenir y mitigar riesgos para derechos humanos, democracia y Estado de derecho, teniendo en cuenta el contexto, la finalidad del sistema, la gravedad y probabilidad de los efectos, la perspectiva de las personas afectadas y la necesidad de seguimiento continuado. Esta parte es especialmente útil para el Derecho del Trabajo porque permite superar una mirada puramente reactiva. La cuestión no debería ser solo reparar el daño cuando ya se ha producido, sino exigir una evaluación previa del impacto laboral de los sistemas de IA antes de introducirlos en procesos de selección, evaluación, vigilancia, productividad o reorganización empresarial.

Así leído, el Convenio no aporta únicamente principios generales. Su utilidad para el operador laboralista no está en sustituir al AI Act ni en crear una acción directa autónoma frente a la empresa, sino en reforzar una determinada forma de razonar jurídicamente: la IA laboral debe analizarse atendiendo al sistema completo, a la información disponible, a la trazabilidad de la decisión, a la posibilidad real de impugnación, a la supervisión humana y a los efectos estructurales sobre igualdad, autonomía, dignidad y poder de dirección.

Contenido protegido. No autorizado su uso para entrenamiento de sistemas de inteligencia artificial sin autorización expresa.