Sí. Los sistemas usados por autoridades públicas, o en su nombre, para evaluar si una persona puede recibir prestaciones y servicios esenciales de asistencia pública, o para concederlos, reducirlos o retirarlos, son de alto riesgo (anexo III, punto 5, letra a).
Base legal
- Anexo III, punto 5, letra a), del Reglamento (UE) 2024/1689
- Artículo 26, del Reglamento (UE) 2024/1689
- Artículo 27, del Reglamento (UE) 2024/1689
Qué tiene que hacer la empresa
- Usarlo con arreglo a las instrucciones de uso del proveedor (art. 26.1).
- Encargar la supervisión humana a personas con la competencia, la formación y la autoridad necesarias (art. 26.2).
- Vigilar su funcionamiento y conservar los registros que genere, al menos seis meses (art. 26.5 y 26.6).
- Informar a las personas afectadas de que se usa un sistema de alto riesgo para decidir sobre ellas (art. 26.11) y darles explicaciones si lo piden (art. 86).
- Registrar el uso en la base de datos de la UE (art. 26.8 y art. 49).
- Evaluación de impacto relativa a los derechos fundamentales (art. 27.1).
Protección de datos (RGPD)
Si la decisión se basa únicamente en el tratamiento automatizado y produce efectos jurídicos o significativos, rige el art. 22 RGPD: solo cabe con contrato, ley o consentimiento explícito, y con intervención humana y derecho a impugnar.
Casos reales
- Estado de los Países Bajos (sistema SyRI) (Tribunal de Distrito de La Haya (Rechtbank Den Haag), Países Bajos, 5 feb. 2020). Un sistema algorítmico de detección de fraude debe ser transparente y verificable y prever información a las personas afectadas.
- Department of Social Protection (Irlanda) (DPC, Irlanda, 12 jun. 2025): 550.000 €. Usar comparación facial para identificar a usuarios exige una base jurídica válida, información transparente y una evaluación de impacto completa.
Lo explicamos con más detalle en ¿Es mi sistema de IA de alto riesgo?.
Otros casos parecidos
- Filtrar currículos o puntuar candidatos con IA: alto riesgo
- Publicar anuncios de empleo dirigidos con IA: alto riesgo
- Evaluar el rendimiento o el comportamiento de empleados con IA: alto riesgo
- Asignar tareas o turnos con un algoritmo: alto riesgo
- Decidir ascensos, despidos o condiciones laborales con IA: alto riesgo
Información general, comprobada el 5 de noviembre de 2026 con el Reglamento (UE) 2024/1689 en la redacción del Reglamento (UE) 2026/1744. La clasificación depende de la finalidad concreta del sistema; no es asesoramiento para un caso concreto.