Un chatbot no es de alto riesgo por sí mismo, pero las personas deben saber que hablan con una IA, salvo que sea evidente (art. 50.1). Aplicable desde el 2 de agosto de 2026.
Base legal
- Artículo 50, apartados 1 y 5, del Reglamento (UE) 2024/1689
- Artículo 4, del Reglamento (UE) 2024/1689
Qué tiene que hacer la empresa
- Avisar de que la persona habla con un sistema de IA, de forma clara y distinguible, como tarde en la primera interacción (art. 50.1 y 50.5). El diseño del aviso es obligación del proveedor; si la empresa monta o configura su propio chatbot, conviene comprobarlo.
- Adoptar medidas para apoyar la alfabetización en IA de las personas que lo usan (art. 4).
Protección de datos (RGPD)
Si el chatbot trata datos personales de los clientes, la empresa necesita una base jurídica (art. 6 RGPD), informar (art. 13) y un contrato de encargo con el proveedor (art. 28).
Ojo
Si el chatbot decide sobre el acceso a crédito, seguros de vida o salud o servicios públicos esenciales, ese uso es de alto riesgo (anexo III, punto 5).
Casos reales
- Luka Inc. (chatbot Replika) (Garante, Italia, 10 abr. 2025): 5.000.000 €. Un servicio de chatbot debe identificar la base jurídica de sus tratamientos, informar adecuadamente y verificar la edad si excluye a menores.
Lo explicamos con más detalle en Etiquetar contenido generado con IA: artículo 50 y deepfakes.
Otros casos parecidos
- Detectar las emociones de los clientes: alto riesgo
- Puntuación social de clientes o personas: prohibido
- Publicar imágenes, vídeos o audios que parecen reales (ultrasuplantaciones): obligación de aviso
- Publicar textos generados con IA sobre asuntos de interés público: obligación de aviso
- Crear imágenes con IA para publicidad o redes sociales: obligación de aviso
Información general, comprobada el 5 de noviembre de 2026 con el Reglamento (UE) 2024/1689 en la redacción del Reglamento (UE) 2026/1744. La clasificación depende de la finalidad concreta del sistema; no es asesoramiento para un caso concreto.