La Comisión Europea aclara el concepto de “sistema de inteligencia artificial” y detalla las prácticas prohibidas en el marco de la Ley de IA

El pasado 6 de febrero de 2025, la Comisión Europea publicó unas directrices interpretativas destinadas a clarificar el concepto de “sistema de inteligencia artificial” conforme al Reglamento (UE) 2024/1689, conocido como Ley de IA.  Completan, además, sus previas «directrices sobre practicas de IA prohibidas«.  Aunque no tienen carácter vinculante, estas directrices ofrecen una orientación valiosa tanto para proveedores y usuarios de sistemas de IA como para las autoridades competentes, ayudando a interpretar el artículo 3.1 del Reglamento, que define qué debe entenderse por un sistema de inteligencia artificial.

Amanece o atardece-

Según la Comisión, los elementos clave que permiten identificar un sistema como IA son:

• Autonomía funcional: capacidad para operar sin supervisión humana constante.

• Capacidad de inferencia: uso de modelos computacionales para generar resultados a partir de datos.

• Adaptabilidad: posibilidad de ajustar su comportamiento con el tiempo.

• Objetivo definido: el sistema persigue una finalidad concreta.

• Procesamiento de datos: capacidad para utilizar datos estructurados o no estructurados.

• Interacción con el entorno: recepción de entradas y producción de salidas.

• Capacidad de aprendizaje: aunque no es imprescindible, se valora si el sistema puede aprender de la experiencia.

Estas características no se exigen de forma acumulativa, pero sirven como guía para determinar si un sistema encaja dentro del ámbito de aplicación del Reglamento.

Asimismo, el 4 de febrero, la Comisión publicó unas directrices específicas sobre las prácticas de IA consideradas de “riesgo inaceptable”, cuya prohibición se establece en el artículo 5 del Reglamento. Estas restricciones son de aplicación universal e inmediata, con independencia de la fecha de comercialización del sistema. Las prácticas prohibidas son las siguientes:

1. Manipulación subliminal susceptible de causar daño físico o psicológico.

2. Explotación de vulnerabilidades de personas por razón de edad, discapacidad o situación social.

3. Clasificación social basada en el comportamiento, el estatus o características personales.

4. Identificación biométrica remota en tiempo real en espacios públicos (con excepciones judiciales muy restringidas).

5. Identificación biométrica remota posterior sin autorización judicial previa.

6. Sistemas de puntuación de comportamiento aplicados por autoridades públicas.

7. IA orientada a manipular el comportamiento humano de manera que cause perjuicio.

8. Inferencia emocional en el contexto laboral o educativo.

El incumplimiento de estas prohibiciones puede dar lugar a sanciones administrativas significativas, conforme al régimen sancionador previsto por el Reglamento.

Las directrices se completan con un anexo de 136 páginas que incluye ejemplos prácticos, fundamentos jurídicos y criterios interpretativos para facilitar la aplicación de la norma por parte de los operadores jurídicos, empresas desarrolladoras y autoridades de supervisión.

Ver las Directrices y material complementario: