IA y la interpretación de la Comisión Europea del concepto de Sistema de Inteligencia Artificial y del concepto de prácticas prohibidas

Spread the love

La Comisión Europea aclara el concepto de “sistema de inteligencia artificial” y detalla las prácticas prohibidas en el marco de la Ley de IA

El pasado 6 de febrero de 2025, la Comisión Europea publicó unas directrices interpretativas destinadas a clarificar el concepto de “sistema de inteligencia artificial” conforme al Reglamento (UE) 2024/1689, conocido como Ley de IA.  Completan, además, sus previas «directrices sobre practicas de IA prohibidas«.  Aunque no tienen carácter vinculante, estas directrices ofrecen una orientación valiosa tanto para proveedores y usuarios de sistemas de IA como para las autoridades competentes, ayudando a interpretar el artículo 3.1 del Reglamento, que define qué debe entenderse por un sistema de inteligencia artificial.

Amanece o atardece-

Según la Comisión, los elementos clave que permiten identificar un sistema como IA son:

  • Autonomía funcional: capacidad para operar sin supervisión humana constante.

  • Capacidad de inferencia: uso de modelos computacionales para generar resultados a partir de datos.

  • Adaptabilidad: posibilidad de ajustar su comportamiento con el tiempo.

  • Objetivo definido: el sistema persigue una finalidad concreta.

  • Procesamiento de datos: capacidad para utilizar datos estructurados o no estructurados.

  • Interacción con el entorno: recepción de entradas y producción de salidas.

  • Capacidad de aprendizaje: aunque no es imprescindible, se valora si el sistema puede aprender de la experiencia.

Estas características no se exigen de forma acumulativa, pero sirven como guía para determinar si un sistema encaja dentro del ámbito de aplicación del Reglamento.

Asimismo, el 4 de febrero, la Comisión publicó unas directrices específicas sobre las prácticas de IA consideradas de “riesgo inaceptable”, cuya prohibición se establece en el artículo 5 del Reglamento. Estas restricciones son de aplicación universal e inmediata, con independencia de la fecha de comercialización del sistema. Las prácticas prohibidas son las siguientes:

  1. Manipulación subliminal susceptible de causar daño físico o psicológico.

  2. Explotación de vulnerabilidades de personas por razón de edad, discapacidad o situación social.

  3. Clasificación social basada en el comportamiento, el estatus o características personales.

  4. Identificación biométrica remota en tiempo real en espacios públicos (con excepciones judiciales muy restringidas).

  5. Identificación biométrica remota posterior sin autorización judicial previa.

  6. Sistemas de puntuación de comportamiento aplicados por autoridades públicas.

  7. IA orientada a manipular el comportamiento humano de manera que cause perjuicio.

  8. Inferencia emocional en el contexto laboral o educativo.

El incumplimiento de estas prohibiciones puede dar lugar a sanciones administrativas significativas, conforme al régimen sancionador previsto por el Reglamento.

Las directrices se completan con un anexo de 136 páginas que incluye ejemplos prácticos, fundamentos jurídicos y criterios interpretativos para facilitar la aplicación de la norma por parte de los operadores jurídicos, empresas desarrolladoras y autoridades de supervisión.

Ver las Directrices y material complementario:

  • Directrices sobre la definición de “sistema de inteligencia artificial” emitidas el 6 de febrero de 2025, que ayudan a interpretar el concepto jurídico del artículo 3.1 del Reglamento (UE) 2024/1689 (Ley de IA)
  • Directrices sobre las prácticas prohibidas de IA (riesgo inaceptable), publicadas el 4 de febrero de 2025, que precisan las prohibiciones establecidas en el artículo 5 del mismo Reglamento
  • Ley para el impulso de la UE en Galicia