inteligencia artificial hombre maquinaEl Parlamento aprobó ayer la Ley de Inteligencia Artificial, que garantiza la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación. El Reglamento, acordado en las negociaciones con los Estados miembros en diciembre de 2023, fue respaldado por la Eurocámara con 523 votos a favor, 46 en contra y 49 abstenciones. Su objetivo es proteger los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad medioambiental frente a la IA que entraña un alto riesgo.

Obligaciones

El Reglamento fija una serie de obligaciones para la IA en función de sus riesgos potenciales y su nivel de impacto. Entre las disposiciones más destacadas se encuentra la prohibición explícita de ciertas aplicaciones de IA que podrían socavar los derechos de los ciudadanos, como los sistemas de categorización biométrica basados en características sensibles o la manipulación del comportamiento humano. Asimismo, se prohíbe el reconocimiento de emociones en entornos laborales y educativos, así como la implementación de sistemas de puntuación ciudadana y de actuación policial predictiva basados en perfiles individuales.

Exenciones

Destaca la regulación en torno al uso de sistemas biométricos por parte de las fuerzas de seguridad, que se limita estrictamente a situaciones específicas y bajo ciertas salvaguardias, incluida la autorización judicial. Esta disposición refleja el compromiso de garantizar que el uso de la IA por parte del Estado se ajuste a los principios democráticos y al Estado de derecho.

Sistemas de alto riesgo

Por otro lado, el reglamento establece obligaciones claras para los sistemas de IA considerados de alto riesgo (algunos ejemplos de uso son las infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales, etc), que abarcan desde la evaluación y mitigación de riesgos hasta la transparencia y supervisión humana. Además, se exige a los desarrolladores de IA que cumplan con requisitos de transparencia, incluida la publicación de resúmenes detallados del contenido utilizado para entrenar sus modelos. Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados («ultrafalsificaciones») deberán etiquetarse claramente como tales.

Medidas de apoyo a la innovación y a las pymes

Habrá que poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.

Próximos pasos

La aprobación final del Reglamento de Inteligencia Artificial está pendiente de una última revisión jurídico-lingüística, con su adopción definitiva prevista antes del fin de la legislatura mediante el procedimiento de corrección de errores. Además, la ley debe ser formalmente adoptada por el Consejo.

Una vez publicado en el Diario Oficial, entrará en vigor veinte días después, será de plena aplicación veinticuatro meses después de su entrada en vigor, con excepción de: las prohibiciones de prácticas tendrán efecto (6 meses después de la entrada en vigor), los códigos de buenas prácticas (9 meses después), las normas sobre IA de uso general (12 meses después) y las obligaciones para los sistemas de alto riesgo (36 meses después).