Inteligencia artificial

La Comisión Europea ha presentado sus nuevas normas y medidas para impulsar la inteligencia artificial (IA) en un entorno “digno de confianza”.

“La combinación del primer marco jurídico sobre la IA de la historia y de un nuevo plan coordinado con los Estados miembros garantizará la seguridad y los derechos fundamentales de las personas y las empresas, al tiempo que reforzará la adopción, la inversión y la innovación en materia de IA en toda la UE”, afirma el Ejecutivo.

Las nuevas normas se aplicarán directamente de la misma manera en todos los Estados miembros sobre la base de una definición de IA a prueba de futuro. Siguen un planteamiento basado en el riesgo, con varios niveles. Se establece un enfoque basado en el riesgo. Es decir, cuanto más arriesgado sea el uso de la IA o más graves sean las consecuencias que pueden derivarse de su mal uso, más requerimientos se habrán de cumplir.

  • Riesgo inadmisible. Se prohibirán los sistemas de IA.
  • Alto riesgo. Los sistemas de IA estarán sujetos a obligaciones estrictas antes de que puedan comercializarse, con pueden ser sistemas adecuados de evaluación y mitigación de riesgos, alta calidad de los conjuntos de datos o registro de la actividad para garantizar la trazabilidad de los resultados.
  • Riesgo limitado. Contempla obligaciones específicas de transparencia. Por ejemplo, los usuarios deberán ser conscientes de que están interactuando con una máquina para poder tomar una decisión informada de continuar o no.
  • Riesgo mínimo o nulo. La propuesta permite el uso gratuito de aplicaciones tales como videojuegos basados en la IA o filtros de correo basura. La inmensa mayoría de los sistemas de IA entra en esta categoría. El proyecto de Reglamento no interviene aquí, ya que estos sistemas de IA solo representan un riesgo mínimo o nulo para los derechos o la seguridad de los ciudadanos.

Otros aspectos a destacar, que de los que UNESPA informa a las aseguradoras asociadas, son:

  • Se prevé la creación de sandboxes específicos en este ámbito.
  • Se recomienda la adopción de códigos de conducta voluntarios que fomenten la aplicación de los requisitos de los sistemas de IA de alto riesgo, a cualquier uso de la IA.
  • Se crea un nuevo supervisor. Es el Consejo Europeo de Inteligencia Artificial.
  • Se prohíbe, con carácter general, el uso de sistemas de identificación biométrica remota.
  • Se establecen los principios que deben regir el uso de IA. Se cita la calidad del dato, la intervención de personas, la resiliencia de los sistemas, la transparencia o la obligación de contar con sistemas de gestión de riesgos.