La UE pone en marcha este domingo las primeras reglas de transparencia en IA
La Unión Europea marca un punto importante en la regulación de la inteligencia artificial con la entrada en vigor, este domingo 2 de agosto, de las primeras reglas que obligan a ser transparentes en el uso de estas tecnologías. Estas novedades forman parte del avanzado Reglamento europeo de inteligencia artificial (AI Act) y establecen las primeras medidas que deberán aplicar los países miembros y las instituciones comunitarias.
De acuerdo con el calendario oficial publicado por la Comisión Europea, esta etapa activa principalmente las normas de transparencia que están en el artículo 50, además de las acciones para fomentar la innovación. Esto fortalece el control y vigilancia en todos los Estados miembros, aplicando la normativa en aspectos como los modelos de propósito general, las prohibiciones y los requisitos para mejorar la comprensión pública de la inteligencia artificial (IA).
Con esta puesta en marcha, la Comisión Europea empezará a exigir que se identifiquen claramente los contenidos hechos o modificados con IA, incluidos los famosos 'deepfakes'. Los chatbots y otros sistemas de conversación deberán informar a los usuarios de que están interactuando con una máquina, no con una persona. Por primera vez, Bruselas tomará un papel activo en supervisar que se cumpla esta regulación.
Primeras obligaciones de transparencia
Este nuevo marco permitirá además a Bruselas supervisar por primera vez los modelos de IA de propósito general, que son aquellos capaces de realizar diversas tareas y que sustentan muchas herramientas y servicios que usamos a diario.
La Oficina Europea de IA tendrá la potestad de pedir datos a las compañías que desarrollan estos sistemas, acceder a ellos para evaluarlos, ordenar correcciones o incluso limitar su uso si detecta problemas. Este seguimiento será coordinado con las autoridades nacionales: la Comisión se encargará de ciertos proveedores y sistemas, mientras que cada país supervisará las herramientas que operan en su territorio. El Supervisor Europeo de Protección de Datos se ocupará de los sistemas usados por las instituciones europeas.
Para apoyar este sistema, Bruselas ha creado un panel de 60 expertos independientes, ha elegido a un asesor científico principal y ha habilitado varios canales para reportar incumplimientos, dirigidos tanto a ciudadanos como a empresas y desarrolladores que trabajan con modelos de terceros.
La aplicación de la ley avanza poco a poco. El próximo cambio será el 2 de diciembre, fecha en la que entrarán en vigor nuevas prohibiciones acordadas en el paquete 'AI Omnibus'. Estas prohibiciones impedirán el uso de sistemas que generen contenido sexual explícito sin consentimiento o material de abuso sexual infantil. Además, se completará el plazo para que ciertos modelos ya en el mercado se adapten a la obligación de marcar contenidos generados por IA.
Más adelante, el 2 de diciembre de 2027, se activarán las normas para la IA considerada de alto riesgo, usada en sectores como salud, educación o empleo. Finalmente, el 2 de agosto de 2028, se aplicarán las reglas para sistemas de IA integrados en productos que están regulados por otras leyes europeas, como dispositivos médicos o vehículos.
Respecto a la IA de alto riesgo, la norma señala que los sistemas que sean parte de productos con normas específicas de seguridad se considerarán así cuando requieran una evaluación externa conforme a la regulación europea. Esto incluye maquinaria, juguetes, ascensores, equipos para atmósferas explosivas, radio, dispositivos médicos, automoción y aviación, entre otros, que deberán cumplir con controles estrictos bajo la Ley de IA.
Esta regulación de la UE es pionera a nivel mundial y busca impulsar la innovación y el uso responsable de la IA, asegurando al mismo tiempo una protección sólida de la salud, la seguridad y los derechos fundamentales, como la democracia y el respeto a la ley.
Impacto en las empresas del artículo 50
Los creadores de sistemas de inteligencia artificial, incluidos aquellos que generan o modifican texto, imágenes, audio o vídeo, deberán hacer que esos contenidos lleven un marcado legible por máquina que indique claramente que han sido creados o alterados con IA.
Además, quienes usen sistemas de IA para generar o manipular textos destinados a informar al público sobre temas de interés general deberán revelar que el contenido proviene de inteligencia artificial.
El reglamento exime esta obligación si existe una revisión humana real o un control editorial en el que una persona física o jurídica asuma la responsabilidad del contenido publicado. No obstante, la Comisión Europea aclara que las correcciones simples, como la ortografía o gramática, no cuentan como revisión humana o control editorial en este contexto.
La norma afecta a contenidos que traten sobre política, procesos democráticos, administración pública, justicia, derechos fundamentales, seguridad pública, salud, protección del medio ambiente, seguridad del consumidor, y temas económicos, financieros, científicos o culturales que puedan generar debate público.
El cumplimiento será vigilado por las autoridades nacionales encargadas del mercado. El incumplimiento podrá acarrear sanciones que en ciertos casos pueden llegar hasta 15 millones de euros o el 3% del volumen de negocio anual del año anterior, aplicando la cantidad más alta entre ambas.
Al imponer multas, se podrá tener en cuenta la proporcionalidad, especialmente para pequeñas y medianas empresas.
