La UE implementa las primeras obligaciones de transparencia bajo la Ley de IA este domingo
- Obligación de identificación de 'deepfakes'
- Primeras obligaciones: transparencia, evaluación y supervisión
- Impacto del artículo 50 en la actividad empresarial
Obligación de identificación de 'deepfakes'
La Unión Europea marca un avance clave este domingo 2 de agosto con la activación de nuevas medidas dentro del Reglamento europeo de inteligencia artificial, conocido como AI Act. En esta etapa inicial, se establecen obligaciones de transparencia concretas, que deben cumplirse tanto a nivel nacional como comunitario.
De acuerdo con la planificación de la Comisión Europea, este periodo implica la aplicación efectiva de normas sobre transparencia del artículo 50, además de medidas destinadas a fomentar la innovación, reforzando el sistema de supervisión y el cumplimiento en todos los países miembros de la UE. Estas disposiciones incluyen también la regulación de modelos de inteligencia artificial de propósito general, sus prohibiciones y la exigencia de alfabetización en IA.
Entre los aspectos más destacados, la Comisión Europea exigirá que todo contenido generado o manipulado con inteligencia artificial, incluyendo los denominados 'deepfakes', sea claramente identificado. Además, los sistemas como los chatbots deberán informar a los usuarios que están interactuando con una IA. Por primera vez, Bruselas asume funciones directas para asegurar el cumplimiento de la normativa.
Primeras obligaciones: transparencia, evaluación y supervisión
Las tecnologías que generen imágenes, vídeos, audios o textos mediante inteligencia artificial deberán incorporar marcas identificativas para facilitar su reconocimiento. Su utilización en entornos profesionales requerirá indicar explícitamente que los contenidos han sido modificados gracias a IA, y los asistentes conversacionales deberán comunicar que la interlocución es con una máquina, no con una persona.
Estas nuevas reglas permiten a Bruselas comenzar la supervisión de los modelos de IA de propósito general, capaces de ejecutar múltiples tareas y sustentar numerosas herramientas y servicios. La Oficina Europea de IA podrá solicitar información a las empresas responsables, evaluar los sistemas, ordenar correcciones e incluso restringir su uso ante incumplimientos detectados.
El control se desplegará en cooperación con las autoridades nacionales: la Comisión supervisará a los proveedores bajo su competencia, los Estados miembros vigilarán los sistemas en su territorio y el Supervisor Europeo de Protección de Datos atenderá el uso en organismos de la UE.
Para apoyar este sistema, Bruselas ha creado un panel científico con 60 expertos independientes, ha designado un asesor científico principal y establecido canales para reportar posibles infracciones, incluyendo mecanismos de denuncia accesibles a ciudadanos, empresas y desarrolladores que usen modelos de terceros.
La implementación del reglamento continuará progresivamente. El 2 de diciembre próximo entrarán en vigor prohibiciones adicionales para impedir el uso de IA en la generación de contenido sexual explícito sin consentimiento o material de abuso sexual infantil, y concluirá el periodo transitorio para que ciertos modelos comercializados incorporen marcas identificativas.
Posteriormente, el 2 de diciembre de 2027 se aplicarán las normas sobre IA considerada de alto riesgo, utilizada en sectores como salud, educación o empleo. Finalmente, el 2 de agosto de 2028 se extenderán las disposiciones a sistemas de IA integrados en productos regulados por otras leyes europeas, como dispositivos médicos o vehículos.
En esta categoría de alto riesgo se incluyen productos y componentes de seguridad que requieren evaluación por organismos terceros según legislación comunitaria, abarcando maquinaria, juguetes, ascensores, equipos para atmósferas explosivas, dispositivos médicos, automoción y aviación, entre otros, sujetos a controles y requisitos reforzados.
La AI Act representa la primera regulación integral a nivel mundial sobre inteligencia artificial, enfocada en impulsar la innovación y adopción tecnológica sin sacrificar la salud, seguridad, derechos fundamentales, democracia y Estado de derecho.
Impacto del artículo 50 en la actividad empresarial
Los proveedores de sistemas de IA, incluidos los modelos de propósito general que generan o manipulan textos, imágenes, audios o vídeos, deberán incorporar marcas electrónicas legibles que permitan identificar el origen artificial de los contenidos.
Asimismo, quienes utilicen sistemas de IA para crear o alterar textos informativos dirigidos al público en materias de interés público están obligados a revelar que estos han sido generados o modificados mediante inteligencia artificial.
No obstante, esta obligación queda exenta si existe un proceso efectivo de revisión humana o control editorial, y una persona física o jurídica asume responsabilidad editorial sobre la publicación. La Comisión Europea aclara que revisiones formales, como corrección gramatical u ortográfica, no se consideran suficientes para eximir esta obligación.
Los temas afectados incluyen política, procesos democráticos, administración pública, justicia, derechos fundamentales, seguridad y salud públicas, protección ambiental, seguridad del consumidor y cualquier ámbito económico, financiero, científico o cultural con potencial debate público.
El cumplimiento será vigilado por las autoridades nacionales encargadas del control del mercado. Las infracciones pueden acarrear multas de hasta 15 millones de euros o el 3 % de la facturación anual total del ejercicio anterior, aplicándose la cifra más elevada.
Al imponer sanciones, se considerará la proporcionalidad, especialmente en el caso de pequeñas y medianas empresas o aquellas de mediana capitalización.