Aqui se desarrolla en detalle el marco regulatorio que prevé el Reglamento de Inteligencia Artificial de la UE como sansionar con multas millonarias a las plataformas y una serie de acciones comunes que exigen un control técnico y ético de todas estas herramientas para mitigar los riesgos.
Un régimen sancionador
Las sanciones a las extralimitaciones parten de los 15 millones de euros por incumplimientos relacionados con los sistemas catalogados como de ‘alto riesgo’ y de hasta 35 millones de euros en el caso de las muy graves, por utilizar por ejemplo sistemas de IA prohibidos.
Hay herramientas y prácticas ‘inaceptables’ que en la UE ya están prohibidos desde el pasado año. Entre ellos están:
Los que usan técnicas subliminales, manipuladoras o engañosas
Los que tratan de explotar la vulnerabilidad de las personas (menores, mayores o discapacitados).
Los que usan la clasificación biométrica para deducir la raza, la religión o la orientación sexual o los sistemas que usan la ‘puntuación social’ para evaluar conductas.
Están también ya prohibidos en la UE otras practicas con sistemas de IA para:
La inferencia de emociones en los centros laborales o educativos.
La recolección de imágenes de internet para crear bases de datos faciales o la identificación biométrica remota y en tiempo real en lugares públicos con fines policiales.
‘Deepfakes’ sexuales y pornografía infantil
A estas herramientas ‘inaceptables’ se acaban de incorporar como sistemas prohibidos que entrarán en vigor en diciembre próximo.
Estos son algunos de los peores usos de la IA generativa:
La creación o manipulación sin consentimiento de contenidos íntimos (‘deepfakes sexuales’) o cualquiera capaz de generar pornografía infantil. Entrada en vigor: entre el 2 de agosto de 2026 y agosto de 2028.
Marcado como el punto de inflexión del Reglamento, el 2 de agosto se empieza a aplicar el grueso de la norma: todas las obligaciones de transparencia, las reglas que regulan la mayoría de los sistema de IA y las obligaciones de los proveedores y de los usuarios.
Pero la Comisión Europea ha aprobado una norma (Omnibus Digital) para simplificar el complejo ecosistema de leyes digitales e intentar que su aplicación sea más gradual y coordinada.
Lo que regirá desde el 2 de agosto:
La obligación de informar a cualquier usuario de que está interactuando con un sistema de IA, pero no el etiquetado obligatorio de los contenidos que se generen con herramientas de IA (con una marca de agua con las siglas AI), que se ha pospuesto hasta el próximo 2 de diciembre para aquellos sistemas capaces de generar contenidos sintéticos (imágenes, vídeos o audios que imiten elementos o personas reales).
Y aplaza, hasta diciembre de 2027, algunos de los puntos más trascendentes de la ley, entre ellos, las exigentes obligaciones que tienen que cumplir los sistemas de IA catalogados como ‘de alto riesgo’, por ejemplo:
Los que se usen para evaluar o calificar a estudiantes, para filtrar currículos, para evaluar la solvencia económica de las personas
o para fijar el precio de un seguro de vida o de salud.
Dos años más (agosto de 2028) tardarán en entrar en vigor todas las obligaciones referidas a los sistemas de inteligencia artificial, clasificados también ‘de alto riesgo’ pero que estén integrados en productos o en servicios ya regulados, como:
Dispositivos médicos
Asistentes de conducción
Juguetes o asistentes de navegación aérea.
Los expertos ha valorado el marco regulatorio como ‘una prueba de madurez’ porque cualquier sistema de IA se debe poder ‘explicar, gobernar y auditar’ y ha rechazado la ‘falsa’ dicotomía que a su juicio existe de que Estados Unidos ha elegido la innovación y Europa la regulación o que este tipo de normas frenen la innovación y competitividad europeas.
