Ley de IA de la UE: ¿Qué esperar?

La Unión Europea está a punto de introducir una ley para mitigar los riesgos asociados con los sistemas de IA y establecer directrices claras para desarrolladores, usuarios y reguladores. Este artículo profundizará en los detalles de la AI ACT propuesta y su impacto potencial en las empresas.

La Unión Europea ya ha ido un paso por delante de otras naciones en cuanto a normativa de protección de datos. El Reglamento ePrivacy y el RGPD son una de las normativas de protección de datos más completas del mundo.

Ahora están a punto de presentar la primera ley integral del mundo para regular los sistemas de inteligencia artificial. En este artículo, discutiremos sobre AI ACT de la UE y lo que podemos esperar de él.

Empecemos.

La Ley de IA es el marco regulatorio propuesto por la Unión Europea para los sistemas de IA. Una vez aprobada, esta será la primera regulación integral de IA del mundo.

La ley clasifica y analiza los sistemas de IA en función de los riesgos asociados a ellos. Cuanto mayor es el riesgo, significa más obligaciones que cumplir.

La ley establecerá las siguientes cosas:

• Normas y regulaciones claras para la venta o el uso de sistemas de IA en la Unión Europea.
• Restringe ciertas prácticas relacionadas con la Inteligencia Artificial.
• Obligaciones especiales para los sistemas de IA y sus operadores.
• Directrices para sistemas de IA diseñados para interactuar con personas, sistemas de reconocimiento de emociones, sistemas de categorización biométrica y sistemas de IA utilizados para generar o manipular contenido de imágenes, audio o video.
• Normas sobre seguimiento y vigilancia del mercado.

La Ley de IA propuesta será aplicable a:

• Empresas que venden o utilizan sistemas de IA en la Unión Europea, incluso si se encuentran fuera del territorio de la UE.
• Personas que utilizan sistemas de IA en la UE.
• Empresas y usuarios de sistemas de IA en otro país si la producción generada por el sistema se utiliza dentro de la UE.
• Para los sistemas de IA de alto riesgo relacionados con ciertos productos o sistemas que están sujetos a ciertas regulaciones, solo se aplicará el artículo 84 de la ley.

La ley no será aplicable a los sistemas de IA desarrollados o utilizados para la defensa y la seguridad nacionales.

Tampoco se aplica a agencias y grupos gubernamentales a menos que esas agencias utilicen sistemas de inteligencia artificial en acuerdos para la aplicación de la ley y la cooperación con la Unión o uno o más Estados miembros.

Además, esta regla no cambia las reglas sobre la responsabilidad de los proveedores de servicios en línea mencionadas en Directiva 2000/31/CE.

La Ley de IA clasifica los sistemas de IA en función del riesgo que suponen para los usuarios.

1. Riesgo inaceptable
2. Alto riesgo
3. Riesgo limitado

Riesgo inaceptable

Los sistemas de IA que entran en la categoría de riesgo inaceptable se consideran una amenaza para la sociedad humana y serán prohibidos. Esto incluye:

• Manipular el comportamiento de las personas, especialmente de los grupos vulnerables.
• Categorizar a las personas según su comportamiento, estatus socioeconómico o características personales (puntuación social).
• Identificar y categorizar personas utilizando información biométrica.
• Sistemas de identificación biométrica remota y en tiempo real, como el reconocimiento facial.

Habrá algunas excepciones para fines de aplicación de la ley. En casos específicos se permitirán sistemas de identificación biométrica remota en tiempo real. Además, los sistemas de identificación biométrica posteriores a distancia, donde la identificación se produce después de un tiempo, podrán procesar delitos graves sólo después de obtener la aprobación del tribunal.

Alto riesgo

Los sistemas de IA que entran en la categoría de alto riesgo suponen un riesgo significativo para la seguridad o los derechos fundamentales. Estos sistemas se dividen en dos subcategorías:

• Sistemas de IA utilizados en productos críticos para la seguridad: Estos sistemas incluyen productos sujetos a la legislación de seguridad de productos de la UE, como la IA utilizada en dispositivos médicos, vehículos autónomos y aviones.
• Sistemas de IA en sectores específicos: Estos incluyen la gestión de infraestructuras críticas, aplicación de la ley, educación, empleo, servicios esenciales, etc. Estos sistemas deben registrarse en una base de datos de la UE y cumplir con obligaciones específicas.

Riesgo limitado

Estos sistemas pueden tener algún daño potencial, pero se consideran menos riesgosos. Por lo tanto, estos sistemas sólo requieren obligaciones mínimas. Los desarrolladores de estos sistemas deberían informar a los usuarios sobre cómo funciona y qué datos utilizan. Esto incluye sistemas de inteligencia artificial generativa como ChatGPT, Bard de Google, etc.

Lea también: Preocupaciones por la privacidad y la IA generativa: todo lo que necesita saber

La Ley de IA puede afectar a diferentes tipos de empresas según el nivel de riesgo involucrado. Si su empresa desarrolla o utiliza sistemas de inteligencia artificial que entran en la categoría de riesgo inaceptable, probablemente será prohibido.

Negocios de alto riesgo

Para las empresas con alto riesgo, habrá regulaciones complejas que cumplir. Las siguientes son algunas de las industrias de alto riesgo que podrían verse afectadas por la Ley de IA:

1. Empresas de tecnología financiera y servicios financieros: Los servicios financieros utilizan complejos sistemas de inteligencia artificial para el comercio algorítmico, la calificación crediticia y la detección de fraude. Es posible que tengan que cumplir regulaciones estrictas, como una gobernanza sólida de los datos y transparencia en el uso y trabajo de los algoritmos, y deben realizarse bajo supervisión humana.
2. Agencias de recrutamiento: Las agencias de contratación utilizan sistemas de inteligencia artificial para seleccionar y evaluar currículums a los candidatos. La ley podría limitar los sistemas sesgados y promover prácticas de contratación más justas.
3. Industria de la salud: Los sistemas de inteligencia artificial utilizados en la industria de la salud se incluyen en la categoría de alto riesgo. Se examinarán los hospitales que utilizan sistemas de inteligencia artificial en el diagnóstico y el tratamiento. La ley establecerá regulaciones estrictas sobre privacidad y transparencia de datos para garantizar el uso responsable de la IA en la atención médica.

Otras industrias afectadas

1. Publicidad: La publicidad dirigida y las recomendaciones personalizadas podrían enfrentar un escrutinio por posible discriminación. Es posible que las empresas necesiten adaptar sus prácticas para cumplir con los requisitos de equidad y transparencia.
2. Medios de comunicación social: La Ley de IA podría abordar las preocupaciones sobre el sesgo algorítmico y la manipulación en las plataformas de redes sociales. Es posible que las plataformas necesiten invertir en algoritmos y mecanismos de control de usuarios más justos.
3. Fabricación y transporte: Los sistemas de inteligencia artificial utilizados en vehículos autónomos deberían seguir pautas estrictas para implementar medidas de seguridad sólidas, garantizar la transparencia, etc. Esto podría afectar sus cronogramas de desarrollo e implementación.

Impacto general

• Costo de cumplimiento: Las empresas que utilizan o desarrollan sistemas de IA probablemente necesitarán invertir en experiencia jurídica y medidas de cumplimiento.
• Retrasar el desarrollo y la producción: Las empresas que desarrollen productos y servicios impulsados ​​por IA deberán cumplir varias obligaciones para cumplir con la ley. Esto podría retrasar el desarrollo y la producción de dichos productos.
• Mejorar la transparencia: Las empresas deben garantizar la transparencia al utilizar o desarrollar sistemas de inteligencia artificial. Es posible que tengan que revelar el funcionamiento de los sistemas de inteligencia artificial a los usuarios. Si bien podría parecer que las empresas enfrentarán mayores desafíos, aquellos que se adhieran a prácticas responsables de IA en realidad podrían obtener una ventaja competitiva.

La Ley de IA de la UE aún está en desarrollo. La versión final puede ser diferente, por lo que aún no podemos brindarle pautas exactas a seguir. Sin embargo, prepararse proactivamente para el cumplimiento puede ayudarle a reducir su esfuerzo y obtener una ventaja competitiva en el panorama de la IA responsable.

A continuación se presentan algunas pautas generales que puede seguir para prepararse para la Ley de IA:

• Identificar y categorizar todos los sistemas de IA utilizados dentro de la organización.
• Evaluar y encontrar riesgos potenciales asociados con los sistemas de IA que utilizan.
• Garantizar la transparencia y la toma de decisiones imparciales al utilizar sistemas de IA.
• Mantenga documentación detallada del desarrollo, la capacitación y las pruebas del sistema de IA.
• Garantizar el control y la supervisión humanos de los sistemas de IA.
• Busque asesoramiento legal sobre la interpretación e implementación de los requisitos de la Ley.
• Manténgase informado sobre los requisitos de cumplimiento para su industria.
• Explicar el funcionamiento de los sistemas de IA a los usuarios.

La Ley de IA de la UE se convertirá en la primera regulación global sobre Inteligencia Artificial. Creará un marco para guiar el uso responsable y el desarrollo de sistemas de IA en la Unión Europea. Si bien no podemos decir una fecha exacta para su aplicación, una cosa es segura es que inspirará a otros países a promulgar leyes similares, promoviendo el uso responsable de la IA en todo el mundo.

Este artículo está escrito en base a la texto de propuesta de la Ley de IA. Lo actualizaremos una vez que el texto oficial entre en vigor.

¿Qué piensa sobre la propuesta de Ley de IA? ¿Cree que ayudará a las empresas a adoptar prácticas éticas en el uso de sistemas de IA? Háganos saber en los comentarios.

Descargo de responsabilidad: Este artículo está destinado únicamente a fines informativos y no representa asesoramiento legal. No tenemos intención de obtener ningún tipo de relación abogado-cliente. Si buscas asesoramiento jurídico, te recomendamos contactar con un profesional.