La Unión Europea implementará en próximos meses una nueva ley sobre Inteligencia Artificial (IA), la cual afectará a las empresas que diseñan o utilizan sistemas de IA en su territorio. Esta legislación busca garantizar que estos sistemas sean seguros y respeten los derechos fundamentales de las personas, al mismo tiempo que fomenta la inversión y la innovación en el campo de la IA.
La legislación guarda similitud con el Reglamento General de Protección de Datos (RGPD) de Europa, pero se enfoca específicamente en la regulación de la inteligencia artificial (IA). Este reglamento establece requisitos para las empresas que diseñan o utilizan sistemas de IA en la Unión Europea y está respaldado por sanciones severas.
Las Organizaciones que ya han implementado programas de IA responsable y gestión de riesgos éticos tienen una ventaja en este aspecto. Parten de una mejor predisposición para abordar una gama más amplia de riesgos que los que la ley introduce, lo cual puede provocarles un menor impacto en el cumplimiento de los requisitos legales establecidos.
Principales requerimientos de la Ley de la IA
La ley establece que las aplicaciones de IA serán clasificadas según el riesgo que representen. Por ejemplo, prácticas como el perfilado social o la identificación biométrica en espacios públicos estarán prohibidas. Además, las aplicaciones consideradas de alto riesgo, como aquellas que controlan infraestructuras críticas o determinan el acceso a la educación, deberán someterse a una evaluación de conformidad y ser notificadas a las autoridades pertinentes.
Existen áreas especialmente sensibles en las que algunas aplicaciones podrán entrar en la categoría de alto riesgo tales como:
- Formación educativa o profesional, que puede determinar el acceso a la educación y al curso profesional de la vida de alguien (por ejemplo, las calificaciones de los exámenes)
- Componentes de seguridad de los productos (por ejemplo, aplicación de IA en cirugía asistida por robot)
- Empleo, gestión de trabajadores y acceso al autoempleo (por ejemplo, software de clasificación de currículos para los procedimientos de contratación)
- Servicios públicos y privados esenciales (por ejemplo, el scoring bancario o crediticio que permite o deniega a los ciudadanos la oportunidad de obtener un préstamo)
Por otro lado, las aplicaciones de propósito general o de uso masivo (Chat GPT y similares) deben garantizar la transparencia del sistema para que los usuarios sepan cuándo están interactuando con una máquina.
Supervisión y cumplimiento
Existe la voluntad de crear la Oficina Europea de IA, la cual supervisará los modelos de IA de propósito general y colaborará con expertos independientes en el campo.
Para asegurar que las empresas cumplen con estos requisitos, la ley establece la necesidad de poner en marcha medidas de gobernanza y monitoreo adecuadas para garantizar que los sistemas de IA cumplan con los estándares éticos y legales definidos.
La nueva regulación exige a los proveedores de IA garantizar datos de alta calidad para el entrenamiento, validación y prueba de sus productos, sin embargo, no especifica claramente qué constituye «datos de alta calidad».
Las empresas deben replantearse cómo utilizan sus datos y cómo acceden a los datos de otros. Una infraestructura de datos federada, por ejemplo, donde los datos no se muevan y que permita a las organizaciones trabajar a través de límites organizativos y geográficos cumpliendo con los requisitos regulatorios, permitirá a las organizaciones aprovechar el potencial de la IA mitigando los incumplimientos o sanciones bajo nuevas y emergentes regulaciones.
Las empresas ante la Ley de la IA
La responsabilidad de cumplir con esta ley recae en toda la empresa, desde la alta dirección hasta los gerentes. Se espera que se establezca un programa de cumplimiento de la Ley de Inteligencia Artificial que abarque el diseño, implementación y mantenimiento del mismo. Esto implica realizar análisis de brechas, evaluaciones de riesgos y evaluaciones de madurez para determinar los recursos necesarios.
Será necesario evaluar si un modelo de IA entra en las categorías de IA prohibida o de alto riesgo según la Ley de IA.
Gran parte de las responsabilidades relacionadas con el cumplimiento recaerá también en los ingenieros y científicos de datos. La falta de contínua evaluación de los datos utilizados por la IA para aprender y mejorar puede desencadenar diversos problemas éticos y regulatorios, incluyendo la generación de resultados con sesgos.
La formación y el desarrollo específicos de cada puesto serán cruciales en este sentido.
Horizonte de aplicación para la Ley de IA
Una vez que la ley sea aprobada oficialmente entre mayo y julio de 2024, se otorgará un período de gracia de dos años para que las empresas se preparen para su implementación total.
Se espera que la plena aplicación de la ley ocurra para finales de 2025 o principios de 2026. Las conversaciones técnicas para finalizar el reglamento están en curso, y se espera que se publique en el Diario Oficial de la UE a finales de 2024. Además, se han establecido plazos específicos para la implementación de diferentes aspectos de la ley, con la plena aplicación prevista en 24 meses.
La nueva ley de IA de la Unión Europea representa un paso importante hacia la regulación de la IA en beneficio de la seguridad y los derechos de los ciudadanos. Las empresas deben estar preparadas para cumplir con los requisitos establecidos y adaptarse a los cambios que esta legislación traerá consigo.
El diseño y cumplimiento de un programa para el desarrollo de productos de IA, asegurando la evaluación de riesgos éticos y uso de la IA responsable, permitirán a las organizaciones una mayor transparencia y credibilidad con sus clientes y un impacto positivo en el medio y largo plazo mediante el uso de estas tecnologías.
Data Scientist in Keepler Data Tech: "Live full, die empty" defines my state. This becomes my lifestyle taking me out of my comfort zone and driving my voracious learning attitude about different aspects of Data Science. I love learning by teaching and am always open to new challenges that push me further my comprehension."
0 comentarios