Open Loop es un programa mundial, impulsado por Facebook, que promueve y desarrolla políticas eficaces y basadas en evidencias en torno a la IA y otras tecnologías emergentes. La iniciativa se basa en un consorcio compuesto por reguladores, gobiernos, empresas tecnológicas, académicos y representantes de la sociedad civil. 

Mediante métodos experimentales de gobernanza, los miembros de Open Loop crean conjuntamente prototipos de políticas y prueban nuevas leyes y reglamentos antes de que se promulguen, mejorando la calidad de los procesos de elaboración de normas en el ámbito de la política tecnológica.

Con un enfoque “try and learn”, los grupos de trabajo, distribuidos por continentes, tienen el objetivo de mejorar los marcos de gobernanza existentes e informar a los futuros decision makers sobre la regulación de tecnologías emergentes. En la práctica, busca traducir la metodología utilizada en el desarrollo de tecnología, al diseño de políticas públicas y así tender puentes entre los dos mundos. 

Open Loop es una iniciativa global que ha aunado a medio centenar de empresas que son parte de este proyecto, solo diez de ellas localizadas en Europa, entre las que se encuentra Keepler como compañía de software especializada en IA. Distribuida en tres continentes: Asia realizó pruebas sobre instrumentos de gobierno de IA vigentes; América evalúa un futuro prototipo legal para favorecer la transparencia en los sistemas de IA; en Europa, se trabajó en un marco de evaluación de riesgos de IA, similar a la Evaluación de Impacto relativa a la Protección de Datos que introdujo el RGPD.

Concretamente, el proyecto europeo desarrolló y evaluó en la práctica un prototipo de evaluación de riesgos para los sistemas de IA compuesto de dos documentos: un texto legal y una guía de implementación. La guía incluye una lista de valores relevantes para la industria de IA/ML, una taxonomía de potenciales daños y ejemplos de medidas para mitigarlos. La evaluación, en forma de encuestas y talleres de trabajo, transcurrió a lo largo de 4 semanas donde los participantes simulamos la implementación del prototipo y ofrecimos nuestro feedback sobre su claridad, dificultad en la implementación y eficacia.

Puedes leer y descargar el informe completo accediendo la sección del proyecto europeo en la web Open Loop (como así también el prototipo de evaluación de riesgos).