La Inteligencia Artificial es capaz de crear realidades paralelas, y a ellas hay que adaptarse también. La Unión Europea está en ello y en el pleno de esta semana en Estrasburgo el Parlamento Europeo ha dado luz verde norma que regulará el sector, siendo pionera a nivel mundial, y tras años de debates y de negociaciones. Los eurodiputados, de hecho, creen que con la ley de IA en la Unión ya se abre la veda a que otros actores internacionales hagan lo mismo, pero: ¿cuáles son sus claves?
Las nuevas normas prohíben determinadas aplicaciones de la IA que amenazan los derechos de los ciudadanos, como los sistemas de categorización biométrica basados en características sensibles y la extracción no selectiva de imágenes faciales de Internet o de grabaciones de CCTV para crear bases de datos de reconocimiento facial. También se prohíben el reconocimiento de emociones en el lugar de trabajo y en la escuela, el scoring social, la actuación policial predictiva (cuando se basa únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipula el comportamiento humano o explota las vulnerabilidades de las personas.
Prohibida la identificación biométrica... salvo excepciones
Además, se incluye, como se esperaba, uno de los puntos más espinosos. El uso de sistemas de identificación biométrica (RBI) por parte de las fuerzas y cuerpos de seguridad está prohibido en principio, salvo en situaciones exhaustivamente enumeradas y estrictamente definidas. Los RBI "en tiempo real" sólo pueden desplegarse si se cumplen estrictas salvaguardias, por ejemplo, su uso está limitado en el tiempo y en el ámbito geográfico y sujeto a una autorización judicial o administrativa específica previa. "Tales usos pueden incluir, por ejemplo, la búsqueda selectiva de una persona desaparecida o la prevención de un atentado terrorista. El uso de estos sistemas a posteriori (RBI post-remota) se considera un caso de uso de alto riesgo, que requiere autorización judicial al estar vinculado a un delito", resume la Eurocámara.
¿Qué opinas sobre la regulación de la Inteligencia Artificial por parte de la Unión Europea?
Foco en los usos de alto riesgo
En esta ley pionera a nivel global también se prevén obligaciones claras para otros sistemas de IA de alto riesgo (debido a su importante perjuicio potencial para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de Derecho). Algunos ejemplos de usos de alto riesgo de la IA son las infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (por ejemplo, la sanidad o la banca), determinados sistemas de aplicación de la ley, migración y gestión de fronteras, justicia y procesos democráticos (por ejemplo, influir en las elecciones).
Una norma que arrancó en 2020
El abordaje de este asunto viene de lejos, pues ya en 2020 hubo un paquete de tres resoluciones no legislativas sobre IA como forma de empezar a allanar el terreno. La iniciativa legislativa preparada por Ibán García del Blanco (S&D) instaba ya a la Comisión Europea a diseñar un nuevo marco jurídico que desarrolle los principios éticos y las obligaciones jurídicas ligados al desarrollo, la implantación y el uso en la Unión de la inteligencia artificial, la robótica u otras tecnologías relacionadas (incluido el software, los algoritmos y los datos).
"La IA es una gran evolución, pero todo depende de cómo la vayamos a utilizar", explicó el propio García del Blanco en una entrevista con 20minutos desde Estrasburgo. Ve necesario por tanto explicar todos los pros y los contras. "Hay que contar exactamente lo que es: una tecnología que no es nueva pero que sí ha llegado a un punto de maduración que la hace parecer muy revolucionaria. Técnicamente es más potente de lo que fue en el pasado y se está aplicando ya de forma muy generalizada. La tenemos presente de una manera o de otra; eso nos va a crear riqueza, oportunidades y se calcula que la productividad mundial se va a multiplicar por siete pero al a vez tenemos que tener cuidado y para eso en la UE estamos intentando anticiparnos para protegernos frente a esos riesgos. Hay que dar tranquilidad a los ciudadanos", sostuvo.
"Cualquier ley futura tendrá que atenerse a los siguientes principios: una inteligencia artificial antropocéntrica y antropogénica; seguridad, transparencia y rendición de cuentas; salvaguardias contra el sesgo y la discriminación; derecho de reparación; responsabilidad social y medioambiental; respeto de la intimidad y protección de los datos", expresaba. Esa ley ahora es una realidad; y la UE se convierte en una potencia.
Antes de este paso ya había Estados miembros tomando medidas por su cuenta para poner coto al uso de la inteligencia artificial, buscando que esta se emplee de manera responsable, la UE es consciente de que se necesita un marco común que reduzca los riesgos o al menos los identifique para combatirlos. El mundo cambia constantemente y la IA ha llegado para cambiarlo todavía más... el objetivo es que lo haga para bien.
Comentarios