La resolución podría marcar un precedente para futuras legislaciones sobre los aspectos éticos y técnicos de la implementación de tecnologías de Inteligencia Artificial

Eduardo Rivas

Durante una sesión plenaria, los miembros del Parlamento Europeo adoptaron una resolución para establecer normas a la aplicación de tecnologías de Inteligencia Artificial (IA) y reconocimiento facial en la vigilancia tanto privada como en espacios públicos, siendo una de las primeras regulaciones de esta tecnología en el mundo.

El Parlamento Europeo aprobó la resolución con 377 votos a favor, 248 en contra y 62 abstenciones en la que se estipula que los sistemas de IA deben tener siempre vigilancia humana además de fuertes controles legales que regularicen su utilización, esto debido a que estos sistemas automatizados tienden a cometer errores en especial al verificar la identidad de personas de tez oscura lo cual, según indican organizaciones civiles de derechos humanos, fomenta la discriminación.

La propuesta también busca prohibir las bases de datos de reconocimiento facial de índole privada entre las cuales se citó el caso de la empresa estadounidense Clearview AI cuyos servicios fueron utilizados en Estados Unidos por agencias estatales y federales para llevar a cabo operaciones de reconocimiento facial.

https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-5276943697118145 (adsbygoogle = window.adsbygoogle || []).push({});

También te puede interesar: Gobierno de Coahuila: Cámaras con reconocimiento facial expuestas a hackeo

“Europa necesita desarrollar una IA que sea confiable, elimine los prejuicios y la discriminación y sirva al bien común, al tiempo que garantiza que las empresas y la industria prosperen y generen prosperidad económica”, declaró el eurodiputado rumano y jefe del Comité Especial de Inteligencia Artificial en la Era Digital del Parlamento Europeo, Dragoş Tudorache.

Los miembros del parlamento también se refirieron a llevar a cabo en el futuro medidas en contra de los sistemas de reconocimiento facial automatizado en espacios públicos asegurando que “los ciudadanos solo deben ser monitoreados cuando sean sospechosos de un delito”, también se refirieron a posibles prohibiciones para sistemas que califiquen la “confiabilidad” de los ciudadanos basados en su comportamiento. Los parlamentarios igualmente mostraron su preocupación por el uso de sistemas de identificación biométrica por fuerzas policiales y fronterizas para identificar personas.

https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-5276943697118145 (adsbygoogle = window.adsbygoogle || []).push({});

Medidas en privacidad para estas tecnologías 

Organizaciones de la sociedad civil como la Red en Defensa de los Derechos Digitales (R3D) en México han señalado que esta regulación podría significar un antecedente para futuras legislaciones alrededor del mundo pues la adopción de este tipo de medidas para reforzar sistemas de vigilancia es violatoria de los derechos humanos y de privacidad, además de que la tecnología no es infalible con lo cual pierde el principal argumento de ayudar en operaciones de seguridad pública y puede ser utilizada por gobiernos autoritarios para perseguir a periodistas, activistas y defensores de derechos humanos.

También te puede interesar: En México hacen falta regulaciones en materia de ciberseguridad: Metabase Q

El tema de la Inteligencia Artificial y sus aplicaciones ya lleva un tiempo en la mira del Parlamento Europeo pues desde el año 2020 ya se llevaron a cabo reportes enfocados en asegurar la seguridad, transparencia y responsabilidad de estos sistemas además de “prevenir los prejuicios y la discriminación, fomentar la responsabilidad social y ambiental y garantizar el respeto de los derechos fundamentales”.

https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-5276943697118145 (adsbygoogle = window.adsbygoogle || []).push({});

Durante el presente año 2021, el parlamento ya ha propuesto guías para el uso militar y no militar de los sistemas de Inteligencia Artificial, se hizo énfasis en que la necesidad de supervisión humana sobre sistemas de defensa que involucren IA y la prohibición de armas letales operadas por este tipo de tecnología autónoma. Ante esto, el eurodiputado francés Gilles Lebreton declaró que “la IA nunca debe remplazar o relevar a los humanos de su responsabilidad”.

En contraste, durante el mes de mayo de 2021 el parlamento adoptó un reporte en el uso de IA en el sector de la educación y la cultura llamando a que estos sistemas sean diseñados para prevenir daños por razón de género, estratos sociales o culturales y protejan la diversidad y eviten cualquier forma de discriminación.

https://pagead2.googlesyndication.com/pagead/js/adsbygoogle.js?client=ca-pub-5276943697118145 (adsbygoogle = window.adsbygoogle || []).push({});