Imagine un futuro en el que una aplicación para celular, que cualquiera puede descargar tras contratarla por una módica suscripción mensual, permita a un extraño fotografiarle desde lejos por la calle y a golpe de tapeo dar en cuestión de segundos tanto con su nombre como con su dirección y, además, tener a la mano un acervo considerable de imágenes públicas en las que su rostro aparece. Suena a ciencia ficción que sólo veríamos en películas como Minority Report o Blade Runner, pero el más reciente lanzamiento literario “Your Face Belongs to Us” de Kashmir Hill, reconocida periodista de The New York Times, viene a pincharnos la burbuja mostrándonos que llevamos años viviendo en él.
El texto es el pináculo investigativo de una serie sobre amenazas tecnológicas al derecho a la privacidad que Hill empezó por 2020 con el sísmico reportaje “The Secretive Company That Might End Privacy as We Know It”. El artículo desveló al planeta la existencia de Clearview AI, un emprendimiento opaco que comerciaba entre las sombras con licencias de usuario para uno de los algoritmos más poderosos de reconocimiento facial que existen en el mercado. Tras años entrenando su software con millones de fotografías públicas subidas por usuarios de redes sociales, Clearview ha conseguido desarrollar una herramienta de ética cuestionable y legalidad controvertida que da muchísimo miedo.
Si bien, de momento, la compañía restringe su distribución a fuerzas oficiales y cuerpos de seguridad estatal, ayudando así a la resolución de múltiples casos abiertos, la implementación de plataformas de reconocimiento facial en nuestra cotidianidad es prácticamente inminente y nos obliga a abrir el debate sobre los límites que debemos imponer a éstas. Ya no se trata sólo de las implicaciones de que una empresa privada pueda libremente crear y almacenar un preciso diagrama matemático de nuestra cara sin oportunidad de oponernos o de que los sesgos involuntarios que se le infunden durante su entrenamiento lleven a un número sustancialmente elevado de falsos positivos durante la identificación de minorías raciales, se trata de líneas de código que en manos equivocadas pueden convertirse en un arma de acoso y persecución ciudadana.
Pero la auténtica sorpresa monumental del libro de Hill está en su capítulo 13 donde narra que, tras su éxito en los departamentos de policía y las agencias federales de Estados Unidos, “Clearview se estaba introduciendo en países con historiales cuestionables de Derechos Humanos y problemas policiales bien documentados, incluyendo Colombia (…)”. Una afirmación contundente teniendo en cuenta el volumen y calidad de la información a la que Hill tuvo acceso durante su investigación. Sería tremendamente interesante llegar hasta el fondo de esta gravísima insinuación que se hace en el texto.
En cualquier caso, nuestro actual embelesamiento colectivo con la naciente inteligencia artificial no puede distraernos de los dilemas que nos plantean otras tecnologías más asentadas que, como el uso indiscriminado del reconocimiento facial, tienen la potencialidad de destruir el tejido humano que nos cohesiona como sociedad. Hill nos advierte que el fin del anonimato es sólo el principio del abismo sin privacidad hacia el que nos precipitamos.