La policía lleva años mintiendo al utilizar el reconocimiento facial, a pesar de ser una tecnología imprecisa

La tecnología de reconocimiento facial se basa en identificar a una persona con el uso de cualquier elemento audiovisual. Los cuerpos policiales de distintos lugares del mundo llevan tiempo empleando este método para resolver delitos y buscar a los culpables que huyen de la escena del crimen. Los algoritmos son determinantes para tomar la decisión final.

Muchos piensan que ese es uno de los mayores riesgos que tiene el uso de la inteligencia artificial, debido a que los sistemas de aprendizaje automático podrían estar sesgados y emitir conclusiones erradas. Aún así, hay organismos que están a las puertas de implementarlo, como por ejemplo el Ministerio del Interior de España que piensa colocarlo a disposición de la Policía Nacional y de la Guardia Civil.

La policía lleva años mintiendo sobre el uso del reconocimiento facial

Desde hace varios años los organismos policiales han indicado que la mejor forma de resolver los delitos e identificar a los delincuentes es por intermedio del reconocimiento facial, una tecnología que si bien puede ser útil, en todos los casos no es confiable. Sin embargo, la investigadora Clare Garvie explica que hay razones de peso para concluir que no produce resultados seguros y que en algunas situaciones las conclusiones pueden ser erradas.

Cops Say They Only Use Facial Recognition for Leads, but It’s Often the Sole Basis for Arrests, Study Finds https://t.co/tjcO8U7FG8 pic.twitter.com/eWAHwzFffy

— Gizmodo (@Gizmodo) December 6, 2022

Argumenta Garvie que si bien la tecnología ha mejorado y ha superado muchas barreras en los últimos años, todavía la capacitación de los humanos que la manejan no es suficiente, por lo que existe siempre la posibilidad latente del sesgo y el mal uso. Destaca que hay una confianza ciega en esta rama de la inteligencia artificial y que son pocos los que cuestionan sus riesgos públicamente.

Con esto como base, se puede pensar que hay personas en las cárceles que tal vez no sean culpables en realidad de los crímenes de los que se les acusa. Fueron sentenciados porque sus rostros tenían similitud al que vieron los perjudicados. Lo anterior queda respaldado por un reporte de gizmodo.com, en el que se asegura que esas situaciones no se tratan de casos aislados, sino de una tendencia frecuente que tiene consecuencias trágicas.

Los problemas de la tecnología de reconocimiento facial actual por el que la policía no debería utilizarlo

Los especialistas han presentado diversas razones por las que en los actuales momentos esta tecnología no debería ser utilizada por los organismos de seguridad y prevención. Explican que cuando se intenta identificar a las personas de tez oscura, de color o mujeres, las imprecisiones aumentan mucho más. Hay un sesgo o una discriminación que no ha sido corregida por completo y eso llevará a que inocentes pasen largo tiempo tras las rejas.

La tecnología de reconocimiento facial funciona con el aprendizaje automático. Aprende a identificar los rostros en conformidad con la cantidad de imágenes que se incluyen en el sistema y las descripciones que estas tengan. El ejecutivo Brian Brackeen piensa que esta aplicación en manos del gobierno y de la policía es muy peligrosa, sobre todo para las personas de color. Pero hay un problema más y es cuando se debe seleccionar el posible culpable.

La tecnología de reconocimiento facial ha llegado para quedarse, pero trae varios riesgos.

Por ejemplo: perpetuar el racismo. pic.twitter.com/8D0OSNjvXM

— AJ+Español (@ajplusespanol) June 25, 2021

Es donde entra en juego la interacción entre los ordenadores y los humanos. Se solicitan similitudes y el software las envía después de un profundo escaneo. Entran en acción los oficiales, que son los que deciden las características puntuales que tiene el sospechoso en base a las expresiones que dieron los testigos. Nuevamente puede existir un sesgo y la posibilidad de dejarse influenciar por asuntos externos.

Aparte de lo anterior, hay otros puntos que se extraen del estudio realizado por el Centro de Privacidad y Tecnología. Los investigadores suman dos elementos más por los que el reconocimiento facial debe ser evaluado: la baja calidad de la evidencia y el pobre rendimiento de los sistemas. Resaltan que esos errores tienen un impacto negativo en el mundo real, que incluye el encarcelamiento de personas inocentes.

Lo peor es que no hay unas pautas claras a nivel global del uso que se le debe dar al reconocimiento facial y bajo qué circunstancias. Nadie sabe en qué casos se utilizó el software para declarar culpable a un ciudadano o para dejarlo en libertad. Eso representa un problema al momento de presentar una defensa, ya que no es posible desvirtuar una evidencia que se desconoce. Va en perjuicio de los acusados, sin embargo, se le sigue dando valor a la tecnología sin analizar sus errores.

Por ejemplo, en los Estados Unidos comenzaron las pruebas para utilizar el reconocimiento facial en 16 aeropuertos. El sistema se basará en comparar los rostros de los pasajeros con los que aparecen en las tarjetas de identificación. Eso ha despertado la suspicacia en los activistas que defienden el derecho a la privacidad digital. Las autoridades dicen que por el momento su uso será voluntario pero que quienes no lo hagan tendrán que pasar períodos más largos en las filas.

Albert Fox Cahn, director de una organización de protección tecnológica, comentó a un periódico estadounidense que existe la posibilidad de que esta herramienta acuse con vehemencia a los viajeros negros al igual que a los de otros grupos minoritarios. Las autoridades de aviación dicen que los datos no se utilizarán con fines policiales, sino para mejorar la fluidez en los aeropuertos.

A pesar de que el reconocimiento facial tiene muchos detractores, queda claro que no se dejará de utilizar por lo menos en un futuro cercano. La inteligencia artificial seguirá mejorando. Mientras tanto, los errores serán un poco comunes y en esos casos, será el buen juicio que utilicen los seres humanos lo que permitirá que las decisiones tomadas no perjudiquen a personas inocentes.