Reconocimiento facial y racismo

El uso de tecnologías de reconocimiento facial está cada vez más extendido en los sectores público y privado. Por ende, es importante reflexionar acerca de las cuestiones éticas que esto conlleva, en particular las relacionadas a un tema tan sensible e importante como el racismo.

La meta de la inteligencia artificial aplicada al reconocimiento facial es que ayude a detectar la identidad de una persona a partir de imágenes digitalizadas, ya sea mediante las que cualquiera sube a sus redes sociales o a partir de las que captan las miles de cámaras de vigilancia alrededor del mundo.

No obstante, cabe recordar que los algoritmos aplicados en estas y otras tecnologías no surgieron por sí solos, sino que fueron concebidos y desarrollados por un grupo de expertos con determinados valores, motivaciones, objetivos e ideas preconcebidas.

Sesgos sistémicos

La neutralidad en el reconocimiento facial no existe en la actualidad. Su funcionamiento depende de los datos que lo alimentan y las variables que toma en cuenta; es decir, tiene un origen humano, lo cual implica que las decisiones que efectúa no son del todo autónomas.

Por ejemplo, en los sistemas médicos de Estados Unidos existen disparidades originadas por sesgos de raza. En consecuencia, es muy probable que las aplicaciones de inteligencia artificial estén ampliando la brecha de discriminación racial, más aún si son diseñadas y utilizadas por las personas con ideas y actitudes racistas.

Aunado a lo anterior, cabe mencionar que los sesgos que tienen estas tecnologías trascienden las intenciones personales de sus creadores. En general, son un reflejo de las estructuras políticas y económicas, así como de la forma en la que está organizada la sociedad y del tipo de relaciones, prejuicios y hechos que en ella se suscitan.

Reconocimiento racial

La lucha antirracial tiene su bastión más visible en el movimiento Black Lives Matter, cuya presencia en los Estados Unidos sigue creciendo con el objetivo de exigir que acaben los actos racistas que lleva a cabo el gobierno, especialmente a través de sus grupos policiales.

Está comprobado que en varias de las manifestaciones públicas de este movimiento los departamentos de policía de Nueva York, Miami y Washington han utilizado el reconocimiento facial como método de vigilancia, control y detención de los asistentes. Lo mismo sucedió en la toma del Capitolio, como lo mencionamos recientemente.

Este tipo de tareas se han llevado a cabo mediante plataformas que no siempre tienen la suficiente transparencia y supervisión pública. Tal es el caso de ClearviewAI, que brinda servicio a poco más de dos mil agencias del gobierno estadounidense, entre ellas el Departamento de justicia y el Servicio de Inmigración y Control de Aduanas.

Por otro lado, empresas como IBM y Microsoft han fijado una postura clara: decidieron no usar más la tecnología de reconocimiento facial, e incluso desaconsejaron su uso puesto que han visto que es usada bajo sesgos racistas que violan los derechos humanos.

De acuerdo con un estudio del MIT Media Lab, el problema del reconocimiento facial radica en que si bien suelen tener una precisión aproximada de 90%, 9 de cada 10 errores que comete es con personas de piel oscura.

Información es poder

La sociedad civil y la iniciativa privada tienen que ocuparse de estos temas, involucrarse en ellos y hacer uso de su derecho a la información para solicitarle al gobierno en turno que transparente cómo usa las tecnologías de inteligencia artificial.

Las consecuencias de una identificación virtual errónea, basada en prejuicios raciales, pueden ser múltiples pero todas muy dañinas para la persona que las sufra, por ejemplo:

• No poder comprar o rentar una vivienda en una zona determinada.
• Ser discriminado en el proceso de selección para un trabajo.
• Cargar con un estigma social que no se quita con una disculpa.
• Ser relegado por alguna tienda o proveedor de servicios.
• Ir a la cárcel y pagar por un delito no cometido.

A propósito, el nuevo gobierno de Estados Unidos, presidido por Joe Biden, informó que como parte de su proyecto de reforma policial busca regular el uso del reconocimiento facial en la investigación de posibles delitos.

Por su parte, las empresas tienen que analizar, mediante la inteligencia de negocios, si el uso de esta tecnología les acarrea más perjuicios que ventajas tanto a sus propietarios como a sus empleados y clientes.

Para solucionar algunos de los sesgos cometidos por los algoritmos es posible someterlos a auditorías externas antes que salgan al mercado y sean comercializados. Y dichas auditorías tienen que ser realizadas por personas que tengan ética, empatía y perspectiva de raza, además de dominar el machine learning y otros campos de las tecnologías de la información.

En síntesis, si la programación de los algoritmos de reconocimiento facial continúa basándose únicamente en los patrones comunes que persisten en la sociedad, no cesarán las inequidades raciales que cometen quienes las operan.

¿Cuál es tu opinión sobre el reconocimiento facial? ¿Podrías aplicarlo de manera segura y ética en tu empresa? ¿Ya lo estás haciendo? Comenta en el espacio de abajo y suscríbete a mi blog para conocer más sobre inteligencia artificial para empresas, además de otros temas de innovación y tecnología científica aplicada a los negocios.