Recorte de puntos de datos agrupados para reducir el sesgo de reconocimiento facial explicado en la charla AFRL

A pesar de la presencia de muchos "pesos pesados" en el discurso público sobre el sesgo en el reconocimiento facial, la incomprensión sobre la naturaleza del problema y de dónde proviene está muy extendida, según una charla reciente como parte de la serie de charlas virtuales del Applied Face Recognition Lab. .

John Howard, científico de datos principal del Laboratorio de Ciencias de Identidad y Datos en el Centro de Pruebas de Maryland, profundizó en el tema en una presentación titulada "Comprender y mitigar el sesgo en el reconocimiento facial humano y de máquinas".

Si bien muchos observadores, incluidos muchos que trabajan en informática y visión artificial, enfatizan el papel de los datos como causa del sesgo en el rendimiento de los algoritmos biométricos, Howard señala que hay muchas fuentes posibles.

"También creo que simplemente culpar a los datos es, francamente, una forma de esquivar lo que probablemente sean problemas más desafiantes e interesantes", explica Howard. Esta es una tendencia atractiva, porque conduce a una resolución a la que los científicos de datos están acostumbrados y con la que se sienten cómodos; la ingesta de más datos.

La función de pérdida, el sesgo de evaluación y la forma en que las personas se relacionan con las máquinas son importantes para una comprensión más completa del problema del sesgo en el reconocimiento facial, argumenta Howard. El último problema incluye el sesgo de proyección, el sesgo de confirmación y el sesgo de automatización. En otras palabras, las personas tienden a esperar que las máquinas se comporten como ellos, confirmen sus creencias y produzcan resultados que no necesitan ser verificados.

La cara es una modalidad biométrica menos madura que la huella dactilar y el iris, dice Howard, y es posible que se puedan aprender lecciones de las dos modalidades más antiguas de los "tres grandes". Sin embargo, los "problemas únicos" pueden presentarse por elementos exclusivos de la modalidad facial.

Las coincidencias falsas producidas por los algoritmos de reconocimiento del iris, por ejemplo, a menudo se cruzan entre géneros y etnias, mientras que las de la cara no lo hacen. Esto hace que sea más difícil para las personas detectar errores en la coincidencia de caras, a pesar de que se usa la misma terminología ("error de coincidencia falsa") en cada caso.

Howard revisó varios trabajos de investigación que demuestran cómo se diferencian los sesgos. El sesgo de automatización es modesto y, en circunstancias ideales, aparece principalmente cuando las personas no están seguras, por ejemplo. Cuando las circunstancias son menos ideales, como cuando las personas usan máscaras, es más probable que las personas privilegien la evaluación de una computadora.

También revisó el efecto de la "amplia homogeneidad" y los hallazgos de FRVT Parte 3 de NIST, que evalúa el sesgo en los algoritmos de forma individual.

En última instancia, si bien los rostros contienen datos similares o "agrupados" basados ​​en la demografía, Howard enfatiza que la investigación indica que es posible seleccionar puntos de datos particulares que no muestren agrupamiento, para reducir los errores de coincidencias falsas que equivalen a sesgo en la biometría facial, particularmente cuando un humano está en el bucle. Esto se debe a que los algoritmos devuelven listas de candidatos que de repente se parecen más a las del reconocimiento de huellas dactilares e iris. El candidato adecuado, en muchos casos, es obvio para el ojo humano.

exactitud | sesgo biométrico | biometría | reconocimiento facial | Instalación de prueba de Maryland (MdTF)

Este sitio utiliza Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.

Sigue leyendo