"El peor de los casos es que... terminen baleados, arrestados o acosados".

Despliegue mortal

La tecnología de reconocimiento facial aún se encuentra en las etapas iniciales de desarrollo, y ya hemos visto muchas maneras en las que puede salir mal, desde que China utiliza la tecnología para rastrear y detener a las minorías hasta los numerosos ejemplos de perpetuación del sesgo racial y de género.

Ahora, en una amplia entrevista con VentureBeat, el investigador de IA Os Keyesat de la Universidad de Washington ha presentado varios "escenarios escabrosos" para personas transgénero que podrían ser producto del despliegue de tecnología de reconocimiento facial, y en algunos casos, terminando con la persona asesinada.

¿Quién está ahí?

En la entrevista, Keyes notó cómo algunos edificios de apartamentos están considerando el uso de tecnología de reconocimiento facial para la entrada: la idea es que un residente muestre su rostro, y el sistema los reconozca y abra la puerta.
Keyes también señaló cómo algunas personas incluso están sugiriendo que se usen sistemas de reconocimiento facial para monitorear los baños.

Keyes le dijo a VentureBeat que debido a que algunos sistemas tienen problemas para reconocer a las personas transgénero o no conformes con el género, podrían ser marcados, lo que podría llevar a la aplicación de la ley a la escena, y eso podría ser mortal para las personas trans, particularmente las de color.

"Para ser extremadamente inexpertos", dijo Keyes, "el historial de la policía con personas trans de color no es muy bueno, así que sí, el peor de los casos es que alguien intente ir al baño porque solo quieren orinar y terminan atacados, arrestados o acosados, o agredidos y luego arrestados para luego ser hostigados".

El futuro del reconocimiento facial, ¿tiene sentido?

Sin embargo, a Keyes no solo le preocupa cómo la tecnología de reconocimiento facial afectará a la comunidad trans. Otra preocupación es que no beneficia a ningún miembro de la sociedad lo suficiente como para justificar un mayor desarrollo.

"Me gustaría ver que el desarrollo y el uso del reconocimiento facial se han hecho ilegales porque no creo que se trate de una tecnología con características de redención", dijo Keyes a VentureBeat. "Nadie ha podido señalarme un caso de uso que beneficie directamente a la humanidad y que no se pueda resolver con otros medios". Es obvio que está maduro para el abuso y ya ha sido [tan] abusado que no vale la pena hacerlo ".