Tecnología > RECONOCIMIENTO FACIAL
Google Photos arregla su algoritmo "racista" borrando a los gorilas
Los sistemas de reconocimiento facial son muy útiles como método de etiquetado en ciertos servicios digitales con el objetivo de organizar el material gráfico.
Sin embargo, un error generó polémica en 2015 cuando el algoritmo informático de la aplicación Google Photos confundió a dos afroamericanos con gorilas y los etiquetó como tal. El hecho fue descubierto por un programador, que comprobó que las imágenes que aparecía junto con una amiga se habían almacenado dentro de una carpeta que se había generado automáticamente bajo la etiqueta "gorilas". A partir de esto, la compañía pidió las disculpas del caso y prometió que no volvería a suceder.
La solución de Google para evitar que el episodio ocurriera nuevamente fue dejar por fuera de la lista de etiquetados a simios, chimpancés, gorilas, monos. Además, el software tampoco es capaz de encontrar "hombre negro" o "mujer negra". Así lo descubrieron en Wired al alimentar a la máquina con miles de fotos, incluidas las de estos grandes simios y también de otras especies de monos.
La compañía utiliza un modelo tecnológico que se basa en "aprendizaje automático" para agrupar de forma automática las fotografías que contengan ubicaciones o contenidos similares. El sistema permite también a los usuarios buscar sus recuerdos personales.
Fuentes de la compañía explicaron que "la tecnología de etiquetado de imágenes todavía es inmadura y, lamentablemente, no es perfecta".
En otras oportunidades el algoritmo etiquetó a personas blancas como perros y focas.
