Gran escándalo fue el que se hizo cuando un usuario de Google Photos descubriera en el 2015, que el programa etiquetaba a sus amigos negros como gorilas. La inteligencia artificial de Google no era capaz de distinguir una tez oscura de humano de la de simios como gorilas y chimpancés. Ese sesgo racista de la máquina obligó a disculparse a Google con la comunidad indignada, además de comprometerse a buscar una solución al error.
Dos años después, la solución fue clara: para que el programa no confunda a humanos con gorilas, han sacado a los gorilas del buscador. Y a los chimpancés. Y a los monos.
La forma de solucionar el problema es borrar el problema: autocensurar esas etiquetas. «La tecnología de etiquetado de imágenes todavía es joven y lamentablemente no es perfecta», respondió un portavoz de Google, admitiendo el parche. Flickr generó un problema similar, al etiquetar a negros como simios. El algoritmo de Facebook permitía discriminar por su raza a los usuarios. Estos subproductos inesperados están por todas partes.
