¿Le traerá problemas? El algoritmo de Facebook discrimina por raza, edad y zona geográfica según una nueva investigación

Este 25 de octubre, han revelado un nuevo estudio publicado por medio de la revista de la Biblioteca Digital de la Association for Computer Machinery donde todo indica que la red social ha utilizado un software de reconocimiento de imágenes para clasificar el contenido por raza, género y edad de las personas que aparecen en los anuncios, esto con la finalidad de mostrar lo que los usuarios quieren ver.

Sin embargo, se ha podido ver que el efecto del algoritmo es muy discriminatorio y que además podría promover la pedofilia, así como un acceso desigualitario a los anuncios de vivienda y empleos. De manera que Facebook no parece ser nada justo con sus publicidades y el público que está orientado a verlas, por lo que se ha tratado de una medida que puede empezar a traerles problemas.

El algoritmo de Facebook discrimina a los usuarios según nueva investigación

Según las recientes investigaciones sobre los anuncios publicados en Facebook, se ha podido ver que estos aparecen de acuerdo a la edad, zona geográfica, género y raza, lo que quiere decir que, si eres negro entonces muy difícilmente te aparecerá algo relacionado con personas blancas, lo que lo han considerado como una discriminación.

Lo cierto es que la red social les ha asegurado a sus anunciantes que la plataforma cuenta con un sistema inteligente, efectivo y muy sencillo de usar por lo que el algoritmo de la aplicación se encargará de llevarlo a la audiencia perfecta, pero lo que muchos no sabían realmente es el funcionamiento de esto y que toma en cuenta para aparecerle a las personas.

Sin embargo, para comprobar que todo esto era así, los investigadores decidieron realizar algunas pruebas y para ello anunciaron algunos avisos publicitarios por medio de la red social con imágenes con inteligencia artificial y otras de archivo. Para ello han decidido colocar una publicidad con una mujer blanca y otra con una joven negra.

En los resultados se pudo ver que en la fotografía de la mujer negra tuvo un alcance de visualización de más del 80% para individuos de ese color, mientras que la foto con la joven blanca, tuvo un alcance superior al 50% para las personas de esa raza. Lo mismo ha sucedido con otras variables expuestas como lo es la búsqueda de trabajo.

En el caso de los anuncios de trabajos para secretaria estos les aparecen en un 80% a solo mujeres, lo que quiere decir que el público masculino es discriminado para este tipo de empleo. Se trata de una medida que ha empezado a causar mucha preocupación en la mayoría de los casos, en especial a la hora de querer buscar una vivienda para alquiler o compra.

Se ha podido ver que muchas empresas de bienes y raíces suele discriminar las personas negras por su color, motivo por el cual estos tipos de anuncios están dirigidos solo a un público en específico, en este caso a ciudadanos blancos, lo que claramente ha causado preocupaciones porque se les niega el derecho de vivienda a algunos individuos.

Esto ha llevado a que el Departamento de Vivienda y Desarrollo Urbano de Estados Unidos demande a la compañía de Meta por permitir los anuncios racistas, algo que la ley en dicho país prohíbe hacer y que podría ser penalizado. La red social respondió de inmediato la acusación y aseguró que dejaran de permitir este tipo de discriminaciones.

“Al momento que hablamos de publicidad para oportunidades como trabajos, créditos, vivienda e incluso la educación, podemos ver que las cosas que podrían haber funcionado bastante bien para vender productos pueden llevar a resultados muy problemáticos”

Piotr Sapiezynski, investigador de la Universidad del Noreste a cargo del estudio

De acuerdo con todas estas acusaciones, la red social ha generado una respuesta donde destaca la preocupación que existe ahora mismo en toda la industria por el camino que han tomado sus publicidades, las cuales pueden afectar a miles de ciudadanos.

“Hemos creado una tecnología diseñada para ayudar a abordar estos problemas. Hacemos esfuerzos significativos para prevenir la discriminación en nuestra plataforma de anuncios y continuamos con los esfuerzos que sean necesario para asegurar los derecho civiles, académicos y reguladores de trabajo”

Ashley Settle, portavoz de Meta

Lo cierto es que la segmentación de anuncios de la red social por raza, edad, género y ubicación geográfica no es lo más adecuado para los anunciantes ya que, a ninguno le conviene que una publicidad que contenga una persona negra no pueda ser visto por personas blancas, en especial si se promueve algún producto.

Si eso sigue aplicándose, básicamente los anunciantes llegarían a una menor cantidad de público y por ende los resultados podrían empezar a disminuir, por lo que se considera que el funcionamiento del algoritmo de la plataforma ahora mismo podría ocasionar graves problemas si no se soluciona el tema de discriminación pronto.

¿Incitación a la pedofilia? Los anuncios de adolescentes se muestran a adultos de más de 55 años

Lo más grave del algoritmo de Facebook no es la discriminación racista que se ha podido ver hasta ahora, sino que también se ha descubierto en el reciente estudio que de alguna manera u otra existe una incitación a la pedofilia ya que, los anuncios que muestra adolescentes mujeres son mostradas mayormente a hombres adultos de más de 55 años.

Mientras que a las mujeres mayores de 55 años le muestras fotos de niños, algo que ha terminado por llamar la atención de todos los investigadores a cargos. Quienes han hecho saber que ahora mismo el problema no es solo que las personas negras vean solo fotos de negros, sino que hay otros temas delicados.

De acuerdo con el algoritmo de la red social, todo parece indicar que las probabilidades de que los hombres mayores consigan contenido de jóvenes, en especial mujeres son muy amplias, lo que conlleva que estas personas puedan contactarlas e incluso iniciar cualquier tipo de acoso online hacia ellas.

Básicamente los investigadores han considerado que se trata de una venta de productos para estas personas mayores, quienes a través de las publicidades pueden encontrar nuevos prospectos para ellos.

Si bien es cierto, la publicidad en Internet permite que las personas puedan llegar a nichos específicos y de su interés, algo que a la final les funciona muy bien a la mayoría de las compañías porque pueden llegar a un público al que le interesa su marca, pero las empresas online como Meta deben tener mucho cuidado con esto, porque se pueden llegar a aplicar criterios más cuestionables.

Esto es lo que ahora mismo le sucede a la red social, quienes en sus criterios han empezado a promover discriminaciones que afectan directamente a un grupo de personas y que quizás sin pensarlo puedan promover la pedofilia o el racismo dentro de su plataforma, por lo que Meta deberá tomar medidas al respecto.

“Los anuncios son algo muy efectivo para las compañías, pero creemos que esta no es la forma correcta para abordar esto. El racismo y la discriminación social son el claro ejemplo de que el sistema en realidad no cumple con lo que el anunciante realmente quiere para su marca”

Piotr Sapiezynski, investigador de la Universidad del Noreste a cargo del estudio