Con tanto contenido debe haber personas que lo curen

Con 2.74 mil millones de usuarios activos, Facebook es la red social más utilizada de todo el mundo. Aunque inició como una red para conectar y escribirle a tus amigos, ahora está llena de toda clase de medios, como imágenes, streams y videos de todo tipo de cosas.

Con semejante cantidad de contenido dentro de Facebook, la red social implementa algunas inteligencias artificiales que le ayudan a clasificar su contenido para asegurarse de que no hiera susceptibilidades y que sea adecuado para mostrarse en la plataforma. Claro que, aunque son máquinas, pueden llegar a tener errores que pueden causar polémica.

https://tierragamer.com/amenazas-youtuber-ps5/

La IA racista de Facebook

En junio de 2020, Daily Mail compartió un video en Facebook que mostraba clips de personas afrodescendientes en altercados con la policía y personas blancas. Aunque ya tiene poco más de un año, el video se puso en el ojo público recientemente debido a un mensaje que le agregó la red social.

Al finalizar el video, la IA de Facebook le preguntaba a los usuarios si ‘querían continuar viendo contenido de primates’. Ante esto, el medio The New York Times hizo un reportaje en donde concluyó que el video ‘no tenía relación alguna con monos o primates’ y además no pudieron ver por cuánto tiempo había estado apareciendo el ofensivo mensaje.

Una vez publicado el reportaje, Facebook se contactó con el periódico para pedir disculpas. En su respuesta, la red social pide perdón por el ‘inaceptable error’ a la vez que informaron que la IA ha sido deshabilitada mientras averiguan cuál fue el error. Además, se comprometieron a que algo así no volverá a pasar en el futuro.

No sería la primera vez que una IA se pone racista, aunque tal vez es la primera vez para Facebook. En 2015, Google metió la imagen de dos personas afroamericanas en una categoría llamada ‘gorilas’, mientras que Twitter ha admitido que su IA para recortar imágenes tiende a ignorar a las personas afrodescendientes. Con la proliferación de las IAs en diversos aspectos del mundo digital, esperemos que pronto se implementen códigos que les permitan discernir de mejor manera lo que están viendo.

Para más noticias como esta, te recomendamos:

[Fuente]