Facebook enfrenta un gran problema: demostrar que su plataforma es segura. Además de diversos estudios académicos que relaciona enfermedades como la depresión al tiempo que se pasa dentro de la red social, se suman las acusaciones de desinformación y peligros latentes que aqueja a todo internet.
Es en este escenario que los revisores de contenido son cada vez más necesarios. Son ellos quienes abordan algunas de las mayores preocupaciones de seguridad y protección dentro de la red social, como las advertencias de suicidio y mensajes de contenido violento.
-
Por ahora, la red social se ha comprometido a duplicar el número de personal que monitorea las publicaciones dentro de la plataforma. Pero no está del todo claro si esta es una estrategia viable a lago plazo debido a los dos mil millones de usuarios de Facebook, según precisa el sitio de noticias “Axios”.
“Creo que esto es realmente donde hay oportunidades increíbles a través de la tecnología”, dijo la directora de Seguridad de Facebook, Antigone Davis, durante la Cumbre Global de Seguridad de Facebook organizó la empresa el pasado jueves.
“Creo que la oportunidad de que la tecnología cubra algo de eso [...] es, diría sin límites”, agregó.
En la misma cumbre, el vicepresidente de Producto de Facebook, Guy Rosen, destacó que es gracias a los humanos que destacan cada contenido “que desencadena los esfuerzos de prevención de suicidios de la compañía”. El problema radica que en otros casos la revisión automática mediante algoritmos es la única manera de escalar sus esfuerzos de seguridad.
Como destacó el mismo Rosen, la función de prevención de suicidio es un buen ejemplo de cómo el hombre y la tecnología pueden trabajar juntos en beneficio de la comunidad. Y la vía para encontrar esta fórmula fue el trabajo proactivo de la empresa para utilizar tecnología para monitorear comentarios.
Así como sucede en otros casos donde las máquinas pueden ser más eficaces que los humanos, es en el trabajo conjunto en que la red social puede establecer a Facebook como un lugar seguro. La tecnología enruta de inmediato las quejas de los usuarios y estas son moderadas por personas para hallar soluciones.
En la actualidad, Facebook sigue construyendo herramientas para intentar abordar cualquier imprevisto y problema de seguridad que pueda aquejar a sus usuarios, según dijeron los representantes de la empresa durante la Cumbre Global de Seguridad de Facebook.