¿Qué es el ‘algoritmo del suicidio’ de Facebook?

Desde hace más de un año, Facebook ha estado trabajando en el desarollo de una herramienta capaz de detectar posibles actos de suicidios de usuarios utilizando Inteligencia Artíficial.

De acuerdo a The New York Times, Facebook utiliza algoritmos computarizados que escanea publicaciones, comentarios y videos de los usuarios, si a través de este proceso, se detecta alguna irregularidad pasa directamente a una revisión hecha por un equipo humano que tiene la capacidad de emitir alertas poniendose en contacto con agencias de seguridad local.

La iniciativa de la red social, se generó debido a que algunas personas han utilizado Facebook Live para transmitir suicidios, asimismo, Facebook ha dicho que ha realizado alianzas con organizaciones especializadas como la Red Nacional de Prevención del Suicidio, Safe.org y Farefront para obtener resultados positivos en este desarrollo.

De acuerdo con la Organización Mundial de la Salud, el suicidio es la segunda causa de muerte en personas con edades comprendidas entre 15 y 29 años, debido a esto, el CEO de Facebook Mark Zuckerberg dijo que se han ayudado a más de 3500 personas en Estados Unidos y en otros países del mundo. El programa liderado por Facebook no está disponible en la Unión Europea debido a la Ley de Protección de Datos vigente en ese territorio desde mayo de 2018.

Finalmente, aunque la iniciativa parezca positiva, algunas polémicas se han desarrollado alrededor del programa de prevención de suicidios de Facebook, especialistas en salud mental han afirmado que Facebook podría causar daños sin intención de hacerlo, ya que a través de la activación de estas alertas los pacientes podrían someterse a evaluaciones psiquiátricas, provocar arrestos o tiroteos sin haber razón aparente.