Le plus grand réseau social au monde a annoncé qu’il allait déployer à grande échelle une technologie d’intelligence artificielle visant à repérer automatiquement les messages laissant penser à des intentions suicidaires.
En ayant analysé des messages précédemment signalés comme suicidaires, Facebook va pouvoir détecter automatiquement ces contenus grâce aux commentaires, comme «est-ce que tu vas bien ?» ou «est-ce que tu as besoin d’aide ?».
Le réseau social aux 2 milliards d’utilisateurs passera au crible les messages des utilisateurs ainsi que les vidéos mises en ligne en direct sur Facebook Live, pour détecter des indices et transmettre des ressources sur la prévention du suicide à la personne concernée ou à ses amis.
Une centaine de cas détéctés en octobre grâce au programme
En cas d’urgence, Facebook pourra également contacter directement les secours. Dans les colonnes du site spécialisé TechCrunch, Guy Rosen, responsable produit chez Facebook, rappelle que l’entreprise est en lien avec 80 ONG consacrées à la prévention du suicide, dans différents pays du monde. Facebook affirme qu’une centaine de cas ont été détectés le mois dernier.
Le réseau social avait déjà mis en place des outils permettant à ses utilisateurs de signaler si un ami semble vouloir mettre fin à ses jours, mais l’intelligence artificielle permet de signaler plus rapidement ces informations. «Des évènements tragiques – dont des suicides, certains diffusés en direct – auraient peut-être pu être évités si quelqu’un s’était rendu compte de ce qui se passait et en avait fait part plus tôt», avait déclaré le patron de Facebook, Mark Zuckerberg, en février.
Un système qui sera déployé partout sauf dans l'UE
Le système d’intelligence artificielle a été testé aux États-Unis et Facebook compte le déployer dans d’autre pays, à l’exception de l’Union européenne, où la législation sur les données personnelles et leur traitement automatisé est plus stricte que dans les autres pays.
Le règlement européen sur la protection des données personnelles qui entrera en vigueur en mai 2018 interdit le profilage et la surveillance à grande échelle des internautes.