Chères lectrices, chers lecteurs,
La diffusion des vidéos en direct peut, dans certains cas, tourner au cauchemar pour Facebook. C’est le cas notamment pour les scènes de tortures, violences, et bien sur les scène de suicide. Pour contrer ce phénomène, Marck Zuckerberg et ses équipes testent depuis plusieurs mois l’intelligence artificielle.
Une démarche supplémentaire
Facebook n’en est pas à son coup d’essai concernant la prévention du suicide. Travaillent dessus depuis 2011, elle a notamment mis en place un système de chat qui connecte l’utilisateur avec un interlocuter adéquat, en cas de détection “anormale”. Depuis juin 2016, un bouton de signalement est également disponible, si les internautes estiment que le comportement est risqué pour l’utilisateur.
Ainsi, dans son communiqué paru le 1er mars, Facebook a souhaité réaffirmer sa volonté forte sur ce sujet:
“Nous avons des équipes partout dans le monde, 24h/ 24, 7j/7, qui passent en revue ces signalements et qui se penchent en priorité sur les cas les plus sérieux comme le suicide”
Utiliser l’intelligence artificielle pour pouvoir détecter automatiquement les cas inquiétants en ligne est don un enjeu majeur pour le réseau social.
La BBC dévoile que l’IA repose sur l’utilisation d’un algorythme détectant l’association de plusieurs mots-clés inquiétant ou suspects. Une fois détectés, les mots sont alors communiqués aux équipes, qui estiment le niveau de risque encouru par l’utilisateur.
Les équipes de Facebook proposent alors aux utilisateurs désespérés de prendre contact avec un ami ou des associations partenaires, telles que la National Suicide Prevention Lifeline ou la National Eating Disorder Association.
Une IA pertinente en terme de résultats
Les équipes de Facebook menant les tests estiment que les résultats obtenus par l’intelligence artificille sont supérieurs aux signalements fournis par les humains.
Jennifer Guadagno, chercheuse du projet chez Facebook , explique néanmoins que le live ne sera pas coupé en cas de suicide: “couper la diffusion éliminera la possibilité aux utilisateurs de venir en aide”. Affirme-t-elle.
L’intelligence artificielle devrait par la suite être intégrée au messenger.
Yvan Dupuy