Le réseau social espère améliorer l’expérience de ses utilisateurs en intégrant des fonctions destinées à combattre le harcèlement. La plateforme photo et vidéo, qui fait aujourd’hui partie du groupe Facebook, compte mettre l’intelligence artificielle à contribution pour faciliter l’identification de contenus jugés problématiques.
Des machines pour détecter les signes de harcèlement
Instagram veut agir efficacement pour combattre le harcèlement sur internet. L’application, spécialisée dans le partage de photos et de vidéos, a annoncé l’intégration de nouvelles fonctionnalités, justement élaborées à cette fin. Appliquées mardi, ces nouveautés font appel à l’intelligence artificielle pour procéder au scan des contenus partagés sur la plateforme. Pour le réseau, il est aujourd’hui important que le système de scan des photos soit optimisé, afin que les contenus problématiques puissent rapidement être identifiés.
La mise en place de ce nouveau système de détection implique un apprentissage des machines, qui sont désormais utilisées afin de détecter différentes formes de harcèlement. Cette intelligence artificielle devrait également être capable de signaler automatiquement les contenus suspicieux, avant que ces derniers ne soient analysés avec plus d’attention. À cette fin, Instagram a mis en place une équipe dédiée aux opérations concernant le média social. Cette initiative ne découlerait pas seulement d’un besoin de redorer l’image de la maison mère.
Selon le patron de la firme, cette évolution est un pas majeur pour Instagram. Elle devrait permettre d’identifier des publications impliquant une forme ou une autre de harcèlement. La finalité du projet est de supprimer un nombre plus important de ces publications problématiques, qui forment aujourd’hui une véritable forme de cancer pour la toile. Il s’agirait d’une étape significative, dont le réseau semble être particulièrement fier.
Ce pas majeur contre le harcèlement serait non seulement utile pour protéger les victimes de ces délits, mais aussi pour prévenir une attitude de plus en plus répandue sur le web. À ce jour, le signalement de contenus inappropriés, notamment ceux relatif au harcèlement, est très rare. Instagram choisit de prendre les choses en main, et de proposer une solution qu’elle gérera donc entièrement. La mise en place du programme sera progressive, et sera entièrement déployée au cours des semaines à venir.
Les vidéos également concernées
Si Instagram travaille principalement dans le cadre des photos problématiques, les vidéos feront également l’objet d’une surveillance accrue. Le filtre devrait ainsi s’étendre aux contenus vidéo, sur lesquels les utilisateurs auront la possibilité de trouver, et de camoufler les commentaires inappropriés. La plateforme est consciente que cette première tentative ne sera utile que si elle couvre un champ étendu. Un constat qui a poussé la firme à appliquer les mêmes fonctionnalités sur les flux de vidéos en direct, afin que les commentaires désobligeants soient moins visibles.
Le patron de l’entreprise reconnaît que le domaine du harcèlement sur la toile est particulièrement complexe. Partisan d’un esprit plus positif sur son réseau, l’homme d’affaires espère que cette première action puisse apporter un changement perceptible dans l’attitude des membres actifs de sa plateforme.
