instagram-facebook-2-440x292-c.jpg

Instagram wants to use machine learning to crack down on nasty comments

Posted on


    

        Pourquoi cela vous intéresse

            

L'apprentissage par machine pourrait aider à changer la façon dont les utilisateurs se comportent dans les médias sociaux à l'avenir.

    

Instagram se réclame sur les commentaires offensifs. Dans un article du blog intitulé «Garder Instagram un endroit sûr pour l'expression de soi», le PDG Kevin Systrom a décrit une paire de nouvelles fonctionnalités basées sur l'apprentissage par machine qui vise à nettoyer les réponses aux messages et aux vidéos en direct.

Le premier est un filtre facultatif qui cache simplement les commentaires automatiquement déterminés comme toxiques ou abusifs. Il peut être activé ou désactivé dans les paramètres et démarre en premier en anglais, avec d'autres langues à suivre. Instagram souligne que si quelques commentaires parviennent à glisser dans le filet, vous êtes toujours libre de supprimer et de les signaler comme précédemment ou de faire un commentaire complet.

Une autre nouvelle fonctionnalité utilise une technologie similaire pour bloquer automatiquement le spam, et fonctionne actuellement dans une multitude de langues: anglais, espagnol, portugais, arabe, français, allemand, russe, japonais et chinois. Ce filtre a effectivement été lancé sous une forme ou une autre depuis l'automne dernier, selon Wired qui indique que le succès derrière inspiré Instagram pour aborder le problème du discours haineux en utilisant le même genre d'algorithmes.

Comme pour tout ce qui dépend de l'apprentissage par machine, Systrom dit que ces fonctionnalités s'amélioreront au fur et à mesure que de plus en plus d'utilisateurs signaleront certains messages et en partageront d'autres. La société considère ces mesures comme une étape cruciale vers la promotion de communautés "gentiles et inclusives" sur le réseau, mais admet que son travail est "loin d'être fini et parfait".

Instagram est conscient des pièges de freiner par inadvertance la liberté d'expression au nom de la protection des utilisateurs, bien que le système soit suffisamment intelligent pour tenir compte du contexte entourant chaque communication. Par exemple, les algorithmes sont plus susceptibles de favoriser quelqu'un avec lequel vous avez eu des expériences fréquentes et positives dans le passé qu'un étranger. En outre, un utilisateur qui finit par laisser un commentaire bloqué sur l'un de vos messages ne sauront pas que son commentaire a été caché – empêchant les gens de tenter les censeurs juste pour s'amuser.

Le filtrage des commentaires est l'une des nombreuses fonctionnalités qui ont fait leur chemin vers le réseau social photo-centré ces derniers mois, avec la capacité d'archivage de messages récemment soumis à des tests.

Plus tôt en 2017, Twitter a mis le pied sur un chemin similaire pour freiner un comportement abusif en cachant un contenu offensant et des réponses «moins pertinentes» qui ne contribuent pas à une discussion. Contrairement à l'approche d'Instagram, les messages sont toujours présents – ils se sont effondrés automatiquement et peuvent être visualisés avec un clic supplémentaire ou cliquer. Twitter a également institué un système de probation de 12 heures pour les utilisateurs qui se comportent violemment contre les non-adeptes et a pris des mesures pour s'assurer que les personnes interdites ne peuvent pas simplement se retourner et faire un autre compte pour rejoindre le réseau.




Leave a Reply

Your email address will not be published. Required fields are marked *