Hatebase veut éliminer le «discours de haine» en ligne et suivre le jargon du «nationaliste blanc»

La lutte contre le jargon épicé et les discours sur le Web connus par la justice sociale sous le nom de «discours de haine» et de «toxicité en ligne» se poursuivra avec Hatebase qui cherche à éliminer tout ce qui est lié au discours épicé et au «nationalisme blanc» avec de nouveaux outils pour aider les entreprises de l'année en cours. . Les outils en question ne sont pas statiques et évolueront de manière assez sensible pour mettre fin aux comportements épicés.

Site internet Le joueur eu la chance de parler avec une membre de Hatebase, Jennifer Nguyen, pour comprendre comment l'entreprise se dessine et comment d'autres entreprises peuvent utiliser cette technologie pour réduire les comportements épicés.

Selon Nguyen, Hatebase n'est pas seulement intéressé par "l'identification" et la "réduction" du discours de haine dans les jeux en ligne, mais par la chose en pleine croissance appelée Internet.

L'organisation prétend offrir un niveau de technologie que la plupart des entreprises ne peuvent posséder, ce qui met l'accent sur trois choses:

  • Réduire les incidents de discours de haine grâce à la surveillance
  • Réduire l'acceptabilité du discours de haine
  • Prévenir la violence, qui est dictée par le discours de haine

En d'autres termes, il s'agit simplement de personnes peu sûres qui veulent vous dire ce qui est juste ou faux en fonction de leurs émotions mentales.

Quoi qu'il en soit, Nguyen explique que Hatebase a presque tous les langages 100 dans tous les pays 180, les termes 3,624 étant documentés pour aider d'autres sociétés à lutter contre ce que l'on appelle le «discours de haine».

Nguyen a également déclaré au site Web que l'équipe avait du mal à trouver et à reproduire les formes évolutives de "discours de haine" de la part des gens et des "nationalistes blancs" en disant:

«Le défi des communautés en ligne est qu'il est extrêmement difficile d'identifier, de surveiller et de mettre en quarantaine le discours de haine, car différentes personnes ont des points de vue différents sur le discours de haine (par exemple, un mot considéré comme bénin dans un contexte donné peut être perçu comme haineux. dans un autre) et 1), les utilisateurs sont de plus en plus avisés d’obtenir du contenu discriminatoire au-delà des filtres de contenu rudimentaires, ce que nous avons beaucoup vu avec le mouvement nationaliste blanc. ”

Le site Web explique ensuite comment Microsoft et Phil Spencer veulent mettre fin au «discours de haine» et comment Hatebase peut intervenir pour tirer parti des petites entreprises ou des personnes souhaitant contrôler leur base d'utilisateurs:

«Dans un article de blog intitulé« Jeux vidéo: une force unificatrice pour le monde », publié en mai de cette année, Spencer a déclaré que cet effort viserait à créer des environnements de jeu sûrs et inclusifs pour tous les utilisateurs. Pour ce faire, le discours de haine, le fanatisme et la misogynie devraient être traités de manière plus efficace. Spencer a déclaré que l'équipe de sécurité Xbox travaillait dur pour atteindre cet objectif. Les objectifs de Spencer sont admirables et constituent un excellent exemple à suivre, mais peu d'organisations disposent des ressources dont Microsoft dispose.

C'est là que Hatebase peut briller et pourquoi il devrait, ainsi que des projets similaires, constituer un axe de développement futur. Les petites organisations souhaitant tirer parti des puissants outils créés par Hatebase peuvent le faire moyennant des frais de licence mensuels, tandis que d'autres organisations, telles que des organisations à but non lucratif, des membres d'universités et des groupes communautaires, peuvent accéder à la licence gratuitement. Nguyen poursuit: "Notre objectif est d'aider les communautés en ligne à mieux gérer ce problème et à envoyer un contenu moins vitriolique aux modérateurs humains."

De plus, un système appelé Hatebrain peut effectuer une analyse linguistique sur des conversations publiques et stocker des données, ce qui signifie que contrairement à la recherche conventionnelle où il est statique, cet algorithme d'apprentissage peut évoluer avec des mots d'argot, de jargon et d'autres types de mots insinuant d'autres choses:

«Sur leur site Web, on peut voir exactement comment le travail est effectué et des exemples de leur travail. Comme le discours de haine est varié et que le langage évolue rapidement en argot, il peut être difficile pour la recherche traditionnelle de localiser toutes les formes de discours de haine. Hatebase utilise ce qu'ils décrivent comme un moteur de langage naturel, Hatebrain, pour effectuer une analyse linguistique lors de conversations publiques. Les données sont ensuite mises à disposition via l'interface Web.

Cela signifie que, contrairement aux recherches traditionnelles sur le discours de haine, qui peuvent être statiques et gelées au moment où une enquête est menée, Hatebase fait évoluer sa base de données avec des discussions plus en cours. Il n’est pas précisé d'où proviennent ces conversations et il serait utile de savoir exactement où les données sont en train d'être récupérées pour analyse. ”

À l'heure actuelle, hatebase.org est dit être le plus grand dépôt structuré au monde de discours de haine régionalisés et multilingues pour les entreprises, les organisations à but non lucratif, les universités, le gouvernement et les médias.

À Propos

Ethan est né à pépins, et poursuit pour trouver le plus pépins de rupture de jeu dans les jeux. Si vous avez besoin d'entrer en contact utiliser la page de contact.

NE PAS suivre ce lien ou vous serez interdit sur le site!