Récemment, plusieurs entreprises travaillent sur des algorithmes et des bases de données d’IA pour empêcher les « mauvaises personnes » de faciliter la « haine » sur le Web et sur le lieu de travail. Fin 2019, Hatebase a annoncé vouloir éliminer les discours de haine en ligne et suivez le « jargon nationaliste blanc ». À la mi-mai 2020, Facebook a annoncé le Défi des mèmes haineux, qui vise à mettre fin aux « mèmes offensants et aux discours de haine ». Et depuis cette semaine, l’International Game Developers Association (IGDA) s’efforce de lutter contre la crise et de soutenir la diversité en utilisant une base de données pour signaler les « mauvais comportements ».

Avec le nombre croissant de bases de données et d’algorithmes d’IA formés pour réduire toute « mauvaise pensée » ou tout mauvais comportement, on peut s’attendre à ce que davantage de ces programmes émergent dans un avenir proche et lointain.

En attendant, gamesindustry.biz rapporte que Renee Gittins – directrice exécutive de l'IGDA (à l'extrême droite sur l'image d'en-tête) – s'efforce de s'attaquer dès aujourd'hui à quatre « problèmes clés » de l'industrie. Cela inclut la « diversité des événements », la « crise », « l'éthique » et le « crédit approprié pour le travail accompli ».

L’IGDA et Gittins affirment vouloir « contribuer à améliorer l’industrie et la rendre solidaire pour tous ceux qui la composent ». De plus, cela se manifesterait via une base de données capable de recueillir des rapports sur les mauvais comportements.

Ci-dessous, Gittins explique comment elle et l'IGDA souhaitent faire pression sur l'industrie du jeu vidéo pour qu'elle explore les quatre questions clés, car ladite industrie a désormais « besoin d'aide » :

« Nous avons pensé qu'il serait bien de les présenter toutes ensemble, afin qu'elles aient le plus d'effet, avec un plan pour faire pression pour inciter les entreprises à vraiment les considérer. Nous voulons que ce soient des conversations que les gens ont, et il est clair que nous vivons actuellement une période de grand besoin au sein de l’industrie du jeu vidéo.

De plus, les salariés pourront interpeller leur entreprise via un signalement. Ce rapport sera transformé en compte anonymisé, qui sera ensuite ajouté à la base de données :

"Nous allons suivre les rapports si des gens disent qu'une entreprise a explicitement violé ces normes."

Ces comptes seront suivis pour une utilisation future afin de garder un œil sur le comportement d'une entreprise. Gittins explique plus en détail cette méthode, comme indiqué ci-dessous :

« Si quelqu'un envisage de travailler avec [une entreprise] à l'avenir, ou s'il a des questions sur son comportement, les gens peuvent… obtenir un historique de la façon dont ils se sont comportés par rapport aux normes proposées par l'IGDA. Cela va évoluer en fonction des besoins de la communauté, et le suivi de ces données sera important à long terme.

Contrairement à d’autres systèmes dont le concept et la pratique peuvent être bruyants, cette méthode proposée par Gittins et l’IGDA se déroulera en silence. En d’autres termes, une entreprise évoluera au fil du temps pour s’adapter aux normes de l’année en cours en accumulant des badges sans trop de bruit auprès du public :

« Nous ne cherchons pas à interpeller les gens, nous cherchons à améliorer l'industrie. Notre mission est de soutenir et de donner aux développeurs de jeux les moyens d'avoir des carrières épanouissantes et durables. Pour que cela se produise, les entreprises pour lesquelles ils travaillent doivent être durables, par exemple en continuant à fonctionner, et elles doivent être durables pour y travailler, par exemple en ne pas épuiser leurs employés.

Cependant, une chose sur laquelle nous travaillons à créer, à l’opposé du spectre, est un système de badges. Nos studios partenaires qui ont particulièrement bien réussi à créditer [leur personnel], ou qui ont très bien réussi à soutenir les personnes en congé de paternité et de maternité, recevront des badges pour célébrer le fait qu'ils soutiennent les employés avec les meilleures pratiques.

Nous essayons de faire avancer les choses et de ne pas interpeller des entreprises spécifiques – nous voulons améliorer toutes les entreprises.

Enfin, ne vous attendez pas à ce que ce soit la dernière entreprise à proposer une autre base de données et un algorithme d'IA pour suivre les « mauvais comportements » dans l'industrie des jeux. Cela dit, Gittins termine en disant ce qui suit :

« Nous faisons quelque chose de nouveau en contactant les entreprises, en travaillant avec elles et en leur fournissant des ressources. Et être véritablement une voix pour les développeurs de jeux et faire valoir leurs meilleurs intérêts en un seul endroit.