Les personnes marginalisées sont souvent les plus touchées par les conséquences involontaires des nouvelles technologies. Par exemple, les algorithmes qui décident automatiquement qui peut voir quel contenu ou comment les images sont interprétées sont entachés de préjugés raciaux et sexistes. Les personnes qui ont plusieurs identités marginalisées, comme les Noirs et les handicapés, sont encore plus exposées que celles qui n’ont qu’une seule identité marginalisée.
C’est pourquoi, lorsque Mark Zuckerberg a exposé sa vision du métavers – un réseau d’environnements virtuels dans lesquels de nombreuses personnes peuvent interagir les unes avec les autres et avec des objets numériques – et qu’il a déclaré que cette vision concernerait tous les produits fabriqués par l’entreprise, j’ai été effrayée. En tant que chercheuse qui étudie les intersections entre la race, la technologie et la démocratie – et en tant que femme noire – je pense qu’il est important d’examiner attentivement les valeurs qui sont encodées dans cet internet de nouvelle génération.
yuoak/DigitalVision Vectors via Getty Images
Des problèmes apparaissent déjà. Les avatars, ces personnages graphiques que l’on peut créer ou acheter pour se représenter dans des environnements virtuels, sont vendus à des prix différents en fonction de la race perçue de l’avatar, et le harcèlement raciste et sexiste fait son apparition dans les environnements immersifs prémétavériques d’aujourd’hui.
Pour que la prochaine itération de l’internet soit inclusive et fonctionne pour tout le monde, il faudra que les membres des communautés marginalisées prennent l’initiative de la façonner. Il faudra également que la réglementation soit suffisamment contraignante pour que les grandes entreprises technologiques soient tenues de rendre des comptes dans l’intérêt du public. Sans cela, le métavers risque d’hériter des problèmes des médias sociaux actuels, voire de devenir pire.
Visions utopiques contre dures réalités
Dans les premiers temps de l’internet, les visions utopiques affirmaient généralement que la vie en ligne serait radicalement différente de la vie dans le monde physique. Par exemple, les gens envisageaient l’internet comme un moyen d’échapper à certaines parties de leur identité, telles que les distinctions de race, de sexe et de classe. En réalité, l’internet est loin d’être sans race. Alors que les techno-utopies communiquent des visions souhaitées de l’avenir, la réalité des nouvelles technologies n’est souvent pas à la hauteur de ces visions. En fait, l’internet a apporté de nouvelles formes de préjudice à la société, telles que la diffusion automatisée de propagande sur les médias sociaux et la partialité des algorithmes qui façonnent votre expérience en ligne. Zuckerberg a décrit le métavers comme un internet plus immersif et incarné qui « débloquera un grand nombre de nouvelles expériences étonnantes« . Il ne s’agit pas seulement d’une vision de l’internet du futur, mais aussi d’un mode de vie futur. Même si cette vision ne correspond pas à la réalité, le métavers est susceptible, comme les versions antérieures de l’internet et des médias sociaux, d’avoir des conséquences étendues qui transformeront la façon dont les gens socialisent, voyagent, apprennent, travaillent et se divertissent. La question est de savoir si ces conséquences seront les mêmes pour tous. L’histoire suggère que la réponse est non.
La technologie n’est jamais neutre
Les technologies largement utilisées supposent souvent que les identités et les corps des hommes blancs sont utilisés par défaut. Joy Buolomwini, informaticienne au MIT, a montré que les logiciels de reconnaissance faciale sont moins performants sur les femmes, et encore plus sur les femmes aux visages plus foncés. D ‘autres études l’ont confirmé.
La blancheur est intégrée par défaut dans ces technologies, même en l’absence de race comme catégorie pour les algorithmes d’apprentissage automatique. Malheureusement, le racisme et la technologie vont souvent de pair. Les femmes politiques et journalistes noires ont été ciblées de manière disproportionnée par des tweets abusifs ou problématiques, et les électeurs noirs et latinos ont été ciblés par des campagnes de désinformation en ligne pendant le cycle électoral de 2020. Cette relation historique entre la race et la technologie m’inquiète au sujet du métavers. Si le métavers est censé être une version incarnée de l’internet, comme l’a décrit Zuckerberg, cela signifie-t-il que les personnes déjà marginalisées subiront de nouvelles formes de préjudice ?
Facebook et sa relation avec les Noirs
La relation générale entre la technologie et le racisme n’est qu’une partie de l’histoire. Meta entretient de mauvaises relations avec les utilisateurs noirs de sa plateforme Facebook, et avec les femmes noires en particulier. En 2016, des journalistes de ProPublica ont découvert que les annonceurs sur le portail publicitaire de Facebook pouvaient exclure des groupes de personnes qui verraient leurs publicités en fonction de la race des utilisateurs, ou de ce que Facebook appelle une « affinité ethnique ». Cette option a suscité beaucoup de réactions négatives car Facebook ne demande pas à ses utilisateurs leur race, ce qui signifie que les utilisateurs se voient attribuer une « affinité ethnique » en fonction de leur engagement sur la plateforme, par exemple en fonction des pages et des messages qu’ils ont aimés. En d’autres termes, Facebook établissait essentiellement un profil racial de ses utilisateurs en fonction de ce qu’ils faisaient et aimaient sur sa plateforme, ce qui permettait aux annonceurs de discriminer les gens en fonction de leur race. Facebook a depuis mis à jour ses catégories de ciblage publicitaire pour ne plus inclure les « affinités ethniques ». Toutefois, les annonceurs peuvent toujours cibler des personnes en fonction de leur race présumée grâce à des indicateurs de race, qui utilisent des combinaisons d’intérêts d’utilisateurs pour déduire des races. Par exemple, si un annonceur voit dans les données de Facebook que vous avez exprimé un intérêt pour la culture afro-américaine et les BET Awards, il peut en déduire que vous êtes noir et vous cibler avec des publicités pour des produits qu’il souhaite commercialiser auprès des Noirs. Pire encore, Facebook a souvent supprimé les commentaires de femmes noires qui dénonçaient le racisme et le sexisme. Ironiquement, les commentaires des femmes noires sur le racisme et le sexisme sont censurés – on dit familièrement « zuckés » – parce qu’ils violent ostensiblement les politiques de Facebook contre les discours de haine. Ce phénomène s’inscrit dans une tendance plus large au sein des plateformes en ligne, où les femmes noires sont sanctionnées pour avoir exprimé leurs préoccupations et réclamé la justice dans les espaces numériques. Selon un récent rapport du Washington Post, Facebook savait que son algorithme nuisait de manière disproportionnée aux utilisateurs noirs, mais a choisi de ne rien faire.
Un métavers démocratiquement responsable
Lors d’un entretien avec Vishal Shah, vice-président du métavers de Meta, Audie Cornish, animateur à la National Public Radio, a posé la question suivante: « Si vous ne pouvez pas gérer les commentaires sur Instagram, comment pouvez-vous gérer le t-shirt qui porte un discours de haine dans le métavers ? Comment pouvez-vous gérer le rassemblement haineux qui pourrait avoir lieu dans le métavers ? » De même, si les Noirs sont punis pour avoir dénoncé le racisme et le sexisme en ligne, comment peuvent-ils le faire dans le métavers ? Pour que le métavers soit inclusif et qu’il promeuve les valeurs démocratiques au lieu de menacer la démocratie, il faut une justice de conception et une réglementation des médias sociaux. La justice dans la conception consiste à placer les personnes qui n’ont pas de pouvoir dans la société au centre du processus de conception afin d’éviter de perpétuer les inégalités existantes. Cela signifie également qu’il faut commencer par prendre en compte les valeurs et les principes pour guider la conception. Les lois fédérales ont protégé les entreprises de médias sociaux de toute responsabilité pour les messages et les actions des utilisateurs sur leurs plateformes. Cela signifie qu’elles ont le droit, mais pas la responsabilité, de surveiller leurs sites. Il est essentiel de réglementer les grandes entreprises technologiques pour faire face aux problèmes actuels des médias sociaux, et il est au moins aussi important de le faire avant qu’elles ne construisent et contrôlent la prochaine génération de l’internet.
Le métavers et moi
Je ne suis pas contre le métavers. Je suis pour un métavers démocratiquement responsable. Mais pour cela, j’affirme qu’il faut mettre en place de meilleurs cadres réglementaires pour les entreprises de l’internet et des processus de conception plus justes afin que la technologie ne continue pas à être corrélée au racisme. En l’état actuel des choses, les avantages du métavers ne l’emportent pas sur ses coûts pour moi. Mais cela ne doit pas rester ainsi. [
Vous avez aimé ce que vous avez lu ? Vous en voulez plus ? Inscrivez-vous à la lettre d’information quotidienne de The Conversation].
Breigha Adeyemo, doctorante en communication, Université de l’Illinois à Chicago Cet article est republié de The Conversation sous une licence Creative Commons. Lisez l’article original.
Doctoral Candidate in Communication, University of Illinois at Chicago
