IA

Le problème de la prédominance des hommes blancs dans l’IA persiste

Le problème de la diversité dans l’industrie de l’IA

Les statistiques montrent clairement le manque alarmant de diversité dans l’industrie de l’IA. Les femmes ne représentent que 18% des auteurs des principales conférences sur l’IA, 20% des chaires de professeur d’IA et 15% et 10% des effectifs de recherche chez Facebook et Google, respectivement. La diversité raciale est encore pire : les travailleurs noirs ne représentent que 2,5% de l’ensemble de la main-d’œuvre de Google et 4% de celle de Facebook et Microsoft. Aucune donnée n’est disponible pour les personnes transgenres et autres minorités de genre, mais il est peu probable que la tendance soit différente là non plus.

Les conséquences de ce manque de diversité

Ces chiffres sont profondément troublants étant donné que l’influence de l’industrie de l’IA a considérablement augmenté et touche tout, de l’embauche et du logement à la justice pénale et à l’armée. En cours de route, la technologie a automatisé les préjugés de ses créateurs avec des effets alarmants : dévalorisation des CV des femmes, perpétuation de la discrimination à l’emploi et au logement, ainsi que des pratiques de police et de condamnations judiciaires racistes.

Les recommandations pour une plus grande diversité

Ces conséquences ne feront qu’empirer sans une approche différente pour résoudre le problème, selon un nouveau rapport publié cette semaine par l’institut de recherche AI Now. L’équipe d’AI Now identifie deux raisons principales pour lesquelles les efforts visant à remédier au manque de diversité ont échoué. Premièrement, il existe une forte concentration sur l’augmentation du nombre de « femmes dans la technologie » et moins sur l’amélioration de la diversité en termes de race, de genre et d’autres qualités. Deuxièmement, il y a une focalisation disproportionnée sur la « réparation du pipeline », c’est-à-dire l’idée d’augmenter le nombre de candidats issus de groupes sous-représentés qui passent des écoles à l’industrie. Cela tend à négliger d’autres désavantages systémiques qui empêchent les femmes et les minorités de rester dans le domaine, tels que le harcèlement, la rémunération injuste et les déséquilibres de pouvoir.

Un problème plus profond

Les chercheurs proposent plusieurs recommandations pour améliorer la diversité sur le lieu de travail de manière plus globale. Cela inclut des mesures pour combler l’écart salarial et les opportunités, accroître la diversité aux niveaux de direction dans tous les services et modifier les structures d’incitation pour que les dirigeants d’entreprise embauchent et conservent des travailleurs issus de groupes sous-représentés.

Cependant, le problème est également plus profond que les pratiques d’embauche et de rémunération, selon Jessie Daniels, chercheuse à Data & Society qui étudie l’intersection du racisme et de la technologie et qui n’a pas participé à l’étude. L’industrie technologique a été fondamentalement construite sur l’idée que la technologie existe indépendamment de la société, dit-elle : « Au début des années 90, il y avait cette idée que l’internet allait nous libérer de choses comme la race, le genre et l’infirmité ; l’idée que nous allions aller dans cet endroit appelé ‘cyberspace’ où nous n’aurions plus à penser à l’incarnation ou à l’identité. »

Cette idée est restée dans l’industrie jusqu’à aujourd’hui et est à l’origine des échecs répétés pour accroître la diversité des employés et des scandales répétés liés aux biais de l’IA. Les entreprises technologiques sont construites, et les produits technologiques sont conçus, avec une « croyance fantaisiste » selon laquelle ils existent indépendamment du sexisme, du racisme et du contexte social qui les entourent.

« Ce n’est pas un bug », dit Daniels. « C’est une caractéristique. »

Source

Evan Navega

About Author

Leave a comment

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Vous aimerez peut-être aussi

IA

Comprendre le Deep Learning en 5 étapes simples

Le Deep Learning, ou apprentissage profond, représente l’avant-garde des progrès technologiques en matière d’intelligence artificielle (IA). Puisant son inspiration du
IA

Comparaison de 5+ outils LLMOps : une analyse complète des fournisseurs

L’augmentation du nombre de Large Language Models (LLMs) depuis 2019 Le nombre de grands modèles de langage (LLMs) a augmenté