La dernière étude dévoilée par l’UNESCO, à l’occasion de la Journée internationale des droits des femmes,met en garde les grands modèles de langage de Meta et d’OpenAI, qui servent de base à leurs outils d’intelligence artificielle générative, véhiculent des préjugés sexistes, racistes et homophobes.
>> « Le monde laisse tomber les femmes et les filles », selon un nouveau rapport de l’ONU
L’étude, intitulée « Préjugés contre les femmes et les filles dans les grands modèles de langage », a examiné différentes plateformes d’intelligence artificielle générative, dont GPT-3.5 et GPT-2 d’OpenAi et Llama 2 par Meta. Les modèles GPT 2 et GPT 3.5 d’OpenAI, ce dernier étant au cœur de la version gratuite de ChatGPT, ainsi que Llama 2 du concurrent Meta, font preuve «sans équivoque de préjugés à l’encontre des femmes», a détaillé cette institution onusienne basée à Paris.Selon l’organisation,un homme a davantage tendance à être présenté comme un professeur, un chauffeur ou un employé de banque.
Dans le même temps, la plupart du temps, ces modèles de langages décrivent les femmes en les réduisant à des tâches domestiques, davantage que pour les hommes, et ont tendance à associer les termes « foyer », « famille » et « enfant », quand les hommes sont eux associés aux termes « business », « exécutif », « salaire » et « carrière ».Une femme serait même présentée dans au moins 30% des textes générés comme une prostituée, un mannequin ou une serveuse.
Lire aussi : OnuFemmes et FIFA lancent la campagne « Le football unit le monde »
Voici ce que recommande l’agence onusienne
Pour lutter contre ces préjugés, l’UNESCO recommande aux entreprises du secteur d’avoir des équipes d’ingénieurs plus diverses, avec davantage de femmes notamment. Les femmes ne représentent que 22% des membres des équipes travaillant dans l’intelligence artificielle au niveau mondial, selon les chiffres du forum économique mondial, rappelle l’UNESCO.
L’instance onusienne appelle aussi les gouvernements à davantage de régulation pour mettre en place une « intelligence artificielle éthique ». A noter qu’en novembre 2021, les États membres ont adopté à l’unanimité la Recommandation sur l’éthique de l’IA, premier et unique cadre normatif mondial dans ce domaine. En février 2024, huit entreprises technologiques mondiales, dont Microsoft, ont également endossé ce texte.
