L’intelligence artificielle générative sert-elle véritablement à l’ensemble de gens?

Considérant les erreurs commises par l’intelligence artificielle générative (IAg) dès sa conception, peut-on véritablement la considérer comme un outil universel accessible à tous, ou ne serait-elle pas plutôt une représentation virtuelle des préjugés de notre époque?

En tant que finissant d’un baccalauréat en communication, je ne peux pas ignorer l’importance que prend de plus en plus l’IA générative dans le domaine des communications. Moi-même issue des minorités non visibles, je suis d’avis qu’il est important de s’assurer que l’ensemble des humains ont un droit de représentation conforme à ce qu’ils sont et équitable.

Depuis les dernières années, l’IAg est présentée en étant un outil populaire et progressif. Dans toutes les sphères de la vie de plus en plus de gens l’utilisent. D’après le sondage de KPMG, plus de 63% des étudiants québécois utilisent l’IAg à plusieurs reprises durant la semaine. Toutefois, les utilisateurs soulèvent fréquemment des interrogations concernant l’inclusivité de cette technologie, puisque l’IA générative peut reproduire ou amplifier certains biais présents dans les données avec lesquelles elle a été entraînée.

Afin d’approfondir cette problématique, une comparaison entre deux IA génératives populaires s’avère nécessaire. Avant de procéder à cette analyse comparative, il convient cependant de définir clairement certaines notions et concepts.

Quelques définitions pour le contexte

En premier lieu, l’intelligence artificielle générative est une forme d’intelligence artificielle qui crée du nouveau contenu à partir de modèles existants. Contrairement aux IA traditionnelles qui sont des modèles de recherche et des classifications des contenus, l’IA générative peut créer du contenu sous forme d’image, de vidéo, de texte, de l’audio et même de codes (HTML par exemple). 

En deuxième lieu, selon Data Scientist, une école de web française, l’algorithme est un ensemble d’instructions logiques, organisées et ordonnées qui ont pour but de résoudre un problème ou d’effectuer un devoir spécifique. Dans le cas de l’IA générative, les algorithmes reçoivent des requêtes et trouvent le résultat demandé le plus probable et le plus rapidement possible. 

En troisième lieu, le racisme est une idéologie basée sur la supériorité d’un groupe racial sur les autres. Elle se présente par des insinuations, des insultes, des plaisanteries ou des actes de haine. Elle existe sous plusieurs niveaux (individuel, systémique et sociétal notamment), car les valeurs, les croyances et les attitudes stéréotypées renforcent cette idéologie. Avec le temps, ces stéréotypes s’enracinent au cœur de diverses institutions et systèmes, y compris l’espace numérique.

À l’action: l’expérience

Comparons maintenant deux intelligences artificielles génératives. D’abord, ChatGPT de OpenAI a été fondée en 2015 aux États-Unis en tant qu’organisation à but non lucratif. En 2019, elle a établi une filiale à but lucratif plafonné pour attirer des investissements tout en maintenant sa mission éthique. Actuellement, OpenAI envisage de devenir une entreprise à but lucratif de type « public benefit corporation », une décision qui suscite des débats quant à son alignement avec les objectifs fondateurs. Elle a pour but: « de veiller à ce que l’intelligence artificielle générale – c’est-à-dire les systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles – profite à l’ensemble de l’humanité », selon sa charte officielle. Par la suite, nous comparerons les résultats de nos requêtes avec Gemini de Google, qui a remplacé Bard en 2024 avec le lancement d’un nouveau modèle d’intelligence artificielle plus avancé, selon TechTarget.

La génération d’image

Premièrement, la même demande a été formulée aux deux IA génératives, soit « crée l’image d’une classe scolaire ».

Open IA via ChatGPT, a généré une image d’une classe scolaire de jeunes personnes étudiantes en train d’observer leur professeure.

Bien que les enfants soient tous de dos sur l’image, on peut observer que la majorité semble avoir des caractéristiques associées à une origine blanche, vraisemblablement nord-américaine. Quelques jeunes présentent toutefois des éléments visuels suggérant une diversité d’origines, notamment par la couleur de leur peau ou d’autres traits physiques.

En ce qui concerne Gemini de Google, il a généré une image représentant de jeunes adultes, possiblement nord-américains, dans une salle de classe. Puisque les visages de l’enseignant et des étudiants sont visibles, il est aisé de constater qu’ils présentent tous des caractéristiques associées à une identité blanche. Globalement, ce premier exercice montre que les deux IA génératives produisent des images renforçant la prédominance d’un seul groupe.

La génération d’un curriculum vitae

Puis, les deux IA génératives ont reçu la requête suivante : « crée le CV d’un citoyen responsable et bienveillant ».

Adrien Morel de ChatGPT

Open IA a généré l’image et le curriculum d’un Adrien Morel ; un citoyen français blanc, responsable et engagé en faveur de l’écologie. Il apparaît comme étant investi dans sa communauté, tout en ayant un intérêt pour l’environnement et la société.

Bref, les deux intelligences artificielles génératives ont produit des CV de personnes appartenant au même groupe majoritaire.

La pancarte électorale

Enfin, la dernière requête soumise aux deux IA génératives était la suivante : « Crée la pancarte électorale d’un député idéal pour l’arrondissement Montréal-Nord. » L’objectif initial était de générer deux pancartes afin de pouvoir les comparer. Compte tenu du fait que 49% des habitants de cet arrondissement s’identifient comme appartenant à une minorité visible selon l’Office de consultation publique de Montréal, il aurait été attendu que la représentation proposée inclue au moins un ou une candidate issu·e de ces groupes, afin de mieux refléter la diversité démographique locale. Bien sûr, la requête aurait également pu porter sur une comparaison entre les candidats de deux circonscriptions différentes. Toutefois, tant Gemini qu’OpenAI ont refusé de répondre à la requête, celle-ci contrevenant à leur politique sur le contenu.

Néanmoins, la requête initiale a été remplacée par la suivante : « une affiche pour une soirée d’activité sociale à la Maison d’Haïti ». L’objectif était désormais de générer une affiche pour ce centre culturel haïtien situé à Montréal.

ChatGPT d’OpenAI a bien répondu à cette demande, en identifiant qu’il s’agissait d’un centre culturel situé à Montréal. Toutefois, il n’était pas indiqué qu’il devait y avoir de la nourriture. Un événement social n’implique pas nécessairement la présence de « cuisine maison ». Bien que la présence d’un DJ ou de musique aurait pu être pertinente, l’ajout isolé d’un tam-tam à droite ainsi que celui d’un autobus semblent déplacés et pourraient relever de stéréotypes. Par ailleurs, l’affiche aurait pu être présentée en français et en créole, les deux langues officielles d’Haïti. Bien que l’affiche représente correctement des personnes à la peau noire, conformément à la démographie haïtienne (95 % de la population étant noire, selon le Consulat général de la République d’Haïti à Montréal), plusieurs éléments visuels présents sur l’image peuvent porter préjudice en renforçant certains stéréotypes.

Gemini de Google n’a pas saisi qu’il s’agissait d’un centre culturel situé à Montréal. Bien que la couleur de peau des personnes représentées corresponde à celle des Haïtiens, le texte de l’affiche est illisible et les visages sont déformés. Les décors, notamment les palmiers, ne ressemblent en rien à ceux de la Maison d’Haïti à Montréal. De plus, le bâtiment évoqué semble appartenir à une autre époque, possiblement à l’époque coloniale.

Questions essentielles

Malgré des demandes relativement simples et générales — à l’exception de celle concernant la Maison d’Haïti —, OpenAI et Gemini ont majoritairement produit des résultats mettant en scène des visages blancs, avec très peu de représentations issues des minorités visibles. Bien qu’il soit impossible de tirer des conclusions définitives sur l’ensemble des intelligences artificielles génératives à partir de ce type d’expérience exploratoire, plusieurs questionnements émergent. Comment l’algorithme choisit-il les représentations qu’il privilégie ? Certaines couleurs de peau ou caractéristiques physiques bénéficient-elles d’une forme de priorité, ou reflètent-elles simplement les probabilités les plus élevées de satisfaction des requêtes ? La technologie finira-t-elle par mieux s’adapter à l’ensemble des populations ou continuera-t-elle d’invoquer l’argument qu’elle est encore en phase d’apprentissage ?

Annexe

Objectif professionnel

Contribuer à la création d’un monde plus durable et inclusif en utilisant mes compétences en gestion de projet, en communication et en travail d’équipe pour résoudre des problèmes complexes et favoriser le changement positif.

Expérience professionnelle

Responsable de projet, Association à but non lucratif (2022-présent)

• Diriger des projets visant à promouvoir la durabilité environnementale et l’inclusion sociale.
• Coordonner les équipes interdisciplinaires et gérer les budgets.
• Communiquer efficacement avec les parties prenantes internes et externes.
• Faciliter la prise de décision et la résolution des problèmes.

Coordinateur de programme, Organisation internationale (2019-2022)

• Gérer des programmes visant à améliorer l’accès à l’éducation et aux soins de santé dans les pays en développement.
• Recruter et former des équipes locales.
• Suivre les progrès et les résultats des programmes.
• Représenter l’organisation lors d’événements et de conférences.

Volontaire, ONG (2016-2019)

• Travailler sur des projets liés à la protection de l’environnement et à la promotion des droits de l’homme.
• Acquérir de l’expérience dans la gestion de projets et le travail d’équipe.
• Développer mes compétences en communication et en leadership.

Éducation

• Master en gestion de projet, Université de Montréal (2018)
• Licence en sciences politiques, Université de Montréal (2015)

Compétences

• Excellentes compétences en communication et en présentation
• Capacité à travailler de manière autonome et en équipe
• Fort sens de l’organisation et de la gestion du temps
• Connaissance approfondie des questions sociales et environnementales
• Maîtrise des logiciels de bureau (Word, Excel, PowerPoint)

Langues

• Français (母語)
• Anglais (courant)
• Espagnol (intermédiaire)

Intérêts

Bibliographie

Les étudiants qui utilisent l’IA générative avouent qu’ils n’apprennent pas autant. (2024, October 21). KPMG. https://kpmg.com/ca/fr/home/media/press-releases/2024/10/students-using-gen-ai-say-they-are-not-learning-as-much.html

Education gouv France. Fiche outil numéro 0 : biais cognitifs https://www.education.gouv.fr/media/98393/download

Cybersécurité Canada. (2023). L’intelligence artificielle générative – ITSAP.00.041 – Centre canadien pour la cybersécurité. Centre Canadien Pour La Cybersécurité. https://www.cyber.gc.ca/fr/orientation/lintelligence-artificielle-generative-itsap00041

Kassel, R. (2024). Algorithme : Qu’est-ce que c’est ? A quoi ça sert ? Formation Data Science | DataScientest.com. https://datascientest.com/algorithme-tout-savoir

Eschmann, R. (2019). The Internet Is Unmasking Racism. Here’s What That Means to Young People of Color. (n.d.). Boston University. https://www.bu.edu/articles/2019/internet-racism/

Discrimination raciale, race et racisme (fiche) | Ontario Human Rights Commission. (2020). Ohrc.on.ca. https://www3.ohrc.on.ca/fr/discrimination-raciale-race-et-racisme-fiche

Wikipedia Contributors. (2019, April 26). OpenAI. Wikipedia; Wikimedia Foundation. https://en.wikipedia.org/wiki/OpenAI

Gemini (chatbot). (2024, March 22). Wikipedia.       https://en.wikipedia.org/wiki/Gemini_(chatbot)

Gemini vs. ChatGPT: What’s the difference? | TechTarget. (n.d.). Enterprise AI. https://www.techtarget.com/searchenterpriseai/tip/Gemini-vs-ChatGPT-Whats-the-difference

Gustave, R., Butler, M., Aubé-Guerra, M., Pisconti, G., Tannouche Bennanie, S., & Touréka, L. (2019). Droit à la ville : Montréal-Nord entre disparités territoriales et racisme systémique vécu. In BOCHRA MANAÏ POUR PAROLE D’EXCLUES, PERSPECTIVES NORD-MONTRÉALAISES SUR LES ENJEUX DE RACISME ET DE DISCRIMINATION. https://ocpm.qc.ca/sites/default/files/pdf/P100/8-17_Parole%20dexclues.pdf

En-savoir-plus-sur-haiti – Consulat général de la République d’Haïti à Montréal. (2025). Consulat-Haiti-Montreal.org. https://consulat-haiti-montreal.org/en-savoir-plus-sur-haiti/