Une IA au service de quoi déjà?
Des vidéos et des photos des plus invraisemblables pullulent maintenant sur les médias socionumériques, gracieuseté de l’intelligence artificielle (IA) et de la démocratisation de l’accès à des outils propulsés par IA, comme DALL-E ou Midjourney (Mariani, 2023). Cependant, ce n’est souvent pas du contenu de grande qualité. Par exemple, beaucoup d’entre nous peuvent témoigner avoir vu une image générée par intelligence artificielle dévoilant un individu avec tout sauf cinq doigts à sa main (Mariani, 2023). Le terme pour ce type de contenu de basse qualité créée à l’aide de l’intelligence artificielle et qui prolifère sur ces médias numériques est AI slop (Willison, 2024).
Du même type que les internautes peuvent se faire spam dans leur courriel, la AI slop est du contenu de qualité médiocre et qui peut être abondant sur les plateformes socionumériques, sans que personne n’ait rien demandé (Hern et Milmo, 2024). Ainsi, il est à comprendre que s’il y avait une section pour les « indésirables » sur les plateformes socionumériques, comme c’est généralement le cas dans les boîtes de courriel traditionnelles, la AI slop se glisserait dans cette subdivision.
Du haut de mes trois ans de baccalauréat en média numérique, de mon côté, je m’intéresse aux photos et aux vidéos générées par IA se multipliant sur les médias socionumériques, plus spécifiquement sur Facebook, Tik Tok et Instagram (Renzella et Rozova, 2024). Le but de ce billet est donc de mettre en mots le phénomène de la AI slop, qui s’apparente à un symptôme du Web 3.0 (Li et al., 2024).
Économie de l’attention
La première question qui m’est apparue en commençant à creuser sur le sujet est : pourquoi et pour quelle raison du contenu généré par IA de basse qualité aurait-elle une traction (viralité) importante sur les médias socionumériques?
En raison des structures algorithmiques, d’abord, où le design propre aux médias socionumériques sous-tend une économie de l’attention (Kinsley et Crogan, 2013). La structure économique des plateformes socionumériques est construite notamment à partir de l’accumulation de données de ses usagers et du revenu de publicistes. Les plateformes, comme les compagnies y ayant des publicités, capitalisent ainsi sur l’attention déployée par l’usager sur la plateforme (Ménard et Mondoux, 2018, p.63-84). Les structures algorithmiques exploitées par les plateformes socionumériques sont donc construites pour faciliter l’engagement, afin de créer du trafic et de garder les usagers captifs (Seaver, 2018).
Les images et les vidéos faites avec IA et publiées sur les différentes plateformes ont généralement un cadre normatif; des éléments facilement identifiables par l’humain, mais aussi des éléments au-delà du réel (pensez à une vidéo animée par IA où un chat y danse la bachata) qui captent l’attention (Judkis, 2024). Une étude publiée en 2024 dans Applied Science démontre même, en mesurant l’attention des participants par la vue, qu’une image générée par intelligence artificielle d’un produit avait retenu davantage l’attention des participants que l’image réelle du produit (Tang et Chen, 2024).
Un job payant
Si les plateformes comme Instagram, Facebook et Tik Tok voient la AI slop se multiplier en leur sein, c’est aussi parce que le phénomène est profitable pour les internautes qui produisent ce type de contenu (Tang et Wikström, 2024).
Le contenu généré par IA, qu’il soit de basse qualité ou non, a la capacité de pouvoir être généré à la tonne et rapidement (Tang et Wikström, 2024). D’où la facilité à mettre en circulation du contenu en quantité industrielle, s’inscrivant dans des trends (tendances) et qui, dès lors, a de fortes chances d’être capté par les algorithmes de recommandation et d’avoir une forte traction (viralité) sur le Web (Tang et Wikström, 2024).
Le média numérique 404 media a conduit une enquête et révèle même que, notamment au Vietnam, aux Philippines et en Inde, la AI slop peut être une véritable mine d’or (Koebler, 2024). Dans des vidéos sur YouTube, des internautes vantent les revenus que peut entraîner la publication de contenus générés par IA à partir de plusieurs comptes, grâce à, par exemple, le programme de rémunération de Facebook, où le créateur est rémunéré en fonction des vues et des likes (Koebler, 2024). Il s’y est même créé une sous industrie de cours vendus sur Telegram sur la marche à suivre afin d’arriver à faire un revenu grâce à des images ou vidéos générées par IA sur les médias socionumériques (Koebler, 2024).
Les dérives propagandistes
La AI slop peut aussi être produite à des fins de propagande, d’où le terme slopaganda (Klincewicz, Alfano, Fard, 2025). On n’a qu’à penser à la vidéo publiée en février 2025 par Donald Trump sur les médias socionumériques, Trump Gaza, où le président américain montre une vision de Gaza fabulée et dystopique. C’est exactement de ce que c’est, de la slopaganda (Klincewicz, Alfano, Fard, 2025), parce que la vidéo générée par IA, où des danseuses du ventre ont une barbe (Holmes et Owen, 2025), est sans équivoque de basse qualité. La qualité des images n’est cependant pas ce qui importe avec la slopaganda, au contraire; l’image truquée ou une réalité alternative en vidéo générée par IA réussissent leur objectif du moment où elles deviennent des objets de propagandes, au-delà de la qualité graphique du contenu (Klincewicz, Alfano, Fard, 2025).
La AI slop : encore présente pour longtemps?
Grâce à la démocratisation de l’accès aux outils d’IA générative au grand public dans les dernières années, grâce aux structures économique et algorithmique des médias sociconumériques, et grâce aux programmes de rémunération des plateformes envers les créateurs de contenu, la AI slop prolifère sur les Facebook et Cie.
Est-ce que c’est éthique toutefois? Considérant premièrement les enjeux de droits d’auteurs; parce qu’une plateforme comme DALL-E a été entraînée avec des images rassemblées gratuitement par Open IA et créées par des créateurs humains à la base (Hogea, Ferrer, 2024). Il y a aussi l’enjeu d’authenticité. Au sens où, à quoi bon visiter des plateformes dites sociales où le contenu s’y trouvant est infesté d’images et de vidéos générées par intelligence artificielle, et qui, eux, ont une popularité souvent moussée par de faux comptes (bots) (Koebler cité dans The Guardian, Hern et Milmo, 2024; Mariani, 2023; Renzella et Rozova, 2024).
Le contenu généré par IA, de qualité souvent boiteuse, ne semble pas être sur le point de disparaitre des plateformes socionumériques non plus (Hern et Milmo, 2024). Par exemple, Meta, dans ses standards de communautés sur sa page Web. La compagnie déclare que ses règles concernant les communautés sur ses plateformes s’appliquent à tout type de contenu, y compris celui généré par IA. Grosso modo : « Allez-y! Publiez du contenu généré par IA sans problème, mais assurez-vous que celui-ci n’incite pas à la haine ». L’entreprise affirme aussi ne pas tolérer le spam, ce qui est ironique, puisque la AI slop, présente sur Instagram et Facebook, est comparée à du spam par les chercheurs, journalistes et blogueurs s’étant penché sur le phénomène…
Bibliographie
Mariani, R. (2023). The Dead Internet to Come. The New Atlantis, 73, 34–42. https://www.jstor.org/stable/27244117
Renzella J., Rozova V., (2024). The ‘dead internet theory’ makes eerie claims about an AI-run web. The truth is more sinister. The Conversation. The ‘dead internet theory’ makes eerie claims about an AI-run web. The truth is more sinister
J. Li, R. Qin, S. Guan, J. Hou and F. -Y. Wang, (2024). « Blockchain Intelligence: Intelligent Blockchains for Web 3.0 and Beyond, » in IEEE Transactions on Systems, Man, and Cybernetics: Systems, vol. 54, no. 11, pp. 6633-6642, doi: 10.1109/TSMC.2023.3348449.
Kinsley S., Crogan P., (2013). Paying Attention: Towards a critique of the attention economy. Culture Machine, 2012, Vol. 13. https://ore.exeter.ac.uk/repository/bitstream/handle/10871/9307/463-965-1-PB.pdf?sequence=2&isAllowed=y
Ménard, M., & Mondoux, A. (2018). BIG DATA, CIRCUITS MARCHANDS ET ACCÉLÉRATION SOCIALE. In M. Ménard & A. Mondoux (Eds.), Big Data et société: Industrialisation des médiations symboliques (1st ed., pp. 63–84). Presses de l’Université du Québec. https://doi.org/10.2307/j.ctv1n35c4n.8
Seaver, N. (2018). Captivating algorithms: Recommender systems as traps. Journal of Material Culture, 24(4), 421-436. https://doi-org.proxy.bibliotheques.uqam.ca/10.1177/1359183518820366 (Original work published 2019)
Tang, Y., & Chen, C. (2024). Can Stylized Products Generated by AI Better Attract User Attention? Using Eye-Tracking Technology for Research. Applied Sciences, 14(17), 7729. https://doi.org/10.3390/app14177729
Tang J., Wikström P., (2024). ‘Side job, self-employed, high-paid’: behind the AI slop flooding TikTok and Facebook. The Conversation. ‘Side job, self-employed, high-paid’: behind the AI slop flooding TikTok and Facebook
Klincewicz, M., Alfano, M., & Fard, A. E. (2025). Slopaganda: The interaction between propaganda and generative AI. arXiv preprint arXiv:2503.01560.
Hogea, E., & Rocafortf, J. (2024). The ethical situation of DALL-E 2. arXiv preprint arXiv:2405.19176.
Willison S., (2024). Slop is the new name for unwanted AI-generated content. Simon Willison’s Weblog. Slop is the new name for unwanted AI-generated content
Hern A., Milmo D., (2024). Spam, junk … slop? The latest wave of AI behind the ‘zombie internet’. The Guardian. Spam, junk … slop? The latest wave of AI behind the ‘zombie internet’ | Artificial intelligence (AI) | The Guardian
Judkis M., (2024), The deluge of bonkers AI art is literally surreal. The Washington Post. AI images suggest a new era of surrealism – The Washington Post
Koebler, Jason (2024-08-06).Where Facebook’s AI Slop Comes From. 404 Media. Where Facebook’s AI Slop Comes From
Holmes O., Owen P., (2025). Trump faces Truth Social backlash over AI video of Gaza with topless Netanyahu and bearded bellydancers. The Guardian. Trump faces Truth Social backlash over AI video of Gaza with topless Netanyahu and bearded bellydancers | Donald Trump | The Guardian
