Fraisita, Pomito, Bananella: ces noms qui n’existaient pas il y a quelques mois seraient-ils devenus les nouvelles stars de nos réseaux sociaux? Apparus il y a quelques mois, les personnages qu’ils désignent cumulent plusieurs centaines de millions de vues sur TikTok et Instagram. Le phénomène, porté par L’île de la Skibidi Tentafruit, est largement inspiré du programme étasunien Fruit Love Island, également généré par IA, ainsi que de l’émission de téléréalité française L’Île de la tentation accessible via les câblodistributeurs canadiens depuis quelques mois seulement.
Skibidi Tentafruit et ses dérivés présentent des fruits aux corps humanisés vivant des histoires de couple, de jalousie et de trahison. Le concept, adapté en France par deux étudiants en école de commerce, a dépassé les dizaines, voire les centaines de millions de vues au cumul des différents épisodes en quelques semaines. Il faut dire que la recette fonctionne: des vidéos courtes, un montage simple et des intrigues construites autour de la séduction et de la rivalité entre… des fruits? C’est précisément cette simplicité apparente qui séduit, mais qui pose aussi question, pour de nombreux observateurs: derrière l’absurde de ces fruits qui parlent, quelque chose d’autre ne se joue-t-il pas?
Rapidement, après visionnage de ces contenus, on remarque que les personnages masculins sont plutôt dominants, physiquement imposants, obsédés par la séduction. Les personnages féminins, quant à eux, sont plutôt représentés comme jalouses, rivales, ou comme de simples objets de désir.
Pour Pénélope Daignault, professeure au département d’information-communication de l’Université Laval, spécialisée en psychologie, en communication et théories du changement de comportement, à Québec, ce n’est pas une maladresse. Ces archétypes sont ancrés chez une partie de la population bien avant l’arrivée d’Internet.
Ce qu’elle souligne ici, c’est un effet d’ancrage. Plus on est exposé à des représentations simplifiées du genre, plus elles semblent naturelles. Mais alors, pourquoi des fruits? La réponse n’est pas anodine. En habillant des stéréotypes de personnages non humains, ces contenus jouent sur un mécanisme bien connu: l’anthropomorphisme. Le cerveau projette naturellement des émotions et des intentions sur des formes qui évoquent vaguement le corps humain: les codes visuels s’activent avant même que le dialogue commence.
Une histoire plus longue
Béatrice Damian-Gaillard, professeure en sciences de l’information et de la communication à l’Université Rennes 1, en France, replace ce phénomène dans une histoire plus longue. L’Île de la Skibidi Tentafruit ne surgit pas de nulle part: elle reprend les codes d’une émission qui les portait déjà.
Pour la chercheuse spécialisée sur les questions d’éducation à la sexualité sur les réseaux socionumériques, il existe un parallèle à faire entre une forme en apparence audacieuse, qui «reprend certains codes pornographiques» et un fond en réalité très conservateur (comme entre L’Île de la tentation ou son homologue généré par IA). Ces contenus véhiculent des valeurs traditionnelles autour du «bon couple. Selon ces émissions, ce dernier serait nécessairement monogame, exclusif et hétérosexuel, et l’amour y serait mis à l’épreuve, notamment à travers la question de l’infidélité sexuelle», explique Béatrice Damian-Gaillard.
L’enjeu va plus loin qu’une simple reproduction de stéréotypes. L’exposition répétée à ce type de contenu peut contribuer à déplacer ce que la société considère comme acceptable. Pénélope Daignault rappelle que les phénomènes de backlash sont toujours d’actualité. Concrètement cela veut dire que des représentations qui ont été perçues comme sexistes ou problématiques redeviennent peu à peu acceptables, car elles sont vues comme de simples blagues ou comme des codes propres à ce type de contenu.
Mais comment ces contenus parviennent-ils à circuler massivement sur des plateformes qui disposent pourtant de politiques de modération? Réponse: safe object, unsafe meaning. Derrière cette expression anglophone plus répandue dans le milieu de la prévention et de la sécurité au travail, il y a une idée simple: ce n’est pas parce que les personnages sont des fruits et qu’il n’y a, par exemple, pas de nudité apparente que le contenu est inoffensif. Pourtant, aux yeux des outils de modération, ça passe.
Au-delà de ce manquement à la modération, le vocabulaire comme «tana», «doro» et d’autres expressions issues principalement du langage de la Gen Z et que se réapproprient actuellement les préadolescents et adolescents de la génération Alpha — nés à partir de 2010 — reste difficile à comprendre pour celles et ceux qui n’en maîtrisent pas les codes. Et c’est précisément là que réside une partie du problème, selon la journaliste Emma Razafimahefa.
«Industrialisation des clichés sexistes»
Dans une vidéo critique publiée fin mars, Emma pointe les problèmes soulevés par ce type de contenus et évoque même une «industrialisation des clichés sexistes». En réaction, elle reçoit rapidement des commentaires menaçants: «J’ai reçu quelques messages privés, particulièrement violents, lorsque j’ai publié la vidéo, mais je n’y fais pas attention: je les vois, mais je ne réponds pas».
Pour Emma, qui a l’habitude d’aborder des causes féministes dans ses sujets, c’est justement la diffusion de ces contenus (skibidi tentafruit, fruit love island…) qui va aussi endiguer et populariser une telle violence en ligne.
Selon la journaliste, les femmes qui s’expriment sur ces sujets sont exposées à des formes de violence en ligne organisée. Raids, commentaires coordonnés, signalements massifs de leurs propres contenus… des stratégies, bien documentées par de nombreux travaux sur les pratiques de harcèlement dans les espaces numériques et qui visent à étouffer la parole.
Du côté juridique, le flou est réel. Pour Jules Poulain-Welter, juriste en droit et intelligence artificielle (IA), la question se pose aussi sous l’angle des contenus culturels générés par IA et des représentations qu’ils diffusent. Un point est souvent mal compris: générer un contenu via IA ne déplace pas la responsabilité du propos tenu.
La Chaire UNESCO sur la diversité des expressions culturelles, à laquelle appartient Jules Poulain-Welter, est une structure de recherche universitaire consacrée aux enjeux de création, de circulation et de protection des expressions culturelles. Dans ce cadre, l’IA n’est pas seulement étudiée comme un outil, mais aussi comme un dispositif capable d’influencer la manière dont certaines représentations circulent dans l’espace public.
Même si le droit évolue face à l’émergence récente de l’IA, la responsabilité peut, en principe, se partager entre le créateur, la plateforme et le fournisseur d’IA, notamment en cas de manquement aux obligations de transparence sur les données d’entraînement. Mais selon le juriste, le créateur serait principalement considéré comme responsable car « au-delà de créer un contenu potentiellement discriminant, l’individu à fait le choix de le publier sur les réseaux sociaux »
Mais dans les faits, Jules Poulain-Welter le rappelle: «l’arsenal juridique a des difficultés à suivre les évolutions et innovations de ces technologies». Entre le moment où un problème émerge et celui où une réponse législative se concrétise, «il faut compter deux à trois ans», explique le juriste. Le temps que les régulateurs statuent sur la posture à adopter, un contenu peut déjà avoir cumulé des centaines de millions de vues. Malgré ça, les plateformes ont elles-mêmes ont leur part de responsabilité dans cette circulation selon Béatrice Damian-Gaillard.
Reproduction quasi infinie
À cela, s’ajoute la capacité de reproduction quasi infinie de ce type de production: pas besoin de matériel, pas d’équipe, pas de budget. Un accès à quelques outils d’IA suffit. Bloquer un compte ne sert à rien: les vidéos sont reprises, copiées, redistribuées par des dizaines d’autres comptes en quelques heures comme le souligne Emma Razafimahefa.
«L’Île de la Skibidi Tentafruit» n’est pas un phénomène isolé. Même si la tendance semble déjà s’essouffler, elle annonce quelque chose de plus large: l’émergence de contenus viraux générés par IA, faciles à produire, rapides à diffuser et capables de reprendre des codes pour faire passer des idées.
Que ce soit en France ou plus globalement dans le monde — le phénomène inquiète tout autant le Québec —, on constate une tendance de fond: les outils sont de plus en plus accessibles et permettent d’aller toujours plus loin dans la création, notamment l’intelligence artificielle est considéré par beaucoup comme un phénomène similaire à l’émergence de l’internet ou chacun s’en servira de la même manière, les plateformes sont peu incitées à modérer ces contenus qui génèrent de l’engagement et donc indirectement des revenus. Dans le cas présent, l’IA fait office de vecteur de diffusion massive de ces représentations stéréotypées.
«L’IA ne crée pas de nouvelles idéologies. Elle accélère et amplifie celles qui existent déjà dans les données qui la nourrissent», conclut Pénélope Daignault. Les biais sexistes présents dans les contenus culturels sont reproduits à grande échelle dans des formats adaptés aux préférences algorithmiques des plateformes, jusqu’à donner l’impression que ces représentations sont naturelles, légitimes, normales.
Pour Jules Poulain-Welter, en attendant que les cadres législatifs rattrapent leur retard, la solution se trouverait dans notre éducation: «une chose reste accessible: s’éduquer sur ce qu’est un contenu généré par IA, savoir le détecter, comprendre ce qu’il reproduit». Ce n’est pas une solution définitive. Mais c’est un point de départ à ce qui finira peut-être par s’imposer définitivement dans nos quotidiens: un contenu généré par intelligence artificielle à des fins exclusives de divertissement.
