World Wide Web Z - ou l'internet zombie

par JS Peru
IAdéveloppement
World Wide Web Z - ou l'internet zombie

L'idée de ce billet est venue en voulant jouer avec n8n, outil "no-code" d'automatisation très prisé. J'installe une instance sur un hébergement perso. Je crée mon compte, mon mot de passe, je suis assez excité par la perspective, et là je vois sur la home page de mon espace, parmi une petite sélection de workflows suggérés, ceci :

Automatisez la creation de slop music

Automatisez la creation de slop videos

La mise en avant d'un workflow pour générer de la musique d'une part, et de la vidéo "virale" pour TikTok de l'autre.

Mon excitation en prend un coup, à vrai dire. Non pas que la génération de musique ou de vidéo me pose problème. Non, ça peut être assez fun de jouer avec l'IA pour générer des produits culturels. En ce qui concerne la musique, je doute personnellement qu'on arrive à produire des chefs d'œuvre, mais en tout cas ça ne me dérange pas qu'on essaye de le faire.

Non, ce qui me gêne c'est qu'on puisse proposer des workflows pour automatiser la diffusion. Ce qui sous-entend une production EN MASSE, sinon pourquoi automatiser ? Le but n'est pas d'expérimenter, créer de l'art génératif et d'essayer d'y arriver en visant la qualité, mais d'inonder le marché par la quantité, et d'espérer un petit miracle au milieu d'une masse de brouillons ratés (mais quand même publiés).

Arte - L'IA va-t-elle tuer l'internet ?

Et là, oui, ça me fait tiquer. Pourquoi cela ?

Ce qui m'ennuie, ce n'est pas tant que ces workflows n8n existent. Encore une fois c'est un challenge technique qui peut avoir un intérêt intellectuel. On aime tous automatiser des choses.

Ce qui me perturbe c'est la mise en avant de ces workflows par les plateformes. Car on sait que ça ne sera pas utilisé dans le cadre de la recherche, mais dans un but commercial. C'est le peu de réponses qu'ont Amazon, Spotify ou Youtube pour limiter la diffusion. C'est une forme d'encouragement à la production de slops.

Promesse déçue

J'avais choisi l'européen n8n plutôt que Make ou Zapier pour pouvoir le tester sur un hébergement Infomaniak, d'y brancher Euria (un modèle suisse respectueux des données privées) avec une promesse "souveraine" un usage contrôlé, et on va dire, "éthique". Mais en fait, j'ai bien peur que la plupart des usages les plus populaires des outils comme n8n, Make ou Zapier soit de produire du contenu zombie, de façon industrielle et massive.

J'ai repensé au documentaire allemand diffusé sur Arte L'IA va-t-elle tuer Internet ? qui traitait de ce phénomène. On le présentait comme une pandémie qui s'abattait sur le monde, absolument partout, que ce soit dans la génération de livres sur Amazon, de chansons sur Spotify, de vidéos sur Youtube, mais aussi de posts et de commentaires sur l'ensemble de nos réseaux sociaux préférés.

Cette production massive de contenu n'est pas si éloignée, au fond, des spams, des scams, des arnaques en général qui sont elles aussi produites dans des proportions hallucinantes. Le but est d'inonder le marché, avec beaucoup de pertes, et espérer qu'un tout petit pourcentage de clics suffise à rentabiliser à la fois le risque pris et les coûts engagés dans l'arnaque.

Arte - L'IA va-t-elle tuer l'internet ?

L'internet zombie

Une invasion de bots, un tsunami de contenu généré qui pose question, non pas par sa nouveauté (j'y reviendrai mais on se bat contre les bots depuis le début de l'internet grand public), mais par son ampleur. Dans le documentaire on prend conscience que le nombre de chansons, livres, vidéos, articles, discussions générées par IA est en train de dépasser celui du contenu humain.

On parle d'internet zombie depuis quelque temps (voir la section sources en bas d'article). C'est plus pertinent et moins complotiste que le dead internet et je trouve l'image bien plus puissante et proche de ce qu'on ressent lorsqu'on se balade sur Linkedin par exemple.

On s'y sent cernés par des posts a priori sans vie mais qui bougent quand même, au milieu d'un environnement de base hostile et dévasté, mais a priori calme. Et parfois, dans un accès soudain de violence on peut se retrouver attaqué par des hordes de bots.

Oh, ils ne sont pas bien malins, assez inoffensifs la plupart du temps. Mais vous le savez si vous êtes adeptes du genre, le danger est dans le nombre, mais aussi et surtout au fond de nous, les humains (mode cliché enclenché).

Car oui, on le voit déjà un peu arriver, les gens deviennent suspicieux, voient des bots parfois là où il n'y en a pas et inversement. Bref la confusion règne.

Arte - L'IA va-t-elle tuer l'internet ?

Alors oui, vous me direz, nous ne sommes pas dupes. Nous savons reconnaître pour le moment encore ce contenu généré par l'IA, mais le problème est ailleurs.

  • C'est d'une part la submersion, le nombre, le blitzkrieg et comment nous semblons démunis face à cela.
  • C'est d'autre part non seulement le peu de réaction de la part des plateformes pour contrer ce contenu zombie, mais sa promotion et sa mise en avant.
  • C'est aussi la suspicion qui nous assaille. La confiance qui s'érode entre nous. La confusion qui s'installe.
  • C'est enfin, la qualité future des modèles de LLM, précédemment entraînés sur du contenu humain. Si les slops prennent le pas sur la production humaine, une dangereuse boucle va s'enclencher.

On risque d'avoir non seulement encore plus de contenu débile, absurde, halluciné, des fake news, mais aussi c'est notre chère Intelligence Artificielle qui risque de devenir beaucoup moins brillante.

Sources