Alors que Paris accueillait un sommet international sur l’intelligence artificielle qui a fait grand bruit, des chercheurs, des enseignants, des artistes, des auteurs, des philosophes, des créateurs, des comédiens ont choisi de se réunir pour réfléchir à Un humanisme de notre temps. L'ATAA y était, pour s'informer, écouter les témoignages, réagir et échanger avec les intervenants et les spectateurs. L'enjeu, l'urgence, nous dit Éric Sadin, philosophe et organisateur de l'événement, en préambule, est de "démonter la doxa", de dévoiler la grande supercherie. Alors c'est parti.

Dès la première table ronde, Guillaume Pitron, journaliste, rappelle ainsi que l'IA, présentée comme virtuelle et immatérielle, a en réalité des effets matériels tout à fait concrets, délétères pour l'environnement, la situation géopolitique et les droits de l'homme. Son développement n'est pas gratuit, il représente un coût considérable du fait de l'extraction de métaux rares, de la consommation d'énergie et d'eau des centres de données et serveurs, de la pollution qu'il génère. Au Congo, par exemple, le coltan est souvent extrait du sol par des enfants, dans un climat de tension et de pression favorables à la violation de droits fondamentaux. Les enjeux financiers sont tels que l'équilibre politique de toute la région, déjà précaire, est totalement bouleversé.

Corentin de Montmartin, directeur pédagogique à l’Institut supérieur de l’Environnement, rappelle qu'une requête par IA est 10 fois plus consommatrice d'énergie qu'une requête numérique classique, elle-même très consommatrice. On peut alors se demander s'il est cohérent de consommer des milliers de litres d'eau pour générer les sous-titres de synthèse de la dernière vidéo qui fait fureur sur les réseaux sociaux.

Dans le domaine de l'éducation, le constat est tout aussi glaçant : imaginez un monde avec des cours préparés avec IA, des exercices conçus par IA, auxquels les élèves répondent en utilisant l'IA et qui seront corrigés par une IA... Inutile d'imaginer, c'est déjà en marche. Pourtant, "des études le prouvent, l'apprentissage du langage n'est possible que lorsqu'il y a une interaction interpersonnelle," nous dit Béatrice Laurent de l'UNSA. Stéphanie Vanssay, conseillère nationale pédagogie et numérique, rappelle, elle, que la contradiction est un élément central de l'apprentissage, et que l'IA en est dépourvue.

Le monde d'aujourd'hui fait donc travailler des enfants et déclenche des conflits, au Congo ou ailleurs, pour priver toute une génération de toute possibilité d'apprentissage... On touche le fond ? Pas encore.

Parce que ceux qui ont déjà fini leurs études ne sont pas plus épargnés. Dans le monde du travail, dans le secteur public comme privé, l'IA est toujours utilisée comme prétexte à une réduction des coûts et à une dégradation des conditions de travail, au motif de répondre à des besoins souvent inexistants. Par exemple, le système de communication par email, mis en place en son temps par l'ANPE, n'était pas utilisé. On a donc fermé les agences le vendredi pour que les usagers soient contraints d'y recourir, nous raconte Sandrine Larizza de France Travail. "Plus on automatise, plus les usagers ont besoin de nous," poursuit-elle. La demande d'échanges dématérialisés est inventée, provoquée artificiellement. Habib El Kettani raconte, lui, comment, dans son entreprise de veille média, la seule possibilité du remplacement des humains par de l'IA pour réaliser des revues de presse a engendré la délocalisation de 160 emplois à Madagascar. Peu importe que le remplacement n'ait pas eu lieu car l'outil de synthèse n'a pas fonctionné aussi bien que les hommes, le coût du travail en France n'était plus assez compétitif comparé à celui d'une IA, même non fonctionnelle. Pour conserver les clients, il a fallu délocaliser les emplois. Voyons les choses en face : on dégrade les conditions de travail pour répondre à des besoins qui n'existent pas avec des moyens inefficaces.

Et l'IA a encore faim, elle se déploie de manière intensive dans l'écriture. Des revues de presse, des publications, des résumés, des scénarios, des romans sont aujourd'hui produits totalement ou partiellement avec de l'IA. On fournit au lecteur ce qu'il a envie de lire, ses positions et ses goûts sont renforcés, légitimés mais jamais nourris, avec un effet direct sur la montée des extrêmes. Le débat ou même la discussion ne sont plus possibles. En traduction, nous dit Pauline Tardieu-Collinet, traductrice membre du collectif En Chair et En Os, repasser derrière le travail de la machine est abrutissant et plus long que de traduire directement. Laura Hurot, traductrice membre du collectif IA-lerte générale pointe un autre danger : celui des textes sensibles de l'industrie, comme de l'industrie nucléaire, traduits par certaines agences qui utilisent l'IA. Autre écueil, les investissements sont faits en anglais et chinois, poursuit Tomás Pereira Ginet-Jacquement, interprète, ce qui pourrait entraîner l'extinction des langues les moins utilisées.

Dans le domaine de la création graphique, l'idée que l'IA serait un outil comme un autre, un progrès technique comme un autre, est pourtant démontée par l'expérience. L'informatique a été disruptive en animation avec la 3D, nous dit Jean-Jacques Lonni, auteur dans l'animation. "L'IA est un bouleversement d'un autre ordre : elle transforme le créateur en agent vérificateur. Elle est liée à une exigence de productivité dans la création." La machine produit un contenu textuel, sonore ou visuel, que le créateur doit contrôler ou, dans le meilleur des cas, améliorer. On ne crée plus des œuvres par nécessité ou vision humaniste, on produit des contenus moyens pour tirer profit d'un consommateur moyen, plus vite, plus, et moins cher. Paps Lefranc, directeurice de production, complète :"l'IA n'augmente pas les possibilités créatives, elle prétend remplacer le processus de création". Ce n'est pourtant pas "parce qu'on peut produire plus qu'on a besoin de plus", ajoute Frédéric Maupomé, dessinateur auteur de BD. Même constat dans le domaine musical où Bertrand Burgalat, musicien, déplore que "l'IA crée une illusion de perfection qui tord les habitudes de perception." On s'habitue à voir, à lire, à entendre standardisé.

Ce qui se joue, complète Éric Sadin, c'est l'hégémonie culturelle : les modèles des plus puissants seront déployés, multipliés, imposés par la force ou la quantité.

Non, nous répondra-t-on, car on s'emploie à créer des modèles variés, et des modèles français. Peu importe qu'il faille pour cela recourir, comme le font tous les modèles d'IA, à des travailleurs du clic, de préférence dans des pays en voie de développement, qui classent et trient à longueur de journée des contenus dans des conditions déplorables et aliénantes. D'ailleurs, comme l'a montré Stéphanie Le Cam, maître de conférences sur le droit de la propriété́ intellectuelle, le traitement fiscal et social prévu au pays de Beaumarchais pour les artistes et auteurs, pensé pour les protéger, les préserver, est aujourd'hui utilisé par les producteurs de synthèse. En clair, les aides et dispositifs mis en place pour protéger ces personnes fragiles sont utilisés pour des développements qui ont pour finalité de les remplacer. On marche sur la tête, direz-vous ? C'est manifestement un nouveau mode de transport. Car ces entreprises de l'IA se voient aussi accorder quelques milliards pour leurs développements. Et au cas où ça ne suffirait pas à alimenter leur réussite, elles utilisent aussi une quantité vertigineuse de données et de créations, gratuitement, librement. Comment ça ? Parce qu'en 2019, une directive européenne a ancré la possibilité d'une exception à la protection du droit d'auteur pour autoriser la "fouille de texte et de données ". Le principe de l'opt out, prévu comme garde-fou, offre une protection toute théorique. L'opt out, c'est la possibilité pour le créateur de signaler qu'il s'oppose à l'usage de son œuvre, à défaut de quoi cet usage est libre : on peut en théorie utiliser une création pour n'importe quel usage, et sans aucune compensation financière, à moins que son auteur s'y oppose. Vous imaginez Bernard Dupont contre Open AI ? Le créateur individuel qui, parce qu'il a écrit "opt out" quelque part dans sa création, assigne une entreprise d'IA en justice pour plagiat, pour violation de sa propriété intellectuelle ? Non ? Nous non plus... Il est donc nécessaire et urgent de remettre en cause ce principe d'opt out et de faire basculer la charge de la responsabilité sur les moissonneurs - c'est le terme qu'ils emploient eux-mêmes pour l'usage des créations humaines à des fins d'entraînement d'IA. L'opt in doit être rétabli : pour utiliser une œuvre à des fins d'entraînements d'IA, il faudrait alors l'accord explicite et formel du créateur de l'œuvre. À défaut d'accord, cet usage serait interdit. Et nous marcherions de nouveau sur nos pieds.

À l'échelle individuelle, tel un colibri, ce que nous pouvons faire, c'est questionner le prix des produits synthétiques, sortir de la concurrence déloyale actuelle, poursuit Stéphanie Le Cam. Les coûts sociaux, environnementaux, éthiques, les coûts d'usage de créations existantes, devraient être intégrés au prix des œuvres synthétiques. Arrêter de voir par notre lorgnette immédiate de consommateur et avoir l'honnêteté de regarder l'ensemble des coûts réels qui devraient constituer le prix de ce que nous utilisons. Être des consommateurs citoyens, en somme. Chacun sait aujourd'hui qu'en commandant par internet, en un clic sans effort, un produit livré chez lui le lendemain, il alimente une machine consumériste dévastatrice à bien des égards. Que le faible prix immédiat de son achat cache en réalité un coût social, environnemental et éthique vertigineux. Pourquoi en serait-il autrement pour les œuvres de l'esprit ? Peut-être que la citoyenneté commence ici par entendre que quand on dit "grâce à l'IA", cela veut en réalité dire grâce à cet enfant congolais martyrisé et exploité pour extraire du coltan, et grâce aux personnes dont la maison a été emportée par une inondation du fait du dérèglement climatique, et grâce aux travailleurs du clic, qui trient toute la journée des montagnes de données pour quelques dollars, et grâce à tous ceux dont les créations humaines ont été un jour publiées, diffusées, écoutées. Ils pensaient nourrir l'humanité, c'est la machine, qu'ils ont nourrie. Elle a ingéré, agrégé, compilé, pour régurgiter une pensée tiède, unique, standardisée, rabâchée.

Vous voyez un progrès dans tout ça, vous ?

Pour aller plus loin :

- articles du blog de l'ATAA

Y a pas d'art dans l'IA

Deauville, le retour (des sous-titres calamiteux)

IAG et traduction

IAG et traduction - la post-édition

IAG et droit d'auteur, l'opt-out et l'opt-in

- collectif En Chair et En Os, pour une traduction humaine

https://enchairetenos.org/