À moins que vous ne viviez au fond d’une grotte, vous n’avez pas pu passer à côté des dernières applications d’Intelligences Artificielles, d’abord en bruit de fond avec Dall-E, puis en novembre avec l’arrivée fracassante de Midjourney et, maintenant, ChatGPT, cette IA qui est capable de tenir des conversations, en tout bien tout honneur. Étonnements, peurs, questionnements, opinions, il est temps de faire un petit tour d’horizon.

C’est quoi, une IA ?

Intelligence Artificielle, IA, AI, deep learning, apprentissage par renforcement, réseaux de neurones, algorithmes génétiques pour les termes barbares, Midjourney, Dall-e, Stable Diffusion, ChatGPT (prononcez « djipiti »), Watson, AlphaGo pour les stars entraînées par les plus grandes firmes, la multiplication des termes fait tourner la tête. Mais il ne faut pas avoir peur du premier mot énoncé dans ce paragraphe : intelligence. Ici, et pour l’instant encore, il n’est pas question de l’intelligence au sens où nous le concevons tous les jours et qui fait la part belle aux romans de science-fiction, cette forme de conscience qui pourrait se révéler dangereuse dans ses désirs et ses besoins que l’on appelle « Intelligence Artificielle Forte », le Saint Graal de la recherche sur les IA. Mais, heureusement pour l’humanité, nous n’en sommes pas encore là.

Dans le cas qui nous intéresse, le terme intelligence c’est le « traitement-de-l’information-plutôt-futé-qui-n’a-pas-été-proprement-créée-par-un-être-humain ». Cette Intelligence Artificielle, dite Faible, est un algorithme comme un autre mais, comme votre cerveau, il s’agit d’un algorithme un peu plus spongieux et mou que ceux que l’on a l’habitude de voir ou de créer dans l’industrie du développement d’application.

Spongieux et mou, cerveau, réseaux de neurones ? Humour ? Non. Les chercheurs et chercheuses et leurs collègues de l’ingénierie aiment beaucoup s’approprier des mécanismes de la Nature, cet être anthropomorphique qui joue depuis toujours avec le hasard. En outre, les « problèmes » que l’on propose de résoudre avec ces IA ne sont pas vraiment compatibles avec la vision binaire habituelle des ordinateurs pour qui, en dehors des 0 et des 1, point de salut.

« Ça ressemble plus à un chat qu’à un chien »
« Habituellement ce coup aux échecs a plus de chance d’apporter la victoire que ce coup là »
« On dirait bien qu’il y a quelque chose d’anormal dans cette image ».

Réagir en fonction de probabilités, c’est ce côté un peu mou qui est recherché afin de permettre de réagir au plus grand nombre des possibles tout en essayant au maximum de réduire la complexité du problème à résoudre.

Par ailleurs, une intelligence artificielle ne sort pas ex nihilo de l’esprit d’une équipe de développement, il y a d’abord une phase d’absorption d’informations, de sélection, d’apprentissage où les « prémices » d’une IA sont confrontés à des mécanismes impitoyables de reproduction, de génétique, d’analyse, un peu comme pour les neurosciences et la sélection naturelle. Il n’est toutefois pas question encore une fois ici de biomimétisme, c’est tout simplement une façon naturelle de travailler. De fait, l’apprentissage, le renforcement, sont des mécanismes que nous connaissons à notre niveau, nous transformant, nous aussi, en éponge.

Issus de ces apprentissages et d’une sélection impitoyable, nos IA sont donc maintenant capables de nous battre aux échecs ou au jeu de go, de faire de jolies images et des textes syntaxiquement corrects, voire, avec quelques artifices, de tenir des conversations ou encore, et c’est pour le mieux, de détecter des tumeurs sur des radios. Alors on est aujourd’hui en droit de s’interroger, faut-il continuer à faire des études de médecine pour sauver les gens d’un cancer ? Ou encore, y-a-t-il un espoir de percer dans le monde artistique si l’on peut demander à une IA de faire un dessin sur demande ?

« Le Terminator de nos métiers »

Rassurez-vous, le spectre d’un Skynet, conscient, qui se retourne contre l’humanité, reste encore, pour l’heure, du domaine de la science-fiction, le reste ne serait qu’erreur humaine. Non, les IA qui émergent aujourd’hui ne sont pas conscientes et elles ne font des choses que parce que les humains les y autorisent. Mais tout cela n’empêche pas d’autres peurs d’émerger du tréfonds de nos cerveaux prompts à voir tous les dangers dans les nouveautés qui arrivent, à tort ou à raison.

Aujourd’hui, les domaines d’activités qui se sentent, à juste titre, en danger, sont les domaines du graphisme, de la communication et… du développement. Et cette peur n’est pas sans fondement, on a appris, en décembre dernier, qu’une maison d’édition avait choisi d’utiliser une création d’IA en couverture d’un roman1. L’argument avancé de la concurrence déloyale est fondé.

Malgré tout, il reste une incompréhension ici entre l’homme et la machine. Que ce soit du code, une peinture ou un texte généré par une IA, cela n’enlève pas le jugement de qualité par un être humain. Oui, la photographie a mis au chômage les portraitistes, cela a-t-il mis fin à toute forme de peinture ? Il est sain d’avoir peur pour son gagne-pain quand il est de plus en plus difficile d’avoir une situation stable, et se voir confronté à la concurrence d’une IA qui pond des images à la demande, en quelques secondes, tel un stakhanoviste sous stéroïde, est quelque peu décourageant.

D’un autre côté, de nouveaux « métiers » de prompteurs, autrement joliment dit des personnes qui murmurent à l’oreille des IA, apparaissent, leur talent réside en la compréhension du fonctionnement de ces IA afin de les guider vers le résultat souhaité. Cela n’invalide absolument pas la peur légitime des personnes qui se sentent dépossédées de leur art, et si déjà les illustrateurs et les scénaristes sont au courant, il y a fort à parier que l’ensemble de l’industrie du divertissement, en passant par les acteurs, les compositrices et autres accessoiristes voient à leur tour leur avenir s’assombrir tant les capacités de calcul vont permettre, dans un court avenir, de composer plus facilement de la musique ou de remplacer des acteurs voire de créer des scènes entières sans leurs concours. Et ce n’est qu’un exemple parmi d’autres puisque le champ d’activité des IA s’étend de jour en jour, allant de la recherche sur les protéines jusqu’à l’innovation architecturale…

Mais au fond le problème vient-il de l’IA ou de notre accès à une vie décente ?

Efficacité et Usages

Il semble plus facile d’accepter d’une IA qu’elle nous batte aux échecs ou au jeu de go2 car l’humain sent bien que la combinatoire de ces jeux est en faveur de la machine, et quand bien même une IA serait plus forte que les humains à ceux-ci, cela ne les empêche pas de s’affronter afin de chercher le potentiel de l’être humain qui, malgré tout, aura pu créer un outil qui lui est supérieur sur bien des aspects. En revanche, l’arrivée de ChatGPT, et de ses co-intelligences, nous interpelle un petit peu plus car nous avons l’impression qu’elle touche un petit peu plus à ce qui nous caractérise en tant qu’être conscient : la subtilité, la compréhension, l’échange, la créativité. Mais il faut comprendre leur fonctionnement pour se rassurer un peu et se dire que, sur ces domaines, ces dernières feront de bons assistants mais, pour l’instant, elles ne sont pas capables de nous évincer. Ce qui fait la force des IA qui nous vainquent sur les jeux stratégiques, ce n’est pas tant la force de calcul que la brutalité de l’expérience acquise : l’IA peut jouer contre elle-même rapidement, très rapidement. L’IA qui a vaincu Lee Sedol avait « seulement » joué une trentaine de millions de partie, ce qui en temps humain équivaut à plus de 3500 années de jeu non-stop3. En revanche, la tâche de nos compères créatifs est bien plus subtile à mesurer, puisque ce sont nos sentiments, notre intelligence qui sont mesurés et non la qualité et la diversité d’un jeu. Et à ce jeu, ce qui les rend digne d’être des assistants et non des maîtres, c’est que ces IA ont plus appris à nous « manipuler » qu’à nous répondre. En effet, l’être humain mesure l’efficacité de l’IA avec ses biais, son sens du beau, son sens du vrai, cependant une IA vous répondra ce qu’elle vous répondra non pas pour l’amour de la vérité, mais pour réussir à avoir un pouce bleu un bon score d’acceptabilité, ce qui n’est pas forcément la bonne méthode pour éclairer les faits de vérité mais reste assez intelligent pour survivre une semaine de plus… Le rapprochement avec le corps politique et sa vision court-termiste électoraliste est tout proche : plaire à la personne qui demande et non lui répondre correctement, tel est son credo.

Ethique et morale

Que ce type d’intelligences artificielles faites pour s’approcher du comportement humain aboutisse à un comportement de tromperie est un problème en soi. En effet, le monde n’est pas constitué que de gens vertueux qui n’essaient que de faire le bien autour d’eux. Le fait que ChatGPT soit capable de générer des textes ayant un trait de véracité rien que pour ceux qui l’interroge permet, de fait, de créer des contenus vraisemblables, et à une vitesse folle, parfaitement adaptés pour les « spécialistes » de l’hameçonnage, de l’usurpation de l’identité et autres spammeurs.

L’utilisation à bon escient est l’un des problèmes que la science essaie de résoudre par le biais des mécaniques de renforcement humain et d’une « scolarisation » des IA pour les rendre moralement justes, mais ce n’est pas ce qui est le plus facile, et cela l’est d’autant moins que cette même recherche a, elle aussi, des problèmes quant à sa propre éthique. Les problèmes principaux rencontrés aujourd’hui tournent autour des sources de données, de leur labellisation et des personnes qui s’occupent d' »éduquer » ces jeunes pousses numériques.

Pour éduquer les IA, pour les nourrir, la somme des données utilisées est gigantesque. Pour l’entrainement d’IA génératrices d’images, on utilise allègrement des bases d’images, de photos, de dessins, de peintures, soit des milliards d’objets4. Ces banques d’images ratissent large, elles aspirent des sites puis labellisent le contenu et ne s’occupent qu’après, si elles s’en occupent, de la gestion des droits d’auteurs. Et quelque soit votre (et notre) opinion sur le sujet, c’est important, ne serait-ce que d’un point de vue légal.

Sur ces banques d’images, des messages d’alerte fleurissent pour indiquer que ce « problème » est en cours de résolution, et qu’il serait sage de ne pas laisser ces applications d’ IA ouvertes et accessibles tant que ce n’est pas résolu, mais il semblerait que pour certaines autres banques d’images, ce côté légal ou éthique soit mis de côté au nom du progrès. Droits d’auteur, RGPD et autres législations seraient alors considérés comme des adversaires du progrès. Par ailleurs, que devrions-nous penser si une banque d’images copyleft (réutilisation et évolution possible en gardant la même licence) était utilisée dans le cadre de l’entrainement d’une IA potentiellement payante ? D’un autre coté, est-ce qu’un peintre s’étant éduqué en étudiant des œuvres exclusivement disponibles dans des musées payants ou des manuels hors de prix ne serait pas dans une situation similaire ?

Quant à l’utilisation à bon escient de la technologie, ce problème peut se résumer à la maxime Quis custodiet ipsos custodes ?5 (Qui me gardera de mes gardiens ?) Ces IA, on l’a vu, sont éduquées « moralement » pour éviter tout débordement qu’ont connu leurs aînées par le contact non contrôlé avec un public de trolls. Ces gardiens imposent donc une vision fatalement biaisée de leur morale à des IA qui feront en sorte de la respecter. Et ce biais permet possiblement de perpétuer des mécanismes de pensées, en plus de déjà perpétuer, voire d’amplifier, d’autres biais liés aux genre, sexe, religion, couleur de peau, issus des données. Ces mêmes données peuvent en outre être noyées à dessein par de l’information de piètre qualité pour contrebalancer des faits importants, justement quand on touche à cette notion précieuse de vérité. C’est ce qui rend le travail encore plus difficile pour ces éducateurs dont le métier apporte de nouvelles souffrances, tant une IA amorale peut générer comme horreurs6.

Bien entendu, l’entrainement de ces « êtres » numériques demande du matériel et de l’énergie. Heureusement, la gestion de la consommation de ressources est rentrée dans nos mœurs et est aujourd’hui bien plus mesurée7 et raisonnée, l’entrainement des algorithmes, qui est plus coûteux que l’utilisation unitaire, doit s’effectuer dans un centre de calcul alimenté par une électricité décarbonée.

Le dernier point, et peut-être le plus important quant à la naissance de certaines IA, réside dans la pertinence de leurs usages. Passer de la génération d’image, de texte, voire de vidéos, à la prise de décisions, qui pour aider la police, qui pour aider la justice, qui pour aider l’armée, est très tentant… Et c’est sur les limites à ne pas dépasser que la science-fiction nous met en garde. « Si les machines ne doivent pas être tenues responsables, alors elles ne doivent pas prendre de décision de gestion8« . C’est pourquoi la recherche doit faire attention aux projets qu’elle lance en incluant des comités d’éthique sur le sujet, et les industriels doivent en faire autant, afin de ne pas s’aventurer sur un chemin où un être humain ne serait plus « nécessaire » pour faire du mal à l’un de ses semblables ou à une communauté, où l’IA serait « trop » libre.

S’en sortir

« On va nous remplacer et en plus les méthodes pour le faire ne sont pas des plus vertueuses ».

Est-ce la fin de l’histoire ? Doit-on tirer un trait sur des assistants qui peuvent faciliter notre travail ? Doit-on surréagir et les bannir de notre sphère d’action ? Le fait est que ces IA existent, elles ne disparaîtront pas comme ça. Alors il serait sage d’introduire l’éthique et la morale qui pouvaient manquer jusque là.

La recette est simple : l’ouverture et la transparence.

Tant dans la recherche que dans la mise à disposition, il faudra impérativement faire preuve de précision et de justesse autant dans les sources d’apprentissage que sur les méthodes et la mécanique de labellisation et de renforcement, quitte à demander de l’aide aux différentes communautés qui souhaiteraient bénéficier des avantages de ces futurs assistants. Il faudra bien entendu permettre la réplication et l’utilisation autonome des modèles déjà entraînés ou des projets en cours de développement. En ce sens, l’équipe derrière « Stable Diffusion » a publié le code source9 et le modèle de son IA proposant de la création d’image numérique.

Les IA ne sont que des algorithmes un peu plus sophistiqués que la moyenne, et même s’il n’est pas nécessaire de savoir coder pour les comprendre, il est important de savoir que ça existe.

Nous vous invitons donc, avant d’émettre un avis tranché à leur sujet, à vous approcher de ces technologies pour « jouer » avec afin de pouvoir comprendre par vous-même leurs usages ET leurs limitations mais aussi pour pouvoir vous prémunir de manipulations. Un « c’est vrai parce que je l’ai lu/vu sur internet » ne doit pas se transformer en « c’est vrai, c’est ChatGPT qui me l’a dit ».

Oui, une personnalité politique vous promettrait parfois la lune pour avoir votre soutien, une IA aussi.

D’ailleurs, l’IA ChatGPT le dit elle-même mieux que personne :

farlistener :

Bonjour, as-tu des biais cognitifs ?

ChatGPT :

En tant que modèle de langage développé par OpenAI, je n’ai pas de sentiments, d’émotions ou de perceptions, donc je ne suis pas soumis à des biais cognitifs dans le sens traditionnel. Cependant, il est important de noter que tous les modèles de langage formés sur des données dépendent en partie des biais présents dans ces données, donc il est possible que mes réponses reflètent des biais implicitement appris à partir des données d’entraînement. C’est pourquoi il est important de toujours examiner les réponses des modèles de langage avec un esprit critique et de les vérifier avec des sources fiables.

1 : Une couverture de roman générée par une IA suscite le mécontentement Retour au texte2 : et encore, quand on voit que le meilleur joueur de go au monde a préféré quitter le navire Retour au texte3 : si on compte une durée moyenne d’une heure par partie Retour au texte4 : ici une base de 5 MILLIARDS d’images Retour au texte5 : Parce que de temps en temps une locution latine ça fait classe Retour au texte6 : ChatGPT : derrière la magie, l’horreur pour des travailleurs kenyans payés une misère pour l’expurger des contenus violents Retour au texte7 : Consommation énergétique de l’utilisation de l’IA Retour au texte8 : https://twitter.com/bumblebike/status/832394003492564993 Retour au texte9 : le code source de Stable Diffusion est public Retour au texte

Avis au Pirates et camarades des Pirates de France,

Dans les mois et années qui viennent, nous allons avoir plus que jamais besoin de votre aide et de votre participation au sein de notre organisation politique.

Samedi 28 janvier dernier, le Parti Pirate International choisi une de nos porte-paroles, Florie MARIE, comme Présidente.

Nous, Pirates, n’y étions pas du tout préparés, cela s’est joué à la dernière minute et sur le fil, c’est complètement inattendu et croyez bien que c’est une énorme surprise.
Surprise parce que 48h avant cette élection il n’était pas du tout question qu’elle y présente sa candidature.
Surprise parce que depuis plusieurs années, nous, les Pirates français, avions pris nos distances avec l’organisation Pirate internationale que nous considérons, malgré les personnes exceptionnelles qui l’animent depuis des années, comme verrouillée et moribonde.
Surprise parce que c’est avec le soutien notamment du Parti Pirate Allemand, qui est aujourd’hui encore le plus gros Parti Pirate du monde en nombre d’adhérents, que nous avons fait une entrée fracassante et par la plus grande porte dans le bureau du Parti Pirate International dans lequel nous n’avions plus mis les pieds depuis plusieurs mois, voire années.
Surprise aussi parce que cette entrée ne s’est pas faite si simplement que cela, en face de nous il y avait des représentants de la vieille garde du Parti Pirate, ceux que nous considérons comme les fossoyeurs de notre organisation.

En prenant la présidence du Parti Pirate International, nous nous sommes offert une opportunité sans précédent de faire rayonner, à travers le monde, le modèle organisationnel que nous avons choisi d’adopter en France il y a 5 ans maintenant. Un modèle horizontal, non hiérarchique, démocratique, équitable et réactif en démocratie délégative1.

Mais la tâche qui nous attend sera longue et fastidieuse. Nous allons devoir plus que jamais nous rassembler et travailler ensemble sur les projets que nous sommes en train de mener et sur ceux à venir, que ce soit en France ou au niveau mondial.

En France d’abord, nous devons mener à leur termes les différents projets entamés, certains sont plus avancés que d’autres :

La Boutique qui devrait bientôt ouvrir ;
Le Week-End du Parti Pirate (#WEPP) qui aura lieu du 14 au 17 avril à Strasbourg ;
La mise à jour du Programme2 qui est un gros travail permanent qui nécessite toute l’aide possible des Pirates et de leurs soutiens afin de le rendre cohérent et aussi complet que possible ;
Les retours d’expérience des membres sur l’organisation interne34 : ces retours sont précieux car ils nous permettront de poser des arguments solides lors de la présentation de notre modèle organisationnel au niveau international à travers notamment la rédaction d’un livre.

Sur la scène internationale ensuite, nous allons entamer différents chantiers qui seront assurément beaucoup plus longs. Nous avons, à court terme, tout un travail de communication interne et externe à reprendre pour permettre à toutes les organisations de dialoguer entre elle et de faire circuler les informations. Il s’agira notamment dans un premier temps de déployer des outils d’échange et de partage accessibles et rapides à mettre en œuvre. Nous avons également besoin, à moyen terme, de consolider un socle de valeurs communes afin de donner aux membres des Partis Pirates autour de la planète des références de base sur les idées portées et défendues par nos organisations. En France, nous avons notre Code des Pirates, il est temps que ce code rayonne lui aussi. Enfin, sur un plus long terme, nous entamerons une grande réforme statutaire qui devra nous mener vers l’organisation équitable et transparente que nous aspirons voir émerger. Il va de soi que pour réussir à mener ces projets, nous aurons besoin des talents de traduction de toutes les personnes volontaires.

C’est pour mener à bien ces projets, et d’autres encore, que le Parti Pirate français a besoin de vous aujourd’hui. Nous avons du pain sur la planche et besoin de toutes les forces vives, et pour accueillir au mieux ces forces vives, nous avons aujourd’hui déployé différents outils :

Les formations Mousse et Flibustiers qui sont dispensées très régulièrement, sur demande auprès de l’équipage formation et du Conseil de Vie Interne ;
Le git du Parti Pirate qui nous permet de travailler efficacement et en collaboration sur les contenus du site du Parti Pirate ;
Les équipages thématiques, projets et géographiques qui permettent à chaque Pirate de s’investir selon ses aspirations ;
Des réunions de travail très régulières et ouvertes à la totalité des membres du Parti Pirate, notamment sur la communication de notre organisation tous les lundis soirs à 21h.
Les lettres d’informations internes et externes qui nous permettent de communiquer aux membres du Parti Pirate les projets et événements en cours et à venir.

Notre organisation n’est pas parfaite, mais le chemin parcouru depuis l’adoption de nos statuts actuels en 2018 nous a permis d’apprendre de nos erreurs et de nous organiser au mieux pour que chaque membre puisse s’intégrer pleinement dans l’organisation, à son niveau et selon ses disponibilités.
Il est temps maintenant de rassembler toutes les personnes volontaires et disposées à aider notre organisation à mener ces chantiers à leur terme. Autrement dit, si vous attendiez le bon moment pour adhérer et vous engager à participer aux projets du Parti Pirate, ce moment c’est maintenant !

1 : https://partipirate.org/organigramme Retour au texte2 : Lien vers le programme du Parti Pirate Retour au texte3 : https://discourse.partipirate.org/t/appel-a-temoignage-votre-experience-du-parti-pirate/32440/ Retour au texte4 : Lien vers le sujet du forum : Appel à témoignage – Votre expérience du Parti Pirate Retour au texte