Un dangereux outil de démocratisation ≈028
L'IA va sérieusement secouer nos sociétés, moins du fait des mauvais usages qu'on peut en faire, qu'en raison de son potentiel démocratisant d'accès à la connaissance et à la communication.
2 milliards de personnes vont voter dans le monde en 2024 et les craintes fleurissent sur les actions que certaines puissances ne manqueront pas d’engager contre les processus démocratiques en s’appuyant, notamment, sur l’intelligence artificielle. Vraie question que l’on peut espérer résoudre techniquement avec des standards sur la "provenance et la détectabilité" des informations en circulation.
Super ! Sauf que c’est un trompe-l’oeil qui empêche de voir le problème de fond : l’IA est d’abord un surpuissant outil de démocratisation qui nous permet - à un plus grand nombre qu’avant - de mieux connaître, et dans une certaine mesure comprendre, le monde ainsi que d’échanger ce que nous découvrons, apprenons, pensons ou imaginons. C’est de ce potentiel que viendrons les crises les plus importantes et les plus longues.
Vous en doutez ? Permettez-moi un petit détour par l’imprimerie de Gutenberg.
« Ceci tuera cela »
La question de l’outil qui bouleverse un monde est tranchée par Victor Hugo dans Notre Dame de Paris dont l’intrigue est située à la fin du XVème siècle. Sous le titre « Ceci tuera cela, » il y met en scène le prêtre Frollo qui s’inquiète devant un livre imprimé dont il comprend qu’il finira par remplacer les sculptures des cathédrales, jusqu’alors la façon la plus sûre de transmettre images bibliques et autres informations historiques sur le fonctionnement du monde vu par l’église catholique.
Elizabeth Eisenstein, une chercheuse de l’Université de Harvard s’est penchée, sur les répercussions sociales, économiques, culturelles et politiques de l’imprimerie plus que sur la technologie elle-même, ou les objets qu’elle permet de produire. Pour les mettre en évidence, elle a comparé la société d’avant l’invention et celle d’après.
Eisenstein s’intéresse à la machine comme moyen de transformation globale qui modifie la façon de garder et d’accéder à la connaissance ainsi que les réseaux de communications. Elle parle sans hésiter de « révolution » mais constate que « il fallut au moins un siècle » pour que l’ensemble des changements en profondeur se fasse sentir, par la multiplicité des ouvrages mis à disposition des savants, la standardisation des procédures, la rationalisation.
Deux exemples permettent d’illustrer ce temps long. Achevé en 1530, le livre essentiel de Copernic sur la Révolution des sphères célestes sera très vite connu du pape mais ne sera imprimé que 15 ans plus tard. Sujet, lui aussi, des ires de l’église catholique, l’impact de l’oeuvre de Galilée - né 110 ans après la découverte de l’imprimerie - se fera sentir bien plus vite. La circulation de ses ouvrages permet, en quelques mois, des discussions dans toute l’Europe.
« L’IA est un microscope »
Dans sa newsletter Second Best, Samuel Hammond, fait le même raisonnement en s’inspirant de l’histoire de l’Angleterre pour aborder la situation actuelle en ces termes : "Mon hypothèse de départ » écrit ce conservateur modéré, spécialiste des politiques de pauvreté et d’aide sociale, « est que la démocratisation des puissantes capacités de l'IA sera au moins aussi déstabilisante que l’imprimerie [qui] était également une simple technologie de l'information. Et pourtant elle a conduit à des guerres civiles et à des soulèvements contre l'ordre établi, et a finalement conduit à la consolidation de l'État-nation moderne."
Précisons qu’il ne distingue pas les différents types d’IA mais les prends comme un « package deal » (offre groupée). Pour en faciliter la compréhension il propose une métaphore d’outils de vision- lunettes ou microscopes - qui permettent à une quantité considérable de personnes et d’institutions de voir des « choses » cachées jusqu’à présent. "L'IA est un microscope. Elle augmente la résolution de l'information de l'univers. » Ça a du bon. Mais pas que.
Et comment peut-elle transformer la société sur le long terme ?
Parce qu’elle crée une tension entre sociétés et institutions.
Entreprises et gouvernements sont là parce que l’organisation efficace - de la production comme de la vie politique - passe par la centralisation des processus d’échanges. Selon Ronald Coase, prix Nobel d’économie 1991 nous ne devrions pas avoir besoin de compagnies si le marché était aussi efficace que ne le prétendent Adam Smith et les classiques. Sauf que si chaque fournisseur ou demandeur d’un produit doit chercher, chaque fois qu’il en a besoin, où se trouvent matières premières, compétences ou débouchés - ce qu’il appelle « transactions » - il perd trop de temps. La « firme » pour reprendre le terme original, apparaît comme nécessaire parce que sa centralisation dans une structure hiérarchique permet de coordonner les transactions et de réduire le coûts.
Le potentiel démocratisant de l’IA
Sans le démontrer vraiment, Hammond applique donc le même raisonnement aux États. "Les institutions sont façonnées par les coûts de transaction associés à la négociation et à la coordination, à la recherche et à l'information, ainsi qu'au contrôle et à l'application. Si l'internet a eu un impact sur ces structures de coûts dans une certaine mesure, l'IA à court terme les modifiera probablement de façon spectaculaire, nous éloignant des structures institutionnelles de base que nous avons héritées du début du 20e siècle. »
Hammond souligne la tension entre la société qui, dans les démocraties, repose sur la liberté individuelle - un peu comme le marché - et les gouvernements qui mettent de l’ordre et de la discipline dans tout cela au niveau de l’État-nation - un peu comme les entreprises pour la production. « Dans un monde idéal, nos dirigeants politiques feraient rapidement évoluer nos institutions avec l'IA, en trouvant un nouvel équilibre entre centralisme et décentralisation. » Mais il est loin de l’être comme nous le constatons tous les jours.
Les relations institutions-société n’étant pas les mêmes suivant les régimes politiques, l’auteur rappelle que les dirigeants chinois ont étudié de près le rôle de l’internet et du web dans les révoltes du printemps arabe. Conscients que le potentiel démocratisant de l’IA est susceptible d’entraîner des changements de régime bien plus importants, ils mettent tous les moyens à leur disposition pour utiliser l’IA comme outil de contrôle « à un niveau jamais vu de granularité ».
Et les démocraties dans tout cela ? Hammond en a une vision catastrophiste un peut trop inspirée de certains livres de science-fiction cyberpunk comme Le Samourai virtuel de Neal Stephenson (lecture indispensable). Mais ses inclinaisons idéologiques ne devraient pas nous empêcher de faire attention à la force de son raisonnement. L’imparfait équilibre sociétal obtenu quelques siècles après l’invention de l’imprimerie risque fort d’être radicalement chamboulé par une technologie encore plus démocratisante et plus puissante. « L'IA pourrait conduire vers une société radicalement plus transparente ; ou […] la société pourrait réagir à cette transparence accrue en élevant ses barrières. » Les problèmes de sécurité que nous lions habituellement à l’iA sont « généralement conceptualisés en termes d'effets directs de l'IA, plutôt qu'en termes d'effets indirects et secondaires probables de l'IA sur la société et la forme de nos institutions. Il s'agit là d'un énorme angle mort. »
Aux tendances croissantes à l’autoritarisme que nous constatons un peu partout, il semble nécessaire d’ajouter que "Dès que les gouvernements réaliseront que l'IA constitue une menace pour leur souveraineté, ils seront tentés de la réprimer de manière totalitaire."
Le problème est moins ce que l’IA permet de faire que les conflits que son adoption entraînera. Croire qu’on peut la contenir est une illusion, et la quête continue d’une plus grande connaissance est une dynamique humaine à laquelle il semble difficile de renoncer. Reste, à en rester maîtres… sans trop se raconter d’histoires.