La déferlante, ce livre qui me fait changer d’attitude ≈035
Le débat « foncer ou faire gaffe » ne se limite pas à l’IA. Prendre en compte la biologie synthétique, tout aussi capable d’autonomie et de prolifération, permet de mieux aborder les défis du futur.
Ça fait trente ans que j’ai fait de mon rapport avec la\les technologie.s une affaire personnelle à laquelle je consacre l’essentiel de mon activité professionnelle et de ma curiosité, de mes voyages et de mes lectures, de mes interrogations.
Trente ans que je surfe cette vague, en particulier ce qui touche au numérique, aux technologies de l’information et de la communication.
L’enthousiasme du néophyte
Trente ans commencés avec l’enthousiasme du néophyte quand j’ai assisté à une démonstration de la première imprimante 3D capable, alors, de fabriquer un petit Bouddha ou à la présentation de l’iPhone par Steve Jobs et que je l’ai entendu dire « Ce truc change tout ».
Le nouveau était évident, le positif semblait clair et je suis ensuite, pour m’en assurer, parti faire un tour du monde de l’innovation qui m’a permis de me rendre compte qu’elle fleurissait partout tant les gens étaient désireux de participer à la création de leur futur sans attendre ce qui venait de Californie.
Des enquêtes sur les smart cities, lancées pour étudier la relation entre innovateurs et citoyen.ne.s m'ont ensuite permis de comprendre qu’Entre datapolis et participolis (titre d’un de mes livres téléchargeable gratuitement), l’important était la ville, les gens et leur rapport - souvent méfiant, surtout en France - à la technologie.
Retour en Europe. Repli. J’ai pris conscience d’avoir un peu trop forcé le trait dans le sens du positif… pour convaincre. J’entendais la peur et les critiques sans me résoudre à penser qu’il fallait monter des lignes Maginot, des murailles nationales, des refus d’utiliser un téléphone mobile ou de lire des livres sur tablette (je ne comprends toujours pas, mais c’est une autre histoire). Les problèmes, issus des réseaux sociaux par exemple ou des manipulations dont nous sommes l’objet étaient évidents mais je n’ai jamais pu accepter la façon généralement binaire de les présenter : oui ou non, pour ou contre ces nouveaux outils qui changent nos vies.
La secousse ChatGPT
Puis ChatGHPT est apparu, l’intelligence artificielle s’est imposée comme le nouveau « truc qui change tout » et je me suis de nouveau passionné avec, cette fois, la volonté de mieux mélanger curiosité gourmande et perplexité.
Je me suis d’abord opposé à la couverture dominante qui joue sur l’émotion, le sensationnel et ce qui suscite le plus de traffic, la peur (comme le fait encore, cette semaine, la couverture du Point).
Difficulté accrue, pour la première fois, les experts, ceux qui savent ou sont sensés savoir, reconnaissent ne pas toujours comprendre les résultats de leurs belles inventions. Même inquiet, l’observateur ne saurait trancher à leur place.
Et puis nous avons vu se dérouler sous nos yeux l’affaire OpenAI mettant en scène LE conflit qui résume tout, entre une approche éthique et prudente de l’IA (puisque nous ne savons pas très bien ce qu’elle est en train de devenir) et le besoin des grandes entreprises d’aller toujours plus vite et plus loin pour dominer le marché et gagner plus d’argent sans trop se soucier de la casse éventuelle.
Sans surprise, la logique du capital s’est imposée. Mais le problème reste entier. Il est même beaucoup plus sérieux que je ne l’avais imaginé.
C’est ce que j'ai découvert en lisant La déferlante, Technologie, pouvoir et le dilemme majeur du XXIe siècle, un livre qui nous explique de quoi est faite la vague de bouleversements qui s'annoncent en établissant des liens entre différents domaines que nous avons l’habitude d'ignorer ou d’isoler. C'est là que tout bascule.
Mustafa Suleyman, l’auteur principal, est un des acteurs les plus importants de l’intelligence artificielle. Il est un des trois fondateurs de DeepMind l’entreprise créatrice d’AlphaZero capable de gagner aux Go comme aux échecs les meilleurs joueurs du monde, et AlphaFold, le premier programme capable de prédire la structure des protéines. Elle est maintenant intégrée à Google-Alphabet.
La déferlante
Première vertu de ce livre, il situe l’IA dans le contexte d’un ensemble de bouleversements technologiques auxquels elle contribue de façon considérable mais pas exclusive. Il prend aussi en compte la biologie synthétique dont on ne parle jamais mais qui avance tout aussi vite et présente des risques tout aussi grands, plus même.
La biologie synthétique est la « Capacité de concevoir et de manipuler de nouveaux organismes ou de repenser des systèmes biologiques existants ». Comme l’IA elle bénéficie d’une réduction accélérée des coûts et de l’augmentation de ses possibilités depuis que nous avons compris que « l’ADN est, en fait, un système de codage et de stockage d’informations biologiques ». On voit immédiatement le rapport avec l’IA et comment l’une peut renforcer l’autre.
Un chiffre : le coût du séquençage du génome humain est passé de 1 milliard de dollars en 2003 sous la barre des 1000 USD en 2022. Wikipédia nous explique qu’en génétique, « le séquençage concerne la détermination de la séquence des gènes voire des chromosomes, voire du génome complet. »
Attention, dit Suleyman, « si le séquençage équivaut à une lecture, la synthèse est une écriture. Et l'écriture ne consiste pas seulement à reproduire des brins d'ADN connus ; elle permet également aux scientifiques d'écrire de nouveaux brins, d'inventer la vie elle-même. » On peut même les « imprimer » pour pas cher. C’est à la portée, semble-t-il d’étudiant.e.s du secondaire un peu malin.e.s.
Quelle incroyable boîte de Pandore est en train de s’ouvrir !
Ce qui a pris des dizaines de millions d’années pour en arriver à la vie sur terre telle que nous la connaissons peut, maintenant, être court-circuité grâce au pouvoir d’ordinateurs assez simples. Les gens peuvent fabriquer la vie comme bon leur semble quel que soit l’endroit où ils se trouvent. Les premiers humains avec des génomes édités sont déjà nés en Chine. Trois filles qui se sont vues donner les noms de Lulu, Nana et Amy « pour préserver leur vie privée »! Selon Les Échos « Elles vivent une vie parfaitement normale, paisible et heureuse ».
Googlez : Lulu Nana twins
Pour qui voudrait le lire en vo (toujours préférable quand on peut) The Coming Wave, Technology, Power, and the 21st Century’s Greatest dilemma.
Pourquoi contenir ?
Le basculement tient à trois propriétés de ces technologies extraordinairement puissantes :
Comme l’électricité, par exemple elles sont utilisables dans plein de domaines (general purpose technologies, en anglais);
Outils comme toutes les autres, elles sont porteuses d’autonomie potentielle et peuvent agir seules, à notre place;
Y accéder coûtant de moins en moins cher leur prolifération est inéluctable.
Il propose donc une approche multi-directionnelle à plusieurs niveaux dont je vous donnerai les principaux éléments très vite. C’est pour lui « un moyen, en théorie, d'échapper au dilemme de la maîtrise des technologies les plus puissantes de l'histoire. » Jusqu’à présent, nous avons plus ou moins bien fait face après coup aux conséquences inattendues de nos innovations. Il est indispensable aujourd’hui de le faire dès la conception.
Authentique changement que nous verrons dans ses dimensions concrètes.
A la semaine prochaine…
Youtube : Que signifie la révolution de l'IA pour notre avenir ?
Super échange entre Yuval Noah Harari et Mustafa Suleyman organisé par The Economist, mais accessible gratuitement sur Youtube.
En anglais mais vous pouvez obtenir des sous-titres en français.
Googlez : sous-titres français youtube et suivez les instructions
