Canaliser, orienter les intelligences artificielles ≈046
Je reviens sur le livre de Mustafa Suleyman, La déferlante (The Coming Wave) dans lequel il propose une attitude pour miser sur la technologie sans se laisser dépasser
Plus je lis ce livre, plus j’ai envie de le relire.
Je parle de La déferlante, (voir Myriades : La déferlante, ce livre qui me fait changer d’attitude ≈035) écrit par Mustafa Suleyman un des créateurs des IA qui l’ont emporté sur les meilleurs joueurs d’échecs et de Go avant de réussir à déplier les protéines pour en révéler la configuration. Sa proposition de contenir, voire d’endiguer le développement de l’intelligence artificielle et de la vague technologique qu’elle entraîne est d’autant plus remarquable qu’elle s’accompagne d’une stratégie à multiples niveaux. C’est ce qui m’a secoué.
Il voit dans la contention « un moyen, en théorie, d'échapper au dilemme de la maîtrise des technologies les plus puissantes de l'histoire. » « En théorie » parce que personne n’est certain que ça marche. Quant au dilemme, il est plus facile à résumer qu’à résoudre : il veut que la vague de technologies développées en ce moment apporte les bienfaits promis, mais pas n’importe comment.
Foncer, comme tout arrêter, est également risqué.
enti’idon lée d’endiguer fait hurler bien des acteurs quand il est pris dans le sens le plus étroit (mettre entre des murs, des digues, des murailles, les parois d’une boîte).
C’est plus compliqué et bien plus intéressant.
Ces imparables incitations à foncer : états, entreprises, egos
Le livre est sorti plusieurs semaines avant la crise d’OpenAI, la société créatrice de ChatGPT (voir Myriades ≈034 Games of AI : c’est qui les pions) qui apparaît comme une illustration parfaite de sa thèse avec la victoire de ceux qui veulent foncer (dont Sam Altman et Microsoft) sur ceux qui appellent à un peu de retenue.
Aucun doute pour Suleyman que « le profit est le moteur de la vague à venir, » mais les seuls tenants d’une position éthique doivent comprendre qu’il n’y a pas que ça. il faut aussi prendre en compte :
La compétition entre grandes puissances. « Choisir de limiter le développement technologique lorsque des adversaires perçus avancent, c'est, dans la logique d'une course aux armements, choisir de perdre. »
L’écosystème mondial de la recherche, avec ses rituels bien ancrés qui récompensent la publication ouverte, la curiosité et la quête d'idées nouvelles à tout prix.
Sans oublier l’ego des chercheurs si bien illustré par le film consacré à Robert Oppenheimer. Mais c’est John von Neumann, mathématicien d’origine hongroise ayant participé au développement de l’arme nucléaire, qui en explique le fonctionnement : « il serait contraire à l'éthique, du point de vue des scientifiques, de ne pas faire ce qu'ils savent être faisable, quelles que soient les terribles conséquences que cela pourrait avoir ».
Aucune mesure isolée ne peut suffire pour contenir ces « imparables incitations ».
Endiguer, se contenir, organiser l’intervention de l’État
Suleyman commence par demander aux créateurs eux-mêmes de faire le premier pas et de s’imposer des limites, des contraintes qui seront d’autant plus efficaces qu’elles figureront dès la conception de l’outil au lieu d’intervenir après coup c’est-à dire, presque toujours, trop tard.
Et mieux vaut ne jamais laisser les enthousiastes seuls. « La technologie a profondément besoin de critiques - à tous les niveaux, mais surtout en première ligne. » Ceinture et bretelles : il est prudent de faire auditer de l’extérieur leurs travaux en cours.
Ça risque de les ralentir ? Quelle excellente chose dit Suleyman qui les invite à prendre le temps de tester, à ne pas se précipiter pour mettre leurs découvertes sur le marché.
L’auteur, dont l’entreprise DeepMind a été rachetée par Google, a bien tenté de faire bouger cette BigTech de l’intérieur… sans succès. L’endiguement gagnerait à compter sur des fondateurs de startups et des patrons soucieux « d’apporter une contribution positive à la société. Il a également besoin de quelque chose de beaucoup plus difficile. Il a besoin de politique, » tant au niveau national qu’international. Il demande donc l’intervention des gouvernements et des États.
En clair, tout le monde doit s’y mettre à tous les niveaux, tout de suite. Ça fait beaucoup.
« L’endiguement doit être possible »
Ce titre de l’avant-dernier chapitre m’a inquiété. Ça n’est jamais parce qu’elle est nécessaire ou bonne qu’une proposition, une action, un programme sont réalistes. « Je comprends parfaitement. Cela semble à peine réel à première vue, » reconnaît-il. Mais nous y sommes bien parvenus - jusqu’à un certain point - pour les voitures, les avions et les médicaments, par exemple. Avec un coût élevé en victimes et toujours bien tard.
Et la réglementation, régulièrement invoquée par les mieux intentionnés, ne suffit pas. La technologie bouge de semaine en semaine alors qu’il faut des années pour faire adopter une loi.
On peut en conclure que c’est bien pour cela que la généreuse idée de Suleyman ne peut réussir. L’auteur le dit clairement : « L’endiguement de cette déferlante n’est, je crois, pas possible dans le monde actuel. » Il faut des citoyens plus conscients, des entreprises et des entrepreneurs plus soucieux du bien social, des gouvernements plus agiles, des relations internationales plus détendues… etc. etc.
Autant repousser notre attente de solution à la saint-glinglin.
Pourquoi ce livre m’a secoué
La déferlante propose une approche trans-disciplinaire des technologies qui se développent le plus vite aujourd’hui. Il prend en compte les responsabilités à tous les niveaux, des individus aux grandes puissances, et contient une proposition ouverte, modifiable à mesure que nous agissons, à condition d’agir bien entendu.
Il n’y a ni mot, ni solution miracle et Suleyman le dit clairement. Il propose, ce qui est plus difficile à vendre, une méthode, voir une attitude.
Elle vaut pour l’intelligence artificielle et la biologie synthétique, mais aussi pour l’autre problème majeur auquel l’humanité est confrontée, toujours de son fait : le réchauffement de la planète.
L’un et l’autre sont, en paraphrasant une des formules du livre, des « hyper-objets qui dominent l’existence des humains ». Suleyman met en cause nos responsabilités et le système dans lequel nous nous sommes enfermés nous-mêmes, sans tomber dans l’opposition binaire entre pour et contre, entre croissance et décroissance. J’y vois une vraie position politique. Et vous ?
Époustouflantes images - Gemini de Google, un jumeau peu fiable… (bis)
Premier incident majeur au moment du lancement de Gemini par google… Plutôt que de la décrire, je vous invite à regarder cette époustouflante vidéo sensée montrer ce qu’elle est sensée pouvoir faire (sic).
Impressionnant, n’est-ce-pas… sauf que… allez, un petit effort : googlez : canard gemini. Vous allez bien rire.
Et, plus récemment, les images bien pensantes de Gemini quand on lui demande celles d’un pape…
googlez gemini woke pour aller plus loin…
Bonne semaine…