« Ce truc change tout » ≈001
L'intelligence artificielle est arrivée et nous allons la suivre
C’est une phrase éculée qui m’a accroché. Steve Jobs, grand magicien du marketing, l’avait utilisée - non sans raison - en introduisant l’iPhone. Il a trop souvent été copié depuis. Mais cet article, portant sur l’intelligence artificielle, était signé par un excellent chroniqueur du New York Times que je suis depuis longtemps. J’en ai retenu que :
Nous pouvons rêver que cette technologie transforme la planète en paradis ou craindre qu’elle en élimine l’humanité.
Son développement ultra rapide (elle attire les milliards), est inévitable car elle est la source de bénéfices économiques, de pouvoir et, peut-être, de bienfaits.
Les ressources requises limitent les grands acteurs à deux États (États-Unis et Chine) plus une poignée d’énormes entreprises.
Ça fait beaucoup d’enjeux de taille pour une technologie qui est déjà partout.
L’IA dans notre vie quotidienne
Elle est dans les moindres recoins de votre téléphone mobile (la boussole par exemple, ou le compte des pas), dans les voitures que vous utilisez (freins, moteurs à injection ou pour signaler que vous vous rapprochez de la voiture derrière), les filtres de vos emails, les jeux que vos enfants (pas vous bien sûr) utilisez, les sites de rencontres. Elle est à la base de l’efficacité des moteurs de recherche. Elle sert aussi à nous faire (ou permettre de) mieux bosser, mieux acheter.
La liste est longue comme une jour sans Facebook qui est d’ailleurs - comme tous les médias sociaux - la première porte par laquelle nous avons laissé l’IA influencer nos comportements.
Et ça va de plus en plus loin de plus en plus vite.
Parmi les exemples qui m’ont le plus frappé cette jeune américaine qui a largué son petit copain pour trouver - je n’ose pas dire « l’amour » mais, semble-t-il quelque chose - dans une relation exclusive (pour le moment) avec un.e partenaire virtuel rencontré sur Replika. Un site de rencontre avec ordinateur… Dernière heure : l’application vient d’altérer la partie « sexting » de son offre et certain.e.s utilisateurs ou utilisatrices sont suffisamment perturbés pour que l’entreprise, basée à Silicon Valley, les dirige vers un service de conseils par téléphone pour tenter de les sortir du désespoir, de les dissuader du suicide.
Et puis - comment aurions-nous pu y échapper ? - la religiosité s’en mêle. Capables de tout adorer et plus, les humains trouvent dans les chatbots des oreilles attentives mieux disponibles que rabins, imams, pasteurs et curés. Des voix immortelles et parfois poétiques.
Perplexe
Perplexe, j’ai appris depuis longtemps qu’une technologie, quelle qu’elle soit, n’est « ni bonne, ni mauvaise, ni neutre ». Son impact est déterminé par son utilisation, par le système économique, social et culturel dans lequel elle est mise en oeuvre, par les conflits qui animent ce dernier.
Perplexe, je le suis devenu à coups sur la tête en couvrant plus d’une révolution sociale et\ou politique (Iran, Cuba, Chili, Portugal, Nicaragua) devant lesquelles je me suis trop souvent laissé embobiner par des rêves ou des discours promettant le paradis sans trop s’embarrasser des morts laissés sur le chemin (ni des résultats d’ailleurs).
Perplexe, j’ai bien été obligé de le devenir encore plus à Silicon Valley (où je suis arrivé au moment de la première bulle du web et de l'éclosion des startups) en découvrant que le rapport des patrons à la vérité est à peine moins élastique que celui des politiciens.
Rester perplexe me semble la seule attitude possible face à des robots capables de cracher de la poésie dont le Guatémaltèque Luis Cardoza y Aragón et Gabriel Garcia Marquez disaient qu’elle est « la seule preuve concrète de l’existence de l’homme », de l’humain dirions-nous aujourd’hui.
J’aurais bien aimé conclure pour aujourd’hui sur cette phrase que j’adore, mais nous sommes maintenant devant une bataille économique, politique et même idéologique qui fait rage.
Il n'y a pas que des bébés dans l'eau du bain
J’en étais là lorsqu’est tombé, le 27mars, le cri d’alarme lancé par près de 3000 (le 2 avril au soir) entrepreneurs, ingénieurs, chercheurs et professeurs . Il contient :
Des questions sur les dangers encourus par la sur-pollution de nos canaux d'information, l'automatisation de trop de métiers, la multiplication de machines capables de penser à notre place. Ils terminent par la plus redoutable d'entre elles : « Devons-nous prendre le risque de perdre le contrôle de notre civilisation ? »
Un diagnostic : « Les laboratoires d'IA sont engagés dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants, que personne - pas même leurs créateurs - ne peut comprendre, anticiper ou contrôler de manière fiable. »
Un appel à la pause dans le développement de cette technologie dont laboratoires et chercheurs devrait tirer parti pour mettre au point des protocoles de sécurité et de vérification.
Deux jours après l’Italie interdisait pour un mois l’utilisation de ChatGPT sur son territoire et nombre d’entreprises commençaient à s’inquiéter de l’utilisation commerciale par les chatbots des données leur appartenant.
Il semble donc urgent de mettre les deux pieds sur le frein tout et de prendre le volant à pleines mains… sans se faire trop d’illusions.
L’inquiétude est fondée pour une raison à la fois simple et fondamentale exprimée la même semaine par trois des signataires - Yuval Harari, Tristan Harris et Aza Raskin : la plupart des compétences clés de l’IA se résument à « la capacité à manipuler et à produire du langage, que ce soit avec des mots, des sons ou des images. » Or le langage c’est nous, c’est ce qui nous permet de faire société. L’IA peut donc, désormais, « pirater et manipuler le système d'exploitation de la civilisation ».
Mais ne prenons pas tous les signataires au sérieux. Elon Musk, dont le nom est mis en avant, n’est pas connu pour sa prudence avec l’IA dans les voitures autonomes de sa marque Tesla. Il avait participé au lancement d’OpenAI, créatrice de ChatGPT, mais son départ en 2018 lui a fait perdre une bonne occasion de gagner un gros paquet d’argent. Amertume, amertume dirait notre actrice préférée…
Et n’oublions pas que les titres affolants sont le miel des médias. Si même les créateurs de systèmes d’intelligence artificielle n’en maîtrisent pas tous les détails, le cas des des journalistes (comme des décideurs politiques) est encore plus inquiétant alors qu’ils façonnent l’opinion (et légifèrent).
Voilà pourquoi j’ai décidé de me remettre au travail, d’essayer de suivre et de comprendre et que je vous invite à partager inquiétudes, incompréhensions, doutes, espoirs et réflexions sur cette nouvelle newsletter.
Bienvenue
Livres
The Age of A.I And Our Human Future by Henry A Kissinger, Eric Schmidt, Daniel Huttenlocher de l’ancien et toujours légendaire Secrétaire d’État nord américain et de l’ancien patron de Google
Age of Anger: A History of The Present (L’âge de la colère: Une histoire du présent) du philosophe indien Penkaj Mishra
Il est tentant et sans doute salutaire de lire ces deux titres en parallèle (ce que je suis en train de faire). Le premier est au coeur de notre sujet et le second au coeur des problèmes que le dit sujet ignore trop facilement.
Qui souhaite en savoir plus trouvera certains de mes reportages et réflexions sur mon site francispisani.net.
Sources utilisées pour ce numéro
En donnant le titre This changes everything Ezra Klein rebondit sur deux antécédents qui peuvent aider à comprendre ce qui se joue avec l’IA. Steve Jobs s’en était servi en 2007 pour lancer l’iPhone (dès la première minute de cette vidéo) qui a changé beaucoup de choses. C’est aussi le titre d’un livre et d’un film écrits par Naomi Klein. Convaincue que la crise climatique est largement due au capitalisme elle invite à en tirer parti pour renverser notre système économique.
Vous trouverez quelques histoires d’amour avec Replika dans The Man of Your Dreams. Les réactions à la limitation du sexting sont évoquées dans Les utilisateurs de Replika sont tombés amoureux d'un chatbot d'IA, puis ont perdu leur compagnon après une mise à jour. Ils supplient l'auteur de revenir à la version originale du logiciel.
L’hypothèse religion est évoquée dans The conversation : Gods in the machine? The rise of artificial intelligence may result in new religions
La phrase « Technology is neither good nor bad; nor is it neutral » est la première des Six lois de la technologie de Melvin Kranzberg. La cinquième affirme que « All history is relevant, but the history of technology is the most relevant. »
La poésie « seule preuve concrète de l’existence de l’homme » est la conclusion du discours d’acceptation du prix Nobel de littérature par Gabriel García Marquez à Stockholm en 1982. Vous la trouverez dans cette version intégrale en espagnol sur le Centro Virtual Cervantes et, comme citation dans un article du Monde mais pas dans les versions du discours publiés sur le site de la Fondation Nobel. Bizarre.
L’appel des entrepreneurs et chercheurs a fait la une de bien des médias. L’original a été publié par le Future of Life Institute. Vous y trouverez aussi un texte collectif signé par près de 6000 chercheurs et entrepreneurs sur les principes à respecter pour la gouvernance de l’IA.
Le texte de Harari, Harris et Raskin a été traduit et publié en français par l’excellente Emily Turrettini sous le titre Si nous ne maîtrisons pas l'IA, c'est elle qui nous maîtrisera.
La révolte des propriétaires de contenu est évoquée dans cet article du Wall Street Journal : Publishers Prepare for Showdown With Microsoft, Google Over AI Tools