Petite enquête sur le vrai problème de l'IA ≈010
Les menaces que fait peser l’intelligence artificielle doivent être traitées en priorité, alertent les maîtres de l’IA dans un texte confondant d’absences mais moins dramatique qu’on voudrait nous faire croire.
"L'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que d'autres risques sociétaux tels que les pandémies et les guerres nucléaires", affirme la déclaration signée le 30 mai par des patrons ou dirigeants d’Alphabet (Google), OpenAi-Microsoft (liés par l’argent du premier et la technologie du second) ou même Anthropic, la startup qui se veut la plus éthique dans ce domaine, ainsi que certains des chercheurs les plus respectés.
A prendre au sérieux, bien sûr, mais aussi avec des pincettes.
Voici les 4 volets d’une mini « enquête » sur une phrase de 22 mots (en anglais) et 143 caractères.
1) Le mot qui affole
Le texte est si bref - pour que tout le monde soit d’accord - qu’on n’en retient qu’un seul mot « EXTINCTION », sous entendu : de l’humanité. Communication efficace pour attirer l’attention - ça marche - elle est un bel exemple de ce qui entraîne la perte de confiance dans les discours officiels.
Le danger est réel, les signataires en sont convaincus. Mais il dépend d’une évolution possible et non certaine, dont la matérialisation dépend, à son tour, d’une sérieuse avancée de la technologie et de la science. Rien d’immédiat, même si les processus impliqués par toute recherche de réglementation sont suffisamment longs pour qu’il soit urgent de s’y mettre.
Reste qu’en nous entraînant sur la piste d’une évolution dramatique possible, on nous écarte des problèmes réels et immédiats, comme l’accroissement des inégalités et des fractures sociales et territoriales.
2) L’absence qui inquiète
Pas besoin de PhD pour comprendre que pandémies et guerres nucléaires sont d’authentiques menaces. Mais je ne peux m’empêcher de m’interroger sur ce qui a dû être éliminé pour faire consensus.
Vous l’avez noté. Les grands absents sont le « climat » et la biodiversité !
Cela veut dire que les mentionner aurait fâché certains de ces messieurs (les dames ne sont guère nombreuses à ce niveau). Alors même qu’ils affirment que leurs technologies peuvent contribuer à une solution.
Ainsi, Eric Schmidt, l’ancien patron de Google, a-t-il déclaré vouloir toujours plus d’intelligence pour résoudre les problèmes complexes comme la crise climatique. Fallacieux répond l’essayiste et militante Naomi Klein. La preuve : « Des gens intelligents, bardés de doctorats et de prix Nobel, expliquent à nos gouvernements depuis des décennies ce qu'il faut faire pour sortir de ce pétrin : réduire nos émissions, laisser le carbone dans le sol, s'attaquer à la surconsommation des riches et à la sous-consommation des pauvres, car aucune source d'énergie n'est exempte de coûts écologiques. »
L’intelligence n’est pas ce qui manque le plus.
3) Hallucinations ?
Elle explique sa méfiance à l’égard de ce que disent les dirigeants en question quand ils présentent les déraillements de leurs séduisants chatbots comme des « hallucinations ». Rien que d'la com, dit-elle dans une chronique publiée par The Guardian sous le titre « Ce ne sont pas les machines de l’IA qui hallucinent, mais ceux qui les fabriquent ». Il s’agit bien d’erreurs (voire de « bugs ») qu'on essaye de rendre acceptables grâce à un mot tiré de la psychologie plutôt que de la technique.
Mais, pourquoi faut-il encore faire attention aux mots ?
Parce que le langage, point commun des humains, de leurs sociétés et des machines de l’IA, peut être encore plus dangereusement manipulées par ces dernières que par nous, prévient Yuval Noah Harari, auteur de Sapiens.
« La langue est le système opérationnel de la culture humaine. C’est de la langue que naissent les mythes et les lois, les dieux et l'argent, l'art et la science, les amitiés, les nations et le code informatique. »
L’accès au langage naturel pourrait permettre à l’IA de « saisir le passe-partout » de la civilisation, « depuis les coffres-forts des banques jusqu’aux sépultures » écrit-il dans un texte signé avec deux partenaires fondateurs du Center for Humane Technology.
4) Compétition, le non-dit révélateur du problème de fond
Revenons au texte de la déclaration et à la plus significative de ses absences.
Ces gens-là, qui se présentent comme maîtres de la foudre, demandent à d’autres (les gouvernements) de maîtriser leurs machines, ce que personne ne peut faire mieux qu’eux.
A moins qu’ils ne le puissent pas…
Pourquoi ne le pourraient-ils pas ?
Parce que ces ultra-libéraux (pas tous mais très souvent) sont pris en tenaille entre leurs craintes (exprimées dans la déclaration) et la logique du marché dont ils dépendent et tirent leurs fortunes. C’est elle qui les oblige à prendre des risques plus grand que ceux qu’ils trouveraient raisonnable. Et cette logique a un nom « compétition ».
Redonnons la parole à Naomi Klein.
Elle reconnaît volontiers l’éventuelle capacité de l’IA générative à supprimer certaines tâches fastidieuses et à se mettre au service de l’humanité et de notre « maison commune ». « Mais pour que cela se produise, » dit-elle, « ces technologies devraient être déployées dans le cadre d'un ordre économique et social très différent du nôtre, un ordre dont l'objectif serait de répondre aux besoins humains et de protéger les systèmes planétaires qui abritent toutes les formes de vie. »
Quel est cet « ordre »?
Elle ne le dit pas dans ce texte. Mais qu’importe. Nous pouvons le deviner, à défaut d’en connaître les détails.
Les problèmes engendrés ne dépendent pas que des machines. Ni que des humains, qui sont bien plus que des individus comptés en milliards ou qu’une humanité indifférenciée. Ils tiennent aussi aux institutions, cultures, groupes informels, comme à nous.
Acceptons donc de poser la question de l’impact sociétal des intelligences artificielles et de les évaluer sous cet angle, pas seulement sous celui de ses « bugs » techniques ou de ses « hallucinations » pseudo humaines.