Fin de récré dans l’IA ? ≈005
Les enfants terribles de la Silicon Valley réagissent comme des gamins excités, reconnaissants qu’on leur fixe des limites après un barouf débridé. Un peu plus puissants, c’est à leur gouvernement qu’ils demandent d’intervenir. Une fin de récré demandée par les trublions eux-mêmes.
Réjouissons-nous ! Sans trop d’illusions.
La seule participation de l’État qui les intéresse d’habitude (et comment !) est l’argent versé très tôt dans les technologies de pointe… dont l’IA est aujourd’hui la figure de proue. Une présence dont ils ne parlent jamais, mais sans laquelle leur domination n’aurait sans doute pas eu lieu ou pas dans ces proportions.
Or, de Sundar Pichai, patron de Google, à Elon Musk, ils se sont tous prononcés dans ce sens peu après la demande de « pause » lancée par ce dernier fin mars, mais jugée hypocrite dans la mesure où elle « invisibilise une bonne partie des risques déjà bien réels posés par l’IA » explique Asma Mhalla de l’institut Montaigne.
La démarche rejoint les inquiétudes d’à peu près tous les gouvernements qui semblent hésiter entre une interdiction de ChatGPT « à l’italienne » et la mise en place d’un cadre sophistiqué. A partir de là les divergences abondent.
Différentes approches dans le monde
Les quatre textes d’acteurs majeurs aujourd’hui sur la table éclairent les difficultés du problème.
L’Artificial Intelligence Act européen, entend nous préserver des risques futurs en centrant son attention sur la façon dont son usage met en danger la vie des gens comme les infrastructures.
L'approche « pro-innovation » de Londres a pour objectif de positionner le pays comme « super puissance de l’IA ». Il s’agit, avant tout de « soutenir l'investissement des entreprises et renforcer la confiance dans l'innovation. »
La Maison Blanche se situe quelque part entre les deux avec son Blueprint for an A.I. Bill of Rights à l’étude. Il porte ses efforts sur le développement prudent des « systèmes automatiques » grâce à a participation des multiples parties prenantes mais Ezra Klein, chroniqueur du New York TImes salue la bonne intention mais rappelle que « nous ne comprenons pas assez bien ces systèmes pour les tester et les auditer efficacement. »
Prudent, restrictif, le texte chinois a pour objectif de contraindre les contenus générés par l’intelligence artificielle générative à « reflètent les valeurs socialistes fondamentales. » Ils ne peuvent rien proposer qui soit susceptible de subvertir l’État, de promouvoir la haine, la violence, de « fausses informations ainsi que des contenus susceptibles de bouleverser l'ordre économique ou social.” »
La nécessité d’intervenir est reconnue. Les principales mesures identifiées. Reste à choisir comment s’y mettre.
Priorités et contextes
Ezra Klein, propose plusieurs priorités tirées de ses entretiens avec les acteurs. J’en retiens :
Tout faire pour que les IA expliquent leur résultats parce que, sans cela, nous risquons de dépendre d’algorithmes que nous ne comprenons pas;
Rendre les entreprises responsables de la façon dont s’en servent leurs utilisateurs, à la différence de ce qui a été fait pour les réseaux sociaux;
Exiger que ces robots n’aient pas l’air trop humains, notamment avec les enfants qui risquent de s’y tromper, et limiter la manipulation du comportement des consommateurs.
Très joli tout ça. Mais la réalisation de ces belles intentions est d’autant plus difficile qu’elle dépend des contextes économiques, sociaux, politiques et culturels déterminants mais ignorés, ou tus.
Le rythme lent des institutions et des débats quand ils sont démocratiques;
La nécessité de concevoir des processus d’évaluation fréquents, rendus nécessaires par la rapidité de l’émergence des innovations;
L’ignorance et l’incompréhension des décideurs quand il s’agit de technologies de l’information, comme nous l’avons vu avec l’internet et le web. Le conseil de l’UE, la Maison Blanche et le gouvernement chinois ont des assesseurs mais les députés et sénateurs qui en Europe et aux US vont voter sont largués. Et le lobbying, fait par les entreprises, va vite donner son plein.
La logique de compétition qui définit notre système économique et oblige les patrons à prendre des risques pour arriver le plus vite possible sur le marché et s’y tailler la plus grande part;
Le fait que l’IA étant un élément clé de domination ainsi qu’une arme facile à dissimuler, les accords entre pays rivaux (la Chine et les États-Unis, par exemple), seront difficile à mettre en oeuvre concrètement, à fortiori au niveau global, alors que la prolifération a déjà commencé.
Revenons, pour conclure, à l’image des enfants ayant besoin d’ordre après une après-midi débridée.
Ils ont tiré le meilleur parti de leur liberté, tiré tellement sur la ficelle qu’ils ont peur qu’elle casse. Favorables à leur épanouissement, les parents - en l’occurrence, les autorités civiles et politiques, nous tous en dernière instance - hésitent à intervenir et tendent à s’engloutir dans des discussions de principe sur le style d’éducation auquel ils tiennent. Mais le plus important se joue sans doute ailleurs, dans le non-dit, des enfants, leur crainte - ici consciente et formulée par les créateurs eux-mêmes de l’intelligence artificielle - de détruire leur propre rêve s’ils continuent sur leur lancée. Si on les laisse faire.
Ça vaut la peine d’y réfléchir…
Je vous invite à le faire ensemble sur le tchat que j’ai ouvert à cet effet.