Pourquoi nous rabaisser ? ≈053
Présenter l’intelligence artificielle comme « surhumaine » ne favorise-t-il pas la dévalorisation croissante de nos actions et de notre autonomie ?
Bonjour et bienvenue sur Myriades,
Je vous propose aujourd’hui quelques pistes pour mieux comprendre ce qui se joue en ce moment :
Le danger de présenter l’IA comme « surhumaine ».
Pourquoi nous avons besoin que les ingénieurs aient le droit de nous alerter sur les risques que nous font courir leurs boîtes.
La percée effectuée par Starlink, la compagnie de satellites d’Elon Musk, auprès d’une tribu amazonienne isolée. Ça me laisse plus que perplexe.
Ne manquez pas, à la fin, une info montrant comment l’IA peut aider à maigrir.
Des dangers de croire à une IA surhumaine
Si l’IA est surhumaine, c’est-à-dire plus ou mieux qu’humaine, que sommes-nous ?
Voilà enfin une vraie question qui pourrait permettre d’aller plus au fond, de s’interroger sur un - le ? - vrai danger de la croyance en la toute puissance de l’IA. Elle est posée par Shannon Vallor, professeure américaine de philosophie et d’éthique en poste, actuellement, à Édimbourg.
« Qu'elle soit utilisée pour nous faire adopter l'IA avec un enthousiasme inconditionnel ou pour nous dépeindre l'IA comme un spectre terrifiant devant lequel nous devons trembler, l'idéologie sous-jacente de l'IA "surhumaine" favorise la dévalorisation croissante de l'action et de l'autonomie humaines et fait s'effondrer la distinction entre nos esprits conscients et les outils mécaniques que nous avons construits pour les refléter, » écrit-elle dans l’excellente revue Noéma.
Elle y montre de façon convaincante que les définitions de ce que serait l’intelligence artificielle générale (AGI en anglais) ne cessent de déraper. Ainsi, pour OpenAI productrice de ChatGPT, elle devient un ensemble de « systèmes hautement autonomes qui surpassent les humains dans la plupart des tâches économiquement utiles ».
Conclusion de Vallor : si on réduit le concept d’intelligence à ce que les marchés sont prêts à payer « tout ce qu'il faut pour construire une machine intelligente - même surhumaine - c'est fabriquer quelque chose qui génère des résultats économiquement valables à un taux et une qualité moyenne qui dépassent votre propre production économique. Rien d’autre ne compte ».
Je me demande si ce qu’elle présente comme un combat éthique (difficile à ignorer) n’est pas en fait un combat politique… bien plus difficile à nommer.
Elle vient de publier un livre sur ce sujet The AI Mirror. Je suis en train de le lire pour vous en rendre compte.
En attendant, passons à un autre sujet…
Notre première ligne de défense
Un groupe d’ingénieurs et de chercheurs (ex ou actuels employés d’OpenAI et de Google), revendique le droit d’alerter au cas où ils détecteraient des risques sérieux dans la façon d’opérer de leurs boîtes.
Il s’en prend à une pratique particulièrement choquante consistant à interdire aux employés quittant l’entreprise de dénoncer les dangers potentiels qu’ils y ont constatés et à les punir en les privant de leurs actions. Une sanction qui a coûté 1,7 millions de dollars à l’un des signataires.
L’argument est clair : « Tant qu'il n'y aura pas de contrôle gouvernemental efficace de ces entreprises, les employés actuels et anciens font partie des rares personnes qui peuvent les obliger à rendre des comptes au public » écrivent-ils. Ils demandent que les sociétés renoncent à interdire de « critiquer l'entreprise pour des problèmes liés aux risques, [ainsi qu’à] exercer des représailles pour des critiques dans ce domaine ».
Chercheurs et ingénieurs, des BigTech comme des startups de l’IA, sont notre première ligne de défense contre les risques qu’un développement échevelé peut nous faire courir. Personne ne connaît mieux qu’eux la portée de leurs travaux. Je l’ai évoqué en parlant du livre La déferlante, de Mustafa Suleiman.
Chacun a son idéologie et nous ne sommes pas tenus de partager tout ce qu’ils disent. Mais leur liberté de parole nous est indispensable et les pratiques qu’ils dénoncent - manifestement abusives - illustrent les jeux de pouvoir de ces boîtes qui se croient au dessus de tout et agissent en conséquence.
La situation est bien différente à l’autre bout du monde maintenant connecté…
L’internet au coeur de l’Amazonie. Qu’en penser ?
Reportage, émouvant et perturbant; dans le New York Times sur l’arrivée des satellites de communication Starlink d’Elon Musk dans la tribu des Marubos en Amazonie. (Voir plus bas le lien d’accès gratuit).
Les bienfaits sont clairs : ouverture sur le monde, accès à une éducation plus large, communication maintenue avec ceux qui ont gagné les villes pour travailler, ou possibilité en cas d’urgence médicale de se connecter pour obtenir un diagnostic ou un hélicoptère. Tout hôpital est à de longues journées de marche.
Les inconvénients ne sont pas moins évidents : les jeunes découvrent la pornographie et les garçons deviennent plus brutaux. Tou.te.s passent leur temps d’accès (limité à quelques heures par jour) sur WhatsApp alors que « dans le village, si tu ne chasses pas, ne pêches pas et ne plantes pas, tu ne manges pas » dit un des chefs.
Si son sort vous inquiétait, rassurez-vous, Elon Musk n’y perd rien. L’argent nécessaire a été fourni par une consultante de l’Oklahoma contactée par Facebook. Starlink a déjà 66.000 contrats couvrant 93% des municipalités de l’Amazonie brésilienne.
Point qui compte : l’appel à des financements pour acheter les antennes Starlink provient de membres de la tribu alors que d’autres s’opposent à leur introduction. Mais les leaders des deux camps s’affrontaient depuis longtemps et n’ont fait que chevaucher ce nouveau sujet comme thème de rivalités.
Difficile de se prononcer puisque c’est à eux de décider et qu’ils sont divisés. Lisez la fin sur la vision d’un shaman annonçant, il y a quelques dizaines d’années la venue d’un petit appareil connectant au reste du monde. Et rappelez-vous que l’arrivée des conquistadors Espagnols au Mexique avait elle aussi été annoncée… Copie ? Besoin d’ancrer le présent brutal dans le passé sage ? Curieux en tous cas. Bégaiement dont on souhaite qu’il n’entraîne pas les mêmes conséquences.
Voici un « lien cadeau » du New York Times qui devrait vous permettre de lire l’article sans problème. Dites-moi si ça marche, ou pas.
Enfin, et ce sera tout pour aujourd’hui…
L’IA… pour maigrir ?
L’Université canadienne de Waterloo travaille à une intelligence artificielle capable de détecter la quantité de calories ingurgitées au simple vu des vidéos prises de ce que nous ingurgitons au cours d’un repas. Les chercheurs sont en train de lui apprendre à repérer un grand nombre d’aliments et elle devrait, au bout d’un certain temps, reconnaître même ceux qu’elle ne connaît pas… comme toute IA générative qui se respecte.
Nouvel exemple de surveillance trop intime, mais peut-être préférable à tous ces médicaments amaigrissants qui envahissent le marché. A chacun.e de choisir… Le Monde y a consacré un article hier…
Très intéressant et intelligent, comme toujours. Carlos Gabetta
L'article du NYT pose la question suivante: Où le bruit de la civilisation est-il à son paroxysme? Dans l'une des villes les plus bruyantes du monde tel Dehli ? Ou bien dans une tribu isolée de l'Amazonie mais qui se connecte à internet durant 7 heures par jour ?