Pas vraiment intelligente, pas totalement artificielle ≈016*
Dire que l'IA est intelligente et artificielle est du bon marketing qui empêche de voir la réalité...
Bonjour et bienvenue sur ce premier post repris…
J’y ajoute, plus bas, un lien sur une conférence bien menée et très compréhensible qui confirme ces hypothèses.
Au menu :
IA : une idée vintage
Est-elle , vraiment intelligente ?
Est-elle vraiment artificielle ?
Mon court dialogue avec ChatGPT sur la définition de l’intelligence
Du concret > Le chatbot de Bloomberg + Type.ai
IA : une idée vintage
L’histoire moderne de ce terme a commencé quand le scientifique britannique Alan Turing s’est demandé en 1950 si les machines pouvaient penser. Il imagina qu’on puisse en créer une capable de dialoguer avec un humain sans que celui ou celle-ci soit capable de détecter la supercherie.
Turing a ainsi « pipé » le sujet (on dirait en anglais qu’il l’a framed) en fixant comme critère la ressemblance avec nous.
Ce rêve de savant a obsédé d’interminables cohortes de matheux et d’ingénieurs comme un défi à relever. Rien qui ne les stimule ni les excite plus. Mais, pendant des dizaines d’années, il s’agissait plus d’un devenir, d’une recherche, d’un objectif, d’une intention que de d’un projet réel correspondant à un semblant de réalité. Et pour nombre d’entre eux la situation n’a pas changé au fond.
Sauf que ChatGPT a pour propriété explosive de mettre l’accès du « truc » en question à portée de toute personne ayant un ordinateur, une tablette ou un smartphone. Ça fait beaucoup de monde. Et là, bien sûr, estomaqués par les réponses que donnaient la machine nous - curieux, médias, et pseudo experts ou entrepreneurs intéressés - nous avons pris le terme comme indiquant une réalité. Et qu’importent les débats sur ce qu’elle est vraiment. Nous y avons accès, donc elle existe.
Est-elle , vraiment intelligente ?
Non ! Répond catégoriquement Evgeny Morozov, spécialiste américain des implications sociales et politiques du digital. Les capacités de ChatGPT se réduisent, selon lui, à du "pattern matching" (la capacité de retrouver les mêmes motifs et donc de les reproduire en étudiant des myriades de données).
Les humains, eux, ont la capacité de généraliser, d’introduire des émotions dans des raisonnements rationnels et, ainsi, de les transformer. Il en donne comme délicieux exemple la présentation d’un urinoir en « Fontaine » faite par Marcel Duchamps en 1917 le transformant ainsi en objet d'art (Elle est au centre Pompidou).
« ChatGPT a son utilité » reconnaît Morozov. « C’est un moteur de prédiction qui peut aussi servir d'encyclopédie. [...] C'est une machine statistique bien rodée mais prévisible ». Ceci dit, en la qualifiant d’intelligence artificielle nous risquons de nous convaincre que le monde n'est que rationnel. J’ajoute qu’elle n’a pas besoin de sentir des émotions pour imiter de façon de plus en plus convaincante nos codes sociaux.
Il ne s’agit en fait que d’une « intelligence artificielle pour consommateurs » insiste James Bridle, artiste britannique. « Ce qui se passe sous le capot est loin d’être intelligent ». La vraie différence aujourd’hui - nous parlons bien de l’IA - « n’est pas dans l’intelligence, mais dans les données et dans la puissance ».
Mon résumé : ça ressemble plus à une Dacia qu’à la Lamborghini qu’elle prétend être.
Est-elle vraiment artificielle ?
Et tout ça est très loin d’être artificiel assène Bridle. Les informations récupérées et utilisées par des chatbots comme celui de Google ou de OpenAI-Microsoft sont le fruit du travail d'humains qui ne sont pas récompensés, pas rémunérés. Des expressions « volées » à un tel nombre d’individus de façon si systématique qu’il s’agit bien de l’expropriation d’une ou plusieurs cultures.
Il n'y a pas d'originalité, que de l'imitation et du pastiche bien fait. Dans le meilleur des cas cela peut être un bon assistant mais pas plus : « Il est intrinsèquement stupide. Il a lu la plus grande partie de l’internet et sait à quoi est censé ressembler le langage humain, mais il n'a aucun rapport avec la réalité ».
Le sociologue Antonio Casilli va plus loin encore. Les micro-tâches indispensables à l'IA sont réalisées par des humains (et payées en centimes l’unité). Il en distingue trois sortes : « celles qui servent à réparer l’IA, celles qui vérifient l’IA et celles qui imitent l’IA. […]elles consistent à traiter de grandes masses de données en les fragmentant et en les atomisant en petits projets » et cela semble impliquer des millions de personnes, voir plus.
Il donne comme exemples l’étiquetage de photos de chats ou de chiens pour les distinguer ou la création d’échantillons de conversation dans une langue donnée. Sans oublier les interventions humaines quand l’IA hallucine.
Mon court dialogue avec ChatGPT sur la définition de l’intelligence
[A peine raccourci. Je signalerai chaque fois que j’ai recours à l’IA]
- J’aimerais une définition de l'intelligence par un auteur classique français
- Blaise Pascal : "L'intelligence est naturelle à l'homme ; c'est la capacité de connaître et de comprendre."
- Et une définition, toujours d'un auteur classique français qui inclue la notion d'adaptation
- Charles Darwin : "L'intelligence est basée sur la capacité d'adaptation d'un organisme à son environnement."
- Je ne savais pas que Charles Darwin était français
- Je m'excuse pour l'erreur précédente, Charles Darwin était plutôt un naturaliste et biologiste britannique du XIXe siècle. Si vous souhaitez une définition de l'intelligence par un auteur classique français qui inclue la notion d'adaptation, voici :
- Henri Bergson a écrit dans son livre "L'Évolution créatrice" : "L'intelligence est avant tout la faculté de s'adapter à des situations nouvelles".
Utile, à condition de ne pas oublier que, même quand il s’agit de simples données, ChatGPT peut se tromper…
Du concret > Le chatbot de Bloomberg + Type.ai
Bloomberg, l’agence d'information business, vient d’annoncer le lancement d’un chatbot de la finance, alimenté par ses archives et quelques sources publiques sélectionnées. Elle illustre une tendance qui semble devoir se développer à grande vitesse : les chatbots spécialisés. Le sien a l’avantage d’intéresser des clients solvables soucieux d’éviter les hallucinations subversives (comme quoi les biais peuvent avoir du bon). Créateur de l’entreprise et ancien maire de New York, Michael Bloomberg a comme formule fétiche « In God we trust, everyone else: bring data ». Nous avons confiance en Dieu (devise officielle des États-Unis). Tous les autres : apportez des données.
Type.ai aide à écrire, parfois avec humour
Au prompt « lIA n’est ni intelligente ni artificielle avec humour » elle a répondu : « En gros, c'est un peu comme si on avait pris un grille-pain, qu'on lui avait collé une webcam et qu'on avait dit "tiens, voilà de l'IA". Bon, j'exagère un peu, mais vous voyez l'idée. Enfin, tout ça pour dire que si vous cherchez un ami intelligent, l'IA n'est peut-être pas la meilleure option. Mais si vous voulez un compagnon qui vous écoute sans jamais se plaindre, qui ne vous juge pas et qui peut vous rappeler d'acheter du lait, alors un chatbot ou un assistant vocal pourrait bien faire l'affaire ! » Utile, peut-être, mais très cher : 23 ou 29 US dollars par mois suivant que vous payez annuellement ou pas.
Conférence donnée à Pantin en juin 2023 par Luc Julia, concepteur de Siri et Directeur scientifique de Renault.
L’intelligence artificielle n’existe pas.
