La piste de Colomb (Christophe) ≈007

Jouons aujourd’hui avec trois vignettes : l’humour ambivalent, la peur dangereuse, et notre expérience digitale acquise au fil des ans. Un jeu de points à relier (connect the dots) pour apprendre à naviguer dans ce nouveau monde…

Image shutterstock_188393966

1) L’humour ambivalent

A défaut de preuves faisant consensus, je vous propose deux prises de positions de scientifiques de haut niveau qui s’appuient sur la capacité des intelligences artificielles de comprendre et faire de l’humour pour en tirer des conclusions contraires.

Geoffrey Hinton, le « parrain de l’IA » dont j’ai parlé la semaine dernière, raconte à Wired avoir été surpris par la qualité du commentaire de son système quand il lui a demandé d’expliquer une blague conçue par lui, l’humain. « Cela faisait des années que je disait qu’il faudrait beaucoup de temps pour que l’IA puisse dire pourquoi une blague est drôle. Ce fût l’épreuve de vérité » qui entraîna sa crainte qu’elle puisse devenir plus intelligente que nous.

Le mathématicien Étienne Ghys part de la même constatation pour en tirer, dans Le Monde, la conclusion inverse : « Je devais faire une conférence le 1er avril et je cherchais une idée de poisson d’avril. Voici la proposition de GPT : « Vous annoncez que vous avez résolu l’hypothèse de Riemann [l’un des problèmes ouverts les plus célèbres], que la solution est si courte que vous avez pu la rédiger sur un petit morceau de papier que vous brandissez devant l’assistance, mais que vous ne souhaitez pas la rendre publique. Puis vous avalez le papier. » Une plaisanterie « décalée » pour matheux, mais plaisanterie tout de même.

La machine avait d’abord donné des réponses inacceptables sur le théorème de Pythagore. Mais l'optimiste ne s’est pas laissé abattre. « Il ne faudrait pas, cependant, jeter le bébé avec l’eau du bain » dit-il. « D’une part, il n’y a aucun doute que GPT va progresser très rapidement. » Ayant lui même corrigé la réponse erronée il « ose espérer que [la machine] ne commettra plus cette erreur grossière. » Nous pouvons contribuer à l'améliorer en l'utilisant. D’où son conseil : « il nous faut apprendre à l’utiliser comme un assistant, qui connaît beaucoup de choses. » Un collègue imaginaire superbement doué mais capable de se tromper, face auquel il ne faut pas « baisser la garde sur la pertinence et la véracité de ce qu’il nous souffle à l’oreille. »

Question de tempérament ou d’attitude. Risques et opportunités sont réels. Le mieux est d’avancer, de faire confiance à ce.tte jeune jeune interne superbement doué.e mais ayant encore besoin d’une longue période de formation.

»»» Pour qui souhaite comprendre, voici une explication gratuite et en français de La science derrière l’humour et l’esprit de ChatGPT-4.

2 ) La peur dangereuse 

Le risque dont nous n’avons pas encore parlé c’est de passer à côté d’une opportunité ou d’une transformation. Laisser filer un train qui vous fonce dessus est plutôt de bon conseil. Mais le louper quand on doit le prendre peut conduire à bien des soucis et sous estimer le chemin de fer conduit, entre autres, à l’abus de la voiture. Ça vaut la peine de faire un effort.

Nous sommes tentés de nous en abstenir par peur de devoir nous renouveler. Or, face à l’incertitude, nous réagissons en fonction de notre caractère, plus encore que des arguments scientifiques qui, pour la plupart d’entre nous, sont encore bien mystérieux. Nombreux sont ceux qui ayant lu trop d’articles alarmants ou fait un test non probant, rejettent toute l’IA (ce qui ne les mettra à l’abri de rien). Une réaction d’autant moins maline qu’on est plus jeune.

Question d’attitude, nous venons de le voir mais, outre l’indispensable regard critique qu’on doit porter sur tout ce qui nous arrive de l’extérieur il faut encore plus se méfier du moment où on croit à son propre discours. Les découvertes récentes sur les biais cognitifs nous enseignent que nous avons facilement tendance à nous précipiter sur le plus simple (moins fatiguant), sur ce qui nous épargne de remettre en question nos présupposés ou d’accepter que nous allons devoir apprendre.

3) Notre expérience digitale

En fait, celles et ceux qui lisent ces lignes sont tou.te.s des digerati, des gens qui, soit comme natifs, soit comme immigrants du digital - pour reprendre une vieille distinction des années quatre-vingt dix - se servent, avec plus ou moins d’aise, des TIC (technologies de l’information et de la communication). Ils ou elles ont déjà connu des réticences et des craintes surgies au moment de l’apparition des ordinateurs, de l’internet, du web, de Wikipedia, des textes et livres virtuels, des téléphones mobiles, des réseaux sociaux, du streaming etc. 

Ils ont souvent commencé par rejeter avant de se laisser convaincre de façon acritique, comme quand ils donnent (je n’y échappe pas) des informations personnelles qui valent de l’or en échange d’une gratuité qui finit par nous coûter cher.

Les technologies ne sont ni bonnes ni mauvaises, elles ne sont pas neutres non plus. A nous de bien les utiliser.

Connect the dots : la piste de Colomb

Reprenons : 1) Notre tempérament et nos bais personnels sont déterminants en cette période d’encore grande incertitude sur ce qu’est l’IA et ce qu’elle peut entraîner; 2) Restons perplexes et toujours curieux, mais méfions-nous de nos peurs, plus risquées que bien des audaces; 3) Nous pouvons nous appuyer sur notre propre expérience du digital pour avancer sur ce nouvel espace encore inconnu.

C'est ainsi que nous nous retrouvons un peu comme Colomb qui avait des raisons de se lancer vers l’ouest sans savoir exactement ce qu’il allait trouver. La « découverte » a donné lieu à bien des horreurs liées aux préjudices de l’époque, de notre culture et à l’incapacité d’intégrer ce « nouveau monde. » Mais les découvreurs ne sont pas les plus dangereux. Ce sont les conquistadores, qui viennent après avec une volonté de richesse totale et de domination. A nous de veiller…

Mais Colomb ne connaissait pas le scorbut. Il ne savait pas que nos simples grippes pouvaient tuer des millions d’Amerindiens. La vraie nouveauté est peut-être que nous pouvons avancer dans ce nouveau monde avec une connaissance non négligeable des risques encourus. Ce qui nous permet d’avancer tout en balisant le chemin grâce à ces outils mêmes qui nous ont permis d’arriver où nous en sommes. Attention, je ne parle pas de progrès mais, plus simplement de chemin, parcouru et à parcourir…