Games of AI : c'est qui les pions ? ≈034
Les mésaventures de Sam Altman et d’OpenAI, son entreprise (pour le moment), sont un cas d’école révélateur du fonctionnement de la tech et du big business à Silicon Valley. Accrochez vos ceintures...
The Game of AIs (au pluriel) met en jeu des ressources - celles de Microsoft - plus grandes que celles de pays aussi important que le Brésil, le Canada, la Russie, la Corée du sud, l’Australie ou l’Espagne. Il se joue autour du contrôle d’une des technologies les plus puissantes, mais toujours mal connue, mises au point par les humains. Argent et pouvoir, voilà de quoi nous passionner (et pas seulement nous inquiéter) pendant un moment. Mais le monde où il se joue n’a rien de fictionnel, c’est le nôtre.
La série est suivie par tous les médias et je vous épargnerai les détails pour me concentrer sur les questions qu’elle pose et qui nous concernent.
Pour qui était sur la lune - littéralement - ces derniers jours je me contenterai de rappeler très brièvement les 5 épisodes de la mini série.
- E1 : Le conseil d’administration d’OpenAI, l’entreprise qui a créé ChatGPT accuse son PDG, Sam Altman, de « manque de sincérité » et le fout à la porte.
- E2 : Microsoft offre à Altman de lui confier la direction d’un lab indépendant consacré à IA.
- E3 - La presque totalité des employés d’OpenAI, dont l’acteur principal du licenciement d’Altman, protestent contre… le licenciement et menacent de faire défection.
- E4 - Accusé de holdup par un professeur de Berkeley, Microsoft se renforce avec l’acquisition d’Altman et de son équipe. Panique à Silicon Valley.
- E5 - Altman rentre au bercail ! Final hollywoodien. Trompeur.
En Californie on appelle ça un cliffhanger, un scénario à suspens. Celui-ci est dû à la tension entre la volonté affichée de ne pas aller trop vite en raison des risques - et l’implacable compétition qu'on appelle « main invisible » du marché.
L’idéologie dans la tech
Plein de talents très appréciés, dont celui de repérer les bons coups et de convaincre les puissants de le soutenir et d’investir dans ses différents projets comme le rappelle le Washington Post, Sam Altman est aussi un drôle de loulou à qui il est déjà arrivé de faire passer ses intérêts en premier, de s’arranger pour éviter tout contrôle et de se faire virer. Mais l’enjeu est trop important cette fois, pour nous limiter au petit bout de la lorgnette.
L’histoire d’OpenAI laisse entendre que le conflit est d’ordre éthique.
- Lancée comme entreprise sans but lucratif pour mettre l’IA au service de l’humanité (sic) elle avait besoin, pour croître, de beaucoup beaucoup d’argent et de beaucoup beaucoup d’ordinateurs (fournis, essentiellement par Microsoft).
- L’investissement s’est fait sans altération de la structure de « not for profit ».
- Gonflé par ses succès, Altman a senti des rockets pousser sous ses ailes et s’est lancé dans une stratégie de croissance accélérée.
- Inquiets, ses copains du départ l’ont viré.
La première saison de la série est donc montrée comme un conflit entre deux visions du monde sur le rythme de croissance, qui est à la fois une question éthique et de gros sous. Une indication convaincante que la technologie, conçue de façon dynamique est idéologie ou, pour être plus précis, qu’elle n’existe pas et ne peut pas exister sans mettre en jeu des dimensions idéologiques.
Pourquoi parler d’idéologie ? Parce que les auteurs du « coup d’état » contre Altman naviguent dans les sphères d’un mouvement connu comme « effective altruism » mal traduit par « altruisme efficace ». Un mouvement qui affirme vouloir faire le bien dans le monde le plus efficacement possible grâce à l’utilisation de fortunes individuelles accumulées dans le plus pur respect du marché. Très en vogue chez les milliardaires (et pas seulement) il leur permet de s’en « servir pour justifier leur position dominante et arguer du fait que, grâce à leurs dons, ils sont les mieux placés pour avoir un impact positif maximum. » Notons qu’en effet (sic), Sam Bankman-Fried, grand fraudeur de cryptomonnaie s’en est servi pour masquer ses actions illégales.
La loi du business
L’idéologie « altruiste », même mal défendue, compte mais rien ne résiste au mode de fonctionnement du monde des affaires. Altman et sa logique de croissance sont de retour, en tous cas pour le moment. La structure d’OpenAi risque de changer. Microsoft qui « ne veut plus de surprises » devait accroître son influence. La valeur de ses actions qui avait chuté à la fin de l’Episode 1, a remonté et tous nos amis américains s’apprêtent à retrouver leurs familles pour le long week-end de Thanksgiving qui commence aujourd’hui. Mais rien ne nous assure qu’il sera l’occasion d’une pause.
Et ne croyons pas qu’OpenAI est un cas à part. Meta-Facebook et Microsoft ont récemment supprimé leurs départements responsables de l’IA responsable, celle qui s’efforce de limiter les effets négatifs de la course au gros lot. Derrière l’incident se cache (mal) un vrai problème. Je ne sais pas encore jusqu’à quel point l’IA peut être dangereuse mais la logique du business de haut niveau peut l’être. Pour l’expert Gary Marcus : « La sécurité et le rendement financier [seront] toujours en tension, » que je ne peux me retenir de qualifier d’asymétrique. Devinez en faveur de qui.
Profitons de la pause pour observer que :
- Quels que soient les détours qu’elles prennent et les discours dont elles se parent, les bonnes intentions ne résistent pas à l’extrême compétition qui régit la BigTech. Elle se fait, trop souvent dans le secret pour ce qui compte vraiment.
- Des milliards et plus que ça (je veux dire une bonne partie de notre avenir) sont mis en cause par des décisions prises par de tous petits groupes, essentiellement masculins, qui ne répondent à aucun fonctionnement démocratique. La dernière crise met en cause la responsabilité des patrons et du système de réglementation qui tend à leur faire une trop grande place et à leur fixer des limites peu claires au nom de la défense de l’innovation.
- Le rapport de force entre travailleurs du savoir et patrons d’entreprise est en train de changer considérablement. La richesse potentielle des boîtes dépend de la capacité de créer et donc de l’autonomie des employés. C’est tout un pan de l’activité économique qui est en train de changer. Bonne nouvelle pour eux… mais, comme société, nous devons faire très attention aux modes, engouements, montées aux extrêmes et fantasmes dont ils peuvent être victimes comme nous tous.
Envoi - « Le business est compétition et la compétition dans le big business c’est la guerre ». Ne cherchez pas, je viens de l’inventer, mais l’idée est courante comme je vous invite à le vérifier un peu plus bas. En attendant le spectacle continue. De nouveaux épisodes nous attendent j’en suis sûr. Peut-être une version Netflix l’an prochain
Googlez : business is war ou business as war et essayez en français si vous préférez
Sur un autre ton - A l’école des colibris
En ces temps de simplifications à tout va - toute ressemblance à une situation politique, quelle qu’elle soit, ne serait que le fruit d’un improbable hasard - je vous invite à découvrir que le colibri est capable d’avoir deux stratégies pour franchir un obstacle et de choisir en fonction des situations, c’est-à-dire des risques. De face ou de côté, c’est quand même pas si compliqué, et c’est beau à voir.
A la semaine prochaine…
Bon, ça pourrait être rigolo mais...
J'ai adoré les colibris !