À quand les 35 tokens ?
Dans cet épisode nous allons nous interroger sur la pertinence d’une suggestion issue du monde de l’IA.
On connaît ces managers aux relents féodaux qui scrutent tous tes faits et gestes, imaginant disposer d’un droit divin sur LEURS salariés, comptant au passage leur temps de travail à la seconde prêt.
Imposant une réunion à distance à 9H chaque matin pour s’assurer que tu es bien connecté, regardant à quelle heure tu quittes le bureau, ne manquant jamais l’occasion d’une remarque acerbe déguisée sous le ton de la blague, laissant leur veste sur le dos de leur chaise pour faire croire qu’ils restent tard le soir.
Ce que cela pointe – au-delà du côté pointilleux de la chose – c’est l’archaïsme de l’instrument de mesure.
Le serpent de mer du temps de travail comme mètre-étalon. Pas le temps de travail qu’on légifère faute d’avoir trouvé mieux mais celui qui pourrait servir d’outil d’évaluation dudit travail, de la productivité de celles et ceux qui l’exercent etc.
Et là, a-t-on besoin de sortir de la cuisse à Jupiter comprendre que c’est un peu simpliste en effet comme unité de mesure. Mais alors, on remplace par quoi ? Par des tokens ? A quand les 35 tokens, c’est quoi l’histoire ?
Les 35 tokens, ce n’est pas une histoire de 40 voleurs et encore moins de hobbit. « Token » on vous dit, pas tolkien. Bon mais encore.
Un token c’est un jeton en anglais mais plus précisément dans le monde de l’Intelligence Artificielle, pour faire court, c’est un bout de chaîne de données. Une sorte d’unité de base.
Quand vous utilisez un LLM, ce que vous lui envoyez – qu’il s’agisse d’un prompt ou du contexte qui va avec – c’est découpé en rondelles de saucisson. Une rondelle, c’est un token.
C’est donc une unité d’utilisation – potentiellement de facturation d’ailleurs – à partir de laquelle on peut par conséquent évaluer le volume d’échange de données entre un utilisateur et une IA.
On sent le lien arriver et, spontanément, je dirai même le lien à la con. Mais voilà c’est ainsi.
Tout part d’une petite phrase, comme souvent, évidemment sortie de son contexte sinon ce ne serait pas drôle, du patron de la société Nvidia, Jensen Huang.
Dans un podcast – comme quoi on en dit des bêtises dans les podcasts – il aurait ainsi suggéré que le nombre de tokens consommés par ses ingénieurs pourraient faire partie de leur évaluation.
Il trouverait au demeurant « inquiétant » qu’un ingénieur n’en consomme pas ou peu. Voilà qui est dit.
Et comme tout va vite, surtout dans cet univers-là, le terme de tokenmaxxing aurait fait son apparition dans la Silicon Valley pour désigner l’utilisation de cet indicateur comme mesure de la productivité
Avouons que le temps de travail pour mesurer la productivité comme un volume de tokens c’est à peu près aussi subtil que de mesurer le nombre de mouvements de la souris pour savoir si tu es productif.
Quand il s’agit de trouver des indicateurs simplistes ou de réduire la complexité du monde et des choses à 4 cases, c’est fou ce qu’on peut être créatif.
La bêtise humaine a ceci de plus que l’intelligence artificielle c’est que, pour paraphraser Einstein, elle est infinie.
On veut bien que le volume de tokens soit un indicateur d’utilisation des outils d’intelligence artificielle. Après tout, le volume d’eau consommé par ta machine à laver le linge est un indicateur de ton utilisation de la machine. Voilà qui nous fait une belle jambe.
Admettons même que le volume de tokens soit un des indicateurs de l’adoption de l’IA. Même si on ne sait pas ce que les gens en font. Si ça se trouve c’est pour faire des images débiles à envoyer aux copains ou des posts slops sur les réseaux.
Par exemple, celui qui fait une utilisation intelligente des LLM pour réduire sa facture de tokens verrait donc son appréciation baisser alors que c’est tout l’inverse dont il s’agit.
Le nombre de coups de truelle pour évaluer le maçon, on n’y aurait pas pensé, sauf à être malhonnête ou à ne pas avoir la moindre idée de ce qu’est le travail et de ce qu’il produit comme résultat ou valeur.
Ou d’avoir une confiance tellement aveugle dans la puissance d’un outil que la seule mesure de son taux d’utilisation indiquerait la performance du résultat !
Là encore, c’est aussi simpliste que biaisé. Ce n’est donc pas difficile de voir dans ce type de suggestion qu’un Nième coup du techno-marketing.
Le temps qu’on passe sur quelque chose ne dit rien sur ce à quoi on le passe, utilement ou pas. Pas plus qu’un token. On l’utilise comment ce token ? On en fait quoi ? Il produit quoi ?
Tout se mesure dit-on. Que c’est court comme vision. L’hypnose de la jauge ! On connaît l’adage, le doigt, la lune, et ce qu’on regarde.
Le temps à brasser du vent dans des réunions n’a pas plus de valeur pour l’entreprise que le prompt à la con. Bref.
On pourrait proposer à ses managers qui proposent le token comme unité de mesure de productivité… de les payer en tokens… Comme cela la boucle serait bouclée non ? Mais ce n’est qu’une suggestion bien sûr.
Mais alors, si c’est une évidence que des indicateurs de ce type sont inopérants pour apprécier la qualité du travail, pour quelle raison le temps de travail en obsède-t-il encore ?
Pourquoi certains managers, garde-chiourmes controleur des poids et des mesures en font-ils l’alpha et l’oméga de leur regard sur le travail, surtout celui des autres. Va savoir…
Peut-être qu’on ne progresse pas si vite que cela dans l’intelligence et la sagesse mais c’est une autre histoire.
Une histoire qui invite peut-être à se méfier bien plus de la bêtise humaine que de l’intelligence artificielle. Dommage que ce soit le premier qui utilise la seconde…
En résumé, envisager d’apprécier la productivité de salariés à partir du volume de tokens consommés c’est confondre le taux d’utilisation de l’outil, ce à quoi on l’utilise et la performance ou la valeur de ce qui en résulte. C’est donc simpliste… ou malhonnête.
J’ai bon chef ?
Oui tu as bon mais on ne va pas en faire toute une histoire.