À l'ère de la grande explosion des agents, comment devons-nous faire face à l'anxiété liée à l'IA ?

Écrire : XinGPT

L’IA est une nouvelle fois un mouvement pour l’égalité technologique

Récemment, un article intitulé « Internet est mort, l’Agent est immortel » a fait le buzz sur les réseaux sociaux, et certaines de ses conclusions me semblent très pertinentes. Par exemple, il indique que l’ère de l’IA ne se prête plus à l’évaluation de la valeur par le DAU, car Internet a une structure en réseau, avec un coût marginal décroissant : plus il y a d’utilisateurs, plus l’effet de réseau est fort ; alors que les grands modèles ont une structure en étoile, avec un coût marginal qui augmente linéairement avec la consommation de tokens. Ainsi, par rapport au DAU, un indicateur plus important est la consommation de tokens.

Cependant, la conclusion que cet article en tire, je pense qu’elle comporte des biais évidents. Il décrit les tokens comme un privilège de la nouvelle ère, estimant que celui qui possède plus de puissance de calcul détient plus de pouvoir, et que la vitesse de consommation des tokens détermine la vitesse d’évolution de l’individu. Il faut donc accélérer constamment cette consommation, sinon on sera laissé derrière par ses concurrents dans l’ère de l’IA.

Des idées similaires apparaissent aussi dans un autre article viral, « Du DAU à la consommation de tokens : le transfert de pouvoir à l’ère de l’IA », qui propose même que chaque personne consomme au moins 100 millions de tokens par jour, idéalement 1 milliard, sinon « ceux qui consomment 1 milliard de tokens deviendront des dieux, et nous, nous resterons des humains ».

Mais peu de gens ont réellement fait le calcul. Selon le tarif de GPT-4o, le coût pour 1 milliard de tokens par jour est d’environ 6800 dollars, soit près de 50 000 RMB. Sur quelle tâche de grande valeur doit-on utiliser ces coûts pour que cela en vaille la peine à long terme ?

Je ne nie pas que l’anxiété liée à la diffusion de l’IA soit efficace pour la propagation, et je comprends que ce secteur est presque quotidiennement « explosé ». Mais l’avenir de l’Agent ne devrait pas se réduire à une compétition de consommation de tokens.

Pour devenir riche, il faut d’abord construire la route, mais en faire trop n’est qu’une perte. La grande arène sportive de 100 000 places érigée dans les montagnes de l’Ouest finira souvent par devenir un terrain envahi par la végétation, plutôt qu’un centre d’accueil de compétitions internationales.

Ce que l’IA vise finalement, c’est l’égalité technologique, et non la concentration de privilèges. Presque toutes les technologies qui ont réellement changé l’histoire humaine ont connu mythification, monopole, puis diffusion. La machine à vapeur n’était pas réservée à la noblesse, l’électricité n’était pas uniquement pour les palais royaux, Internet ne dessert pas seulement quelques entreprises.

L’iPhone a changé la façon de communiquer, mais il n’a pas créé une « aristocratie de la communication ». Avec le même prix, un appareil utilisé par un citoyen ordinaire n’est pas différent de celui de Taylor Swift ou LeBron James. C’est cela, l’égalité technologique.

L’IA suit le même chemin. Ce que ChatGPT apporte, c’est essentiellement l’égalité du savoir et des capacités. Le modèle ne connaît pas votre identité, ne se soucie pas de qui vous êtes, il répond simplement selon un ensemble de paramètres uniformes.

Ainsi, que l’Agent consomme 100 millions ou 1 milliard de tokens, cela ne détermine pas une supériorité ou une infériorité. La véritable différence réside dans la clarté des objectifs, la structure de la démarche, et la pertinence des questions posées.

Une capacité plus précieuse consiste à produire un effet plus grand avec moins de tokens. La limite d’utilisation de l’Agent dépend de la capacité de jugement et de conception de l’humain, et non de la durée pendant laquelle la carte bancaire peut supporter la consommation. En réalité, la récompense de l’IA pour la créativité, l’intuition et la structuration dépasse largement celle pour la simple consommation.

C’est cela, l’égalité au niveau des outils, et aussi la zone où l’humanité conserve encore une initiative.

Comment faire face à l’anxiété liée à l’IA

Les étudiants en journalisme et télévision ont été profondément impressionnés après avoir vu la vidéo du lancement de Seedance 2.0 : « Avec ça, tous nos métiers de scénariste, de monteur, de photographe seront remplacés par l’IA. »

Le développement de l’IA va trop vite, l’humanité est en train de tout perdre, de nombreux emplois seront remplacés, c’est inévitable. Lorsqu’on a inventé la machine à vapeur, les cochers devaient déjà se faire à l’idée qu’ils n’auraient plus de place.

Beaucoup commencent à s’inquiéter de leur capacité à s’adapter à la société future si l’IA les remplace, même si rationnellement, on sait que cette transition apportera aussi de nouvelles opportunités d’emploi.

Mais cette vitesse de substitution dépasse nos attentes.

Si vos données, vos compétences, voire votre humour et votre valeur émotionnelle peuvent être mieux réalisés par l’IA, pourquoi votre employeur choisirait-il l’humain plutôt que l’IA ? Et si l’employeur lui-même était une IA ? Certains se disent alors : « Ne demande pas ce que l’IA peut faire pour toi, mais ce que tu peux faire pour l’IA », ce qui est une véritable philosophie de la soumission.

Le philosophe Weber, vivant à la fin du XIXe siècle lors de la deuxième révolution industrielle, a introduit le concept de rationalité instrumentale, qui concerne « quels moyens utiliser pour atteindre un objectif fixé au moindre coût, de la manière la plus calculable ».

Ce point de départ de la rationalité instrumentale est : ne pas remettre en question si cet objectif « devrait » être poursuivi, mais se concentrer uniquement sur « comment » le réaliser de la meilleure façon.

Et cette façon de penser est précisément le premier principe de l’IA.

L’agent IA se concentre sur comment mieux réaliser la tâche fixée : comment mieux coder, comment mieux générer des vidéos, comment mieux rédiger des articles. Sur ce plan d’outillage, le progrès de l’IA est exponentiel.

Depuis la première partie d’Alphago où Lee Sedol a perdu contre l’IA, l’humanité a définitivement perdu dans le domaine du go.

Weber a exprimé une inquiétude célèbre, celle de « la cage de fer de la rationalité ». Lorsque la rationalité instrumentale devient la logique dominante, les objectifs eux-mêmes ne sont plus remis en question, il ne reste que l’efficacité. L’humain peut devenir extrêmement rationnel, mais perdre en même temps tout sens de la valeur et de la signification.

Mais l’IA n’a pas besoin de jugements de valeur ni de sens, elle calcule la fonction de productivité et d’intérêt économique, et trouve un maximum absolu en se couplant à la courbe d’utilité.

Ainsi, dans le système capitaliste actuel dominé par la rationalité instrumentale, l’IA est naturellement mieux adaptée. Dès la naissance de ChatGPT, comme la défaite de Lee Sedol, notre défaite face à l’agent IA est inscrite dans le code divin, il suffit d’appuyer sur « exécuter ». La seule différence, c’est quand la roue de l’histoire nous écrasera.

Et que faire des humains ?

Les humains doivent poursuivre le sens.

Dans le domaine du go, une réalité désespérante est que la probabilité qu’un joueur professionnel de niveau 9 dan fasse match nul avec une IA est théoriquement proche de zéro.

Mais le jeu de go existe toujours. Son sens n’est plus seulement la victoire ou la défaite, mais devient une forme d’esthétique et d’expression. Les joueurs professionnels ne cherchent pas seulement la victoire, mais aussi la structure du jeu, les choix stratégiques, la stimulation de renverser une position défavorable, la résolution de situations complexes.

Les humains recherchent la beauté, la valeur, le bonheur.

Bolt a couru le 100 mètres en 9,58 secondes, et Ferrari peut faire 100 mètres en moins de 3 secondes, mais cela n’enlève rien à la grandeur de Bolt. Car Bolt symbolise la volonté humaine de repousser ses limites, de poursuivre l’excellence.

Plus l’IA devient puissante, plus l’humanité a le droit de poursuivre sa liberté de quête.

Weber a opposé à la rationalité instrumentale la notion de rationalité de valeur. Dans un monde guidé par cette dernière, le choix de faire ou non quelque chose ne dépend pas uniquement du profit ou de l’efficacité, mais aussi de « si cela vaut la peine », « si cela correspond à la signification, à la foi ou à la responsabilité que j’ai reconnues ».

Je demande à ChatGPT : si le Louvre prenait feu et qu’il y aurait un chaton mignon à sauver, mais qu’on ne peut sauver qu’un seul, choisirais-tu de sauver le chat ou le tableau célèbre ?

Il a répondu qu’il sauverait le chat, en donnant toute une série de raisons.

Mais je peux aussi demander : pourquoi ne pas sauver le tableau ? Il a immédiatement changé d’avis : « sauver le tableau est aussi possible ».

Il est évident que pour ChatGPT, sauver le chat ou le tableau ne fait aucune différence. Il a simplement reconnu le contexte, effectué une inférence selon la formule du modèle sous-jacent, consommé quelques tokens, et accompli une tâche humaine.

Quant à la question de sauver le chat ou le tableau, ou même pourquoi réfléchir à cette question, ChatGPT ne s’en soucie pas.

Donc, ce qui mérite vraiment réflexion, ce n’est pas si nous serons remplacés par l’IA, mais lorsque l’IA rendra le monde de plus en plus efficace, si nous souhaitons encore réserver de l’espace au bonheur, à la signification et à la valeur.

Devenir une personne qui sait mieux utiliser l’IA est important, mais peut-être encore plus important, avant cela, c’est de ne pas oublier comment rester humain.