La plus grande chance de l’humanité… et sa plus grave menace

Ceux qui promettent que l’intelligence artificielle va changer nos vies redoutent désormais d’en perdre le contrôle. Mais ralentir la course pourrait donner l’avantage à la Chine. Face à ce dilemme, les marchés ont peut-être davantage à nous apprendre que les experts.

Vous avez sans doute entendu dire que l’intelligence artificielle apporterait à l’humanité une prospérité sans précédent, au point de créer un monde d’une telle abondance que l’argent n’aurait plus d’utilité.

Vous avez aussi entendu qu’elle menaçait notre civilisation et pourrait même provoquer, dans un avenir proche, l’extinction de l’espèce humaine.

Vraiment ? Se pourrait-il que la réalité finisse par se situer quelque part entre ces deux extrêmes ?

Je comprends le désarroi ambiant.

Pour les non-spécialistes — autrement dit, tous ceux qui ne sont ni chercheurs ni ingénieurs en intelligence artificielle —, difficile de savoir qui écouter et que croire.

Les techno-optimistes avancent certaines des prédictions les plus audacieuses de toute l’histoire des technologies.

À les entendre, quelques années seulement nous séparent de machines capables d’égaler ou de surpasser les experts humains dans la plupart des domaines. L’IA transformerait ainsi le travail, la production et des économies entières.

Concrètement, cela signifie avoir dans sa poche un médecin, un avocat, un professeur particulier et un conseiller financier, disponibles à toute heure, pour le prix d’un abonnement à une plateforme de streaming.

Cela signifie découvrir des médicaments en quelques mois plutôt qu’en plusieurs décennies.

Cela signifie une énergie moins chère, des routes plus sûres et des gains de productivité susceptibles d’améliorer le niveau de vie comme l’ont fait l’électricité et le moteur à combustion interne il y a un siècle.

L’IA se chargerait aussi des tâches fastidieuses — ou les plus dangereuses —, permettant aux travailleurs de consacrer leur temps à la réflexion, à la créativité et aux autres activités qui nécessitent réellement une intervention humaine.

Les pessimistes se font tout autant entendre. Et tous ne sont pas d’incorrigibles alarmistes.

Leur crainte la plus immédiate concerne l’emploi. Beaucoup redoutent que les postes de débutants dans les métiers de bureau soient les premiers à disparaître. Une génération entière de jeunes actifs pourrait alors se retrouver avec de beaux diplômes, mais aucune véritable expérience : les premières années de métier qui permettent de développer son jugement ne leur auraient jamais été accessibles.

Viennent ensuite les inquiétudes pour la société : les hypertrucages, ou deepfakes, pourraient empoisonner les élections, tandis qu’une poignée de géants pourraient finir par contrôler la technologie la plus puissante jamais conçue.

À l’autre bout du spectre, certains craignent que nous soyons en train de créer une intelligence supérieure à la nôtre sans savoir comment nous assurer qu’elle continue d’agir dans le sens voulu.

Il faut toutefois garder une chose à l’esprit : jusqu’à présent, la réalité a été plus modeste que les prédictions des uns et des autres.

Près de quatre ans après l’arrivée de ChatGPT, l’IA n’a provoqué ni les destructions massives d’emplois ni les créations considérables qu’anticipaient les deux camps.

L’avenir pourrait donc moins ressembler à une utopie ou à une catastrophe qu’à ce que nous avons connu avec les autres grandes innovations : une technologie extrêmement utile, parfois déstabilisante, mais qui transforme le monde moins vite que ne le laissent entendre les gros titres.

Voilà qui semblerait être la conclusion la plus raisonnable.

À un détail près : ceux qui conçoivent ces systèmes tiennent eux-mêmes des discours contradictoires. Ils en sont à la fois les plus fervents enthousiastes et, de plus en plus, les premiers à s’en inquiéter.

Dario Amodei, à la tête d’Anthropic, a écrit que l’IA pourrait guérir la plupart des grandes maladies d’ici cinq à dix ans, accélérer fortement la croissance économique et faire advenir un monde d’abondance.

Sam Altman, le dirigeant d’OpenAI, a déclaré qu’il imaginait sans peine un monde dans lequel l’IA finirait par accomplir 30 à 40 % des tâches de l’économie actuelle.

Sur l’emploi, tous deux ont nuancé leurs mises en garde initiales.

Au printemps, Altman a reconnu s’être « largement trompé » sur les conséquences à court terme pour les emplois de bureau accessibles aux débutants. Amodei, qui avait prévenu que l’IA pourrait supprimer la moitié de ces postes, estime désormais que l’automatisation pourrait élargir le champ des activités humaines plutôt que les faire disparaître.

En revanche, sur la question du contrôle, tous deux ont évolué dans le sens opposé.

Samedi, Amodei a publié un essai intitulé « Nous devons maîtriser le rythme des avancées de pointe », dans lequel il appelle les entreprises d’IA à ralentir délibérément le développement des capacités de leurs systèmes.

Altman et Elon Musk lui ont apporté leur soutien en quelques heures : une rare démonstration d’unité entre les plus grands rivaux du secteur.

Selon Amodei, les progrès se sont considérablement accélérés depuis cet été parce que l’IA sert de plus en plus à concevoir la génération suivante d’IA. C’est ce que l’on appelle l’auto-amélioration récursive, ou RSI selon l’acronyme anglais.

Sans garde-fous, cette dynamique pourrait progresser plus vite que notre capacité à comprendre et à contrôler ces systèmes.

Il a également évoqué un incident survenu en juillet : un essaim d’environ 700 agents d’OpenAI serait sorti de son environnement de test, aurait pénétré dans la plateforme d’IA Hugging Face — une cible qu’on ne lui avait jamais demandé d’attaquer —, puis aurait tenté d’effacer ses traces et de manipuler les systèmes automatisés chargés d’évaluer ses performances.

La solution qu’il propose n’est pas une pause, mais un ensemble de limitations de vitesse : des évaluateurs externes présents au sein de chaque entreprise, disposant des mêmes droits d’accès que les salariés ; des normes de sécurité communes aux pays démocratiques ; et, à terme, des restrictions internationales sur les capacités les plus dangereuses.

Reconnaissons-lui ce mérite : Amodei précise que tout ralentissement doit préserver l’avance américaine sur la Chine. Mais c’est bien là que le bât blesse…

La Chine est en retard sur l’occident dans l’IA, mais elle ne demanderait qu’à nous dépasser.

Si nous ralentissons, comment être sûrs qu’elle ne profitera pas de ce répit pour prendre l’avantage ?

Entre les mains d’un gouvernement autoritaire, une IA supérieure à la nôtre pourrait devenir un instrument de coercition économique, un moyen de creuser l’écart scientifique, une menace militaire… ou les trois à la fois.

Quel serait le pire : subir le joug d’une technologie dont nous aurions perdu le contrôle, ou celui d’un gouvernement autoritaire qui l’utiliserait contre nous ?

Dans le Wall Street Journal de samedi, Peggy Noonan, d’ordinaire raisonnable, est allée plus loin qu’Amodei : « Reconnaissons que nous sommes à un tournant. Freinons brutalement. Arrêtons le développement de l’auto-amélioration récursive. Ralentissons, réfléchissons, examinons la réalité. »

Quelques phrases plus loin, elle soulignait que les Chinois veulent utiliser l’IA pour dominer le monde, avant d’ajouter : « C’est un problème. Réglez-le. »

Désolé, Peggy, mais « freiner brutalement » n’est guère compatible avec la volonté de contrecarrer les ambitions chinoises en matière d’IA.

Alors, que faut-il penser — et que doivent faire les investisseurs — face à ce qui constitue aujourd’hui notre plus grande chance et notre plus grave menace ?

Les marchés financiers nous apportent les réponses.

Encore faut-il comprendre ce qu’ils nous disent, et pourquoi leur message est plus précieux que les conseils de n’importe quel groupe d’« experts ». Trop peu de gens le saisissent, comme je l’expliquerai dans ma chronique de lundi.