Et si l’intelligence artificielle devenait le déclencheur de la prochaine panique boursière ? À mesure que les algorithmes prennent le contrôle des décisions d’investissement, le risque de voir les marchés s’emballer grandit. Mais ce n’est pas le seul danger qui menace les géants de l’IA, engagés dans une course effrénée aux valorisations records.
Nous avons déjà dit que l’IA était puissante, qu’elle était partout et qu’elle n’allait pas disparaître. Pour autant, de nombreux dangers associés à l’IA sont poussés sous le tapis par les grandes entreprises d’IA avancée telles qu’OpenAI et Anthropic.
Dans le domaine financier, l’un des dangers serait que l’IA soit utilisée pour gérer des portefeuilles et même exécuter des transactions spécifiques sur des actions, des obligations et des devises.
La difficulté est la suivante : dans un contexte où de plus en plus de gestionnaires de portefeuilles adopteront des algorithmes d’IA entraînés sur des données qui se superposent et construits avec des structures semblables, cela pourrait engendrer rapidement le « phénomène de troupeau ». Ce phénomène pourrait déclencher une panique, car les algorithmes sont dénués du bon sens et de l’esprit critique propres aux humains. Les régulateurs seraient peut-être même contraints d’intervenir pour suspendre les transactions jusqu’à ce que l’ordre soit rétabli.
Bref, l’IA est une caisse de résonance par excellence.
Dans cette description d’une panique de marché potentielle fondée sur l’IA, n’écartez pas la composante la plus puissante : l’IA elle-même pourrait amplifier une attaque menée par l’IA.
Bon nombre des systèmes de gestion des risques et des transactions dont se servent les banquiers, les courtiers et les gestionnaires d’actifs intègrent des fonctionnalités automatisées, ou de l’IA, que les utilisateurs les comprennent ou non.
La plupart de ces applications sont assez simples et relativement inoffensives. Si un système de trading est programmé pour détecter le moment où une action spécifique a baissé de 2 % et qu’il avertit simplement l’utilisateur, c’est une sorte de système d’alerte automatique, mais qui n’est pas dangereux. C’est à l’utilisateur humain de décider quoi faire une fois que ce signal a été envoyé.
À partir de là, on peut facilement coder le système pour qu’il vende automatiquement l’action une fois que ce seuil de 2 % est atteint, sans attendre d’instructions humaines. Les traders considèrent que ces fonctionnalités de stop loss sont appréciables sur des marchés volatils : cela les dispense de surveiller toutes les actions et de prendre toutes les décisions.
Les systèmes intègrent rapidement de nouveaux facteurs, créent davantage de complexité et acquièrent plus d’autonomie.
Certains hedge funds utilisent déjà l’intelligence artificielle pour prendre des décisions d’achat et de vente sans intervention humaine, en s’appuyant sur des systèmes capables d’analyser des milliers de facteurs, grâce à des réseaux de neurones comportant plusieurs couches de traitement, à l’apprentissage profond (« deep learning ») et à un entraînement reposant sur des millions de pages de données et de documents.
D’après certaines études universitaires réalisées récemment, ces systèmes surperforment les analystes et les traders humains.
À mesure que ces systèmes proliféreront, le danger serait qu’un pourcentage de plus en plus important des actifs sous gestion soit remis entre les mains de robots pour faire du trading préprogrammé.
Si les robots étaient dotés de quelque chose s’apparentant à la diversité cognitive humaine – au point que certains intégreraient même une aversion au risque, d’autres suivraient la tendance, d’autres encore seraient contrariens, etc. –, il serait peut-être possible de reproduire un écosystème de trading comparable à celui des investisseurs humains, dans lequel la peur et l’appât du gain se contrebalanceraient, ce qui permettrait de maintenir un équilibre approximatif et de contenir la volatilité.
Mais ce n’est pas le cas.
Les données prises en compte contiennent pour la plupart les mêmes facteurs (appris dans les écoles de commerce, les cursus économiques et les programmes de formation de Wall Street). Les poids de connexion [NDLR : coefficients qui déterminent l’importance accordée à chaque information dans les calculs d’un réseau de neurones artificiels] sont à peu près les mêmes, puisqu’ils reposent sur des analyses de régression similaires. Les seuils de déclenchement des ordres stop loss sont également les mêmes, car ils sont définis par des responsables de la gestion des risques se servant d’outils standardisés, conformément aux directives de leur direction. Enfin, les données reçues sont identiques, puisque nous avons tous accès aux mêmes informations au même moment.
Quand les robots se mettent tous à vendre
Beaucoup d’ensembles d’entraînement se superposent et proviennent des mêmes pages Internet. Par conséquent, on ne devrait pas être étonné que les résultats produits soient les mêmes. En l’absence de coordination pilotée par une hiérarchie, et alors même que l’on ne recherche pas forcément ce résultat, tous les robots finissent par agir à l’unisson.
Les résultats pourraient être terrifiants sur le marché.
Ces risques, entre autres, apparaîtront à un moment donné. Les experts sont déjà capables de les décrire en détail. Il existe des tests documentés au cours desquels les modèles avancés se sont comportés de façon trompeuse ou ont tenté de contourner les garde-fous.
Mais cela n’a pas empêché la course effrénée qui s’est engagée entre OpenAI et Anthropic pour pouvoir entrer en Bourse rapidement avec de colossales valorisations.
Les humains commettent une grosse erreur : ils anthropomorphisent [NDLR : attribuer des caractéristiques, des émotions ou des comportements humains à des êtres, objets ou systèmes qui ne le sont pas] les GPT (et leur IA sous-jacente). On commence à traiter Alexa et Siri, ainsi que d’autres robots, comme des amis ou des confidents ; on leur fait trop confiance. Il est important de se rendre compte qu’il n’y a pas de réelle intelligence derrière cette façade, simplement des calculs.
En plus de cette confiance excessive, il y a le fait que ces systèmes sont très enclins aux erreurs. Ils peuvent réaliser des tâches analytiques remarquables, mais également inventer certaines choses (les fameuses « hallucinations ») et se tromper carrément sur d’autres.
C’est très bien si vous êtes vous-même expert du domaine et que vous êtes capable de repérer ces erreurs. Mais c’est plus dangereux si l’utilisateur n’est pas expert et qu’il s’appuie sur des résultats erronés pour prendre des décisions essentielles.
Les limites de l’intelligence artificielle
Selon les pires scénarios invoqués, l’IA prendrait le contrôle du monde et détruirait l’humanité. Heureusement, c’est exagéré ; cela n’arrivera pas, car cette superintelligence (l’intelligence artificielle générale ou IAG), à cause de laquelle les humains deviendraient pour l’IA ce que sont les singes pour les humains, pourrait ne jamais aboutir.
Les gourous de l’IA ne cessent d’affirmer que cette IAG sera créée et dépensent plus de 1 000 Mds$ pour le prouver, mais cet argent sera gaspillé.
Les ordinateurs sont incapables de fonctionner à ce niveau. Ils peuvent trouver des connaissances existantes et résoudre des problèmes complexes à la vitesse de la lumière, mais quant à créer de nouvelles connaissances comme les humains, cela reste très contesté.
D’après la loi de conservation de l’information appliquée aux processus de recherche, développée notamment par Bill Dembski, l’IA peut redistribuer les informations existantes, mais serait incapable d’en découvrir de nouvelles. Tout ce que produit une IA provient de sources existantes ou lui a été glissé en douce par la requête. Selon moi, seul l’humain peut créer des informations véritablement nouvelles.
Par conséquent, et compte tenu d’autres problèmes, la partie est loin d’être gagnée pour Anthropic et OpenAI.
Si ces entreprises ne parviennent pas à entrer en Bourse aux valorisations espérées, ou à y entrer tout court, cela pourrait s’expliquer de façon assez banale, notamment par des pertes d’exploitation colossales, des flux de trésorerie négatifs et un effondrement du prix des tokens, les unités de traitement vendues par les entreprises d’IA.
Et puis, il y a les risques juridiques croissants. Des procès pourraient être intentés pour des préjudices causés à d’autres éditeurs de logiciels, à des enfants et à des gens qui s’appuient sur l’IA pour recevoir des conseils médicaux et subissent ensuite de graves conséquences lorsqu’il s’avère que ces conseils sont dangereusement erronés.
Les introductions en Bourse d’OpenAI et d’Anthropic, et d’autres acteurs émergents de l’IA, s’exposent à un autre obstacle : la concurrence chinoise. Les Chinois sont en train de déployer des modèles open source, dont Kimi, développé par Moonshot AI. On est loin des modèles fermés et propriétaires privilégiés par les principaux acteurs de l’IA américains.
Le piège de l’IA bon marché des Chinois
Les Chinois ont adopté une stratégie plus intelligente, en proposant certains de leurs meilleurs modèles d’IA en open source, donc presque gratuitement. Cela signifie que les entreprises peuvent accéder à de puissants modèles d’IA à des prix bien plus bas que ceux d’OpenAI.
Les responsables informatiques des entreprises seront attirés par les modèles chinois, ne serait-ce que pour leur prix, si leurs performances sont comparables à celles des meilleurs modèles très avancés produits par les géants américains.
Mais il y a un hic. Même si ces modèles sont open source, les exploiter à l’échelle d’une entreprise n’est pas gratuit. À mesure que les entreprises les utiliseront de plus en plus, les coûts pourront augmenter.
Et voici l’argument choc : tout modèle doit être configuré avec d’autres systèmes pour qu’il y ait une interopérabilité. Et en se servant des modèles chinois, les entreprises pourraient devenir de plus en plus dépendantes des logiciels et des normes d’exploitation de la Chine.
Comme avec Microsoft à partir des années 1980 et jusqu’à ce jour. Selon moi, les systèmes d’exploitation de Microsoft étaient moins performants que ceux fondés sur UNIX ou équipant les Macintosh d’Apple. Mais Microsoft a progressé si vite que son logiciel s’est retrouvé dans presque toutes les entreprises. Il a fallu continuer à utiliser les versions successives de Windows jusqu’à Windows 11, car les responsables informatiques ne voulaient pas abandonner leurs systèmes et tout recommencer.
Enfin, on devrait s’interroger sur les leaders de cette révolution de l’IA.
L’empire de Sam Altman, fondé sur des promesses
Qui est Sam Altman ?
Nous savons que c’est le P-DG d’OpenAI, l’un des géants de l’IA qui travaillent sur ces fameux modèles d’IA très avancés et qui repoussent les limites de la puissance de calcul des ordinateurs et des algorithmes complexes. Ce projet immensément important pourrait affecter l’avenir de l’humanité, et Sam Altman en gère une grande partie.
Mais que savons-nous de lui, en réalité ?
Pour commencer, il n’est ni scientifique ni ingénieur. Il a abandonné ses études universitaires et n’a aucun diplôme. Ce n’est pas un souci : énormément de personnalités brillantes ont abandonné leurs études et s’en sont très bien sorties.
Mais ne partons pas du principe qu’il dispose de la même expertise technique que les scientifiques et les ingénieurs qui créent les modèles qu’il commercialise.
Ce n’est pas non plus un chercheur : il n’a pas publié de travaux de recherche relus par des pairs. Mais ce n’est pas un problème. Les entrepreneurs ont peut-être mieux à faire que de la recherche.
Au bout du compte, Altman n’est en réalité qu’un vendeur.
En 2005, il a créé une entreprise appelée Loopt qui n’a pas décollé et a été revendue à une autre entreprise technologique. En 2011, il a intégré Y Combinator (YC), un accélérateur de start-up américain réputé, qui a contribué au succès de centaines de jeunes entreprises technologiques. Le cofondateur de YC, Paul Graham, aurait déclaré [NDLR : selon un article du New Yorker, mais cela aurait été démenti par Graham] que Sam Altman aurait été écarté de la direction de YC en raison de « la méfiance des associés de YC ».
Altman a cofondé OpenAI avec Elon Musk et d’autres soutiens, dont Peter Thiel, qui a fait partie des premiers. OpenAI était une organisation à but non lucratif devant mener des recherches sur l’IA pour le bienfait de l’humanité. Altman l’a orientée vers une entreprise à but lucratif, ce qui lui a valu la méfiance de Musk. Plus tard, Musk a intenté un procès à OpenAI et Altman pour violation de contrat.
Altman est donc un vendeur, un leveur de fonds et un beau parleur. Et il a déjà été impliqué dans des litiges et des promesses non tenues. Ce n’est pas le pire individu au monde, mais on ne sait pas trop s’il devrait être en charge de la révolution de l’IA.
Le 8 octobre, on a appris que le chiffre d’affaires annualisé d’OpenAI se rapprochait de 50 Mds$, soit environ 20 Mds$ de moins qu’un chiffre qui avait circulé quelques jours plus tôt. Cet écart s’explique en grande partie par les différentes méthodes utilisées par les entreprises d’IA pour comptabiliser les revenus générés par les ventes réalisées via leurs partenaires cloud.
Anthropic et OpenAI font la course pour entrer en Bourse. Mais les deux entreprises sont également engagées dans une autre course face aux régulateurs, aux avocats et aux clients sceptiques, dont l’issue pourrait déterminer si elles parviendront même à y entrer un jour.
