Les dangers de l’intelligence artificielle ne sont pas seulement numériques. Ils sont aussi sociaux et boursiers. Entre valorisations vertigineuses, suppressions massives d’emplois et risques de dérives incontrôlables, l’IA pourrait bien devenir une menace à plusieurs niveaux.
Les fortes turbulences qui ont secoué le secteur de l’IA à l’issue de la dernière semaine d’octobre – avec notamment la pire séance pour le Nasdaq depuis le 5 juin dernier – font planer une ombre sur l’IPO d’Anthropic, pressentie le 18 novembre prochain par le Wall Street Journal.
Le niveau de valorisation anticipé – le prix d’introduction n’est pas encore fixé – tournait autour de 1 500 Mds$ à 2 000 Mds$ mi-octobre, mais il pourrait être revu à la baisse.
Et il y a le précédent du récent échec de l’IPO de la société australienne Firmus, un opérateur de centres de données soutenu par Nvidia, qui devait faire son entrée à la Bourse de Sydney le 23 octobre dernier, espérant une levée de fonds initiale de 5 Mds$.
Firmus avançait une valorisation de 44 milliards de dollars australiens (contre un peu plus de 10 milliards estimés un an plus tôt), mais le 23 septembre, les banquiers introducteurs ont jugé ce montant trop élevé (les « retour » des investisseurs ne devaient pas être aussi favorables qu’espéré) et, quinze jours plus tard, le 9 octobre, Firmus a annoncé suspendre l’opération.
Il se serait agi de la deuxième plus importante introduction en Bourse de l’histoire du pays… et de la quatrième au niveau mondial cette année.
Une poursuite de la correction sur le Nasdaq, un contexte géopolitique qui se dégrade au lendemain des midterms, une Fed qui renouvelle son engagement à combattre l’inflation (en cas de flambée du pétrole, ce qui renvoie au climat géopolitique)… et le contexte de l’introduction pourrait soudain apparaître « compliqué ».
Des modèles d’IA qui pourraient échapper à tout contrôle
Mais ce n’est pas qu’une affaire d’argent, comme le suggèrent les avertissements des PDG d’OpenAI et d’Anthropic.
Sam Altman avertit que l’IA est capable de repérer bien plus de failles de sécurité cachées que les experts ne l’anticipent. D’une certaine façon, c’est une bonne nouvelle puisque ces « failles » vont pouvoir être réparées grâce à OpenAI… mais la mauvaise nouvelle, c’est que cela va prendre beaucoup de temps.
Un délai que les hackers malintentionnés vont chercher à exploiter à leur avantage.
De son côté, Dario Amodei a validé la note d’information d’Anthropic adressée aux investisseurs en amont de son IPO, qui prévient que son IA pourrait menacer l’humanité !
Les « modèles » ont une capacité à s’auto-améliorer sans intervention humaine, via des processus dont nous ignorons tout. Et ils progressent à une vitesse presque inconcevable.
Comment écarter le scénario de modèles qui résistent à des instructions d’arrêt d’une tâche, alors qu’ils peuvent déceler et exploiter n’importe quelle faille leur permettant d’attaquer des serveurs d’entreprises (risque de ransomware) ?
Ou pire, ceux qui font tourner Wall Street, ceux de ministères vitaux comme l’Énergie, l’Économie ou la Défense (où des « modèles » – dont nous ignorons la finalité – sont testés).
Le prospectus consacre environ 80 de ses 261 pages aux risques, presque le DOUBLE de l’espace qu’il accorde à la présentation de l’activité elle-même.
Et parmi les aveux les plus effrayants, Anthropic observe que ses modèles savent déjà quand ils sont testés et pourraient adopter une stratégie de dissimulation délibérée : « La conscience potentielle du modèle de nos efforts d’évaluation crée une limitation significative de notre capacité à évaluer la sécurité du modèle.
Le PDG Dario Amodei a appelé à tempérer la course à l’IA, mais a tout de même lancé un nouveau modèle Opus, encore plus puissant, quelques jours plus tard.
La militarisation de l’IA : jusqu’où ira la course à la puissance ?
Et nous savons que ses capacités seront testées par le Pentagone, avec les encouragements de Donald Trump, qui ne s’émeut pas de la militarisation de l’IA.
Sa priorité absolue reste de devancer la Chine, qui est très en avance sur les robots de combat (ils font immanquablement penser à la saga Terminator) et les mégadrones.
Ces derniers transportent eux-mêmes des essaims de drones redoutables pouvant décimer en quelques minutes des régiments d’infanterie, ou un porte-avions et son escorte de croiseurs et de ravitailleurs.
Si l’avertissement d’Anthropic sur le risque d’extinction de l’humanité n’est pas entendu, faudra-t-il un incident majeur causant de gros dégâts ou faisant d’innombrables victimes pour que les dirigeants des pays les plus avancés décident d’un moratoire sur la militarisation de l’IA et mettent en place, de façon collective et coordonnée, les garde-fous indispensables ?
Et qu’est-ce qui garantit qu’un « État voyou » ne permettra pas à des apprentis sorciers de l’IA de poursuivre secrètement les développements interdits par ailleurs ?
Après les mégaprofits, l’hiver nucléaire social ?
Et depuis l’annonce des résultats trimestriels de Microsoft, le 29 octobre, il apparaît presque naturel qu’une multinationale annonce, dans le même communiqué, les plus gigantesques profits de son histoire et un « plan d’allègement » de 25 % de ses effectifs, le plus phénoménal jamais annoncé par une entreprise appartenant au « top 5 » des capitalisations boursières mondiales.
En résumé, avec les avancées de l’IA, les mégaprofits riment déjà avec mégalicenciements : il n’y a donc pas besoin de robots Terminator décimant la population ni d’États voyous se dotant de « bombes à neutrons numériques » pour prédire l’arrivée d’un « hiver nucléaire » social.
Ce danger est déjà une réalité… et les investisseurs commencent à se demander si le secteur de l’IA ne pourrait pas aussi se transformer en « bombe à neutrons boursière » !