Les derniers développements dans les domaines de l’intelligence artificielle nous plongent directement dans un nouveau monde.
L’intelligence artificielle est sur toutes les lèvres ces derniers temps.
Il ne se passe pas un jour sans que paraisse un article ou un reportage parlant d’ordinateurs dotés d’une puissance de calcul considérable, ayant accès à des milliards d’ouvrages et de documents, capables d’apprendre par eux-mêmes et de traiter les informations à la vitesse de la lumière, prêts à dominer le monde.
Mi-avril, le désormais ex-présentateur de Fox News Tucker Carlson a même eu une discussion approfondie sur l’intelligence artificielle avec Elon Musk. Ce dernier ne s’est pas montré particulièrement optimiste.
Cela fait des années que j’étudie l’intelligence artificielle et son potentiel.
Récemment, j’ai eu la chance de visiter le site hébergeant le troisième superordinateur le plus rapide du monde, dans le cadre d’un projet visant à utiliser la superintelligence et l’intelligence artificielle pour des tâches de sécurité nationale.
A quel stade d’avancement se situe l’intelligence artificielle ? Est-elle proche ou loin de faire jeu égal avec l’intelligence humaine ? Quels risques pose-t-elle pour l’humanité ?
On peut encore simplement débrancher la prise
Les expérimentateurs voient désormais les machines prendre vie et attaquer les humains et la civilisation. Mais il convient de garder à l’esprit que, si les machines perdent les pédales, à l’heure actuelle, on peut encore tout simplement débrancher la prise.
Les défenseurs de l’intelligence artificielle déclarent que cela ne fonctionnera pas, car l’intelligence artificielle anticipera cette stratégie et « s’exportera » vers une autre machine. Cela donnera lieu à une éternelle fuite en avant, où la mise hors service d’un site n’empêchera pas la propagation du code et des algorithmes ailleurs et, partant, la poursuite de l’attaque.
Peut-être.
Mais cela pose de nombreux problèmes d’ordre logistique, y compris l’existence d’une quantité suffisante de machines dotées de la puissance de calcul nécessaire, le fait que les machines suppléantes seront certainement encerclées de pare-feu et de « douves » numériques, et plein d’autres problèmes de configuration et d’interopérabilité.
Il nous faut comprendre ces contraintes mais pour l’instant, nous pouvons nous contenter de débrancher la prise. De fait, il existe plusieurs propositions de garde-fous pour limiter les dégâts potentiels de l’intelligence artificielle, tout en profitant des avantages considérables qu’elle offre.
On peut citer la transparence (pour que les tiers puissent identifier les failles), la surveillance, une forme édulcorée de formation aux réseaux antagonistes génératifs (pour que la machine puisse résoudre des problèmes sans comploter contre nous durant son temps libre), la modification sur approbation (la machine doit « demander la permission » pour activer l’apprentissage automatique), la modélisation de récompenses récurrentes (la machine prend une décision uniquement si l’humain lui offre une récompense) et d’autres outils similaires.
Bien entendu, aucun de ces garde-fous ne fonctionne si le pouvoir qui contrôle l’intelligence artificielle est malveillant et souhaite réellement détruire l’humanité. Cela équivaudrait à placer l’arme atomique dans les mains d’un Adolphe Hitler aux abois. Nous savons ce qui se serait passé par la suite.
James Bond doté de l’intelligence artificielle
Dans ce cas, la solution serait davantage politique, scientifique et défensive. La collecte de renseignements jouerait un rôle considérable. Bien sûr, cela donnerait rapidement une guerre de collecte de renseignements machine contre machine, avec son lot de tromperies.
Imaginez James Bond avec un hyper-ordinateur au lieu d’un Walther PPK. Les derniers développements dans les domaines de l’intelligence artificielle et des générateurs de texte en langage naturel (« generative pre-trained transformers » ou GPT, en anglais) nous plongent directement dans un nouveau monde.
Les investisseurs doivent faire attention à ne pas se reposer aveuglément sur des systèmes GPT pour les conseils financiers, et ce malgré leur énorme puissance de traitement. Le résultat obtenu n’est jamais meilleur que les données utilisées pour l’obtenir et les données de marché regorgent de modèles erronés, d’hypothèses fausses, de mauvaises prévisions et de biais.
Les programmateurs insufflent déjà l’idéologie woke dans l’intelligence artificielle, par exemple. Imaginez un instant le futur dystopien que créerait une superintelligence woke.
Si cette idée était amenée à devenir réalité, les conséquences seraient nombreuses. Je vous expliquerai tout cela en détail dans mon prochain article.
