Le risque de l’IA n’est pas tant économique que politique, et par exemple que les Etats-Unis se rapprochent de la Chine communiste.
Vous connaissez peut-être le roman dystopique de George Orwell 1984. Il a été écrit en 1948 et le titre est né de l’inversion des deux derniers chiffres.
Ce roman décrit un monde dans lequel trois empires, Océania, Eurasia et Estasia sont en état de guerre permanent.
Orwell a créé un vocabulaire original pour son livre, qui est désormais couramment utilisé, parfois sur un ton ironique. Des termes comme « police de la pensée », « big brother », « double pensée », « novlangue » et l’expression anglaise correspondant à « trou de mémoire » [NDLR : « memory hole », l’endroit où sont jetés les documents destinés à être détruits et oubliés, car ne correspondant pas à l’idéologie du moment] proviennent tous de cet ouvrage.
Orwell y voyait un avertissement sur l’évolution possible de certains pays au lendemain de la Seconde Guerre mondiale et au début de la guerre froide. Il était bien sûr préoccupé par le Stalinisme, mais son avertissement s’adressait également aux démocraties occidentales.
Lorsque l’année 1984 est arrivée, nombreux sont ceux qui ont éprouvé un soulagement, rassurés de voir que la prophétie d’Orwell ne s’était pas réalisée. Mais ce soulagement fut prématuré. La société dont Orwell redoutait l’avènement est désormais une réalité, qui se présente sous la forme de la Chine communiste…
1984 voit le jour en Chine
La Chine présente la plupart des caractéristiques des sociétés totalitaires décrites dans le roman de George Orwell. La Chine travaille d’arrache-pied dans le domaine de l’intelligence artificielle et utilise la reconnaissance faciale et la surveillance numérique généralisée pour suivre les faits et gestes de ses citoyens. Internet y est censuré et surveillé. Une véritable police de la pensée vous arrêtera si vous critiquez le gouvernement ou sa politique.
Des millions de Chinois ont été arrêtés et envoyés dans des camps de « rééducation » pour subir un lavage de cerveau (les plus chanceux) ou des prélèvements forcés d’organes.
Ces atrocités n’auront pas lieu aux Etats-Unis ou dans ce que l’on considère comme l’Occident de nos jours, mais les aspects les moins extrêmes de l’Etat de surveillance qui prévaut en Chine pourraient bien y voir le jour.
Vous ne serez peut-être pas arrêté pour avoir exprimé des opinions impopulaires ou pour avoir remis en question les dogmes établis (pas pour l’instant du moins), mais vous pourriez subir des sanctions. Vous pourriez même perdre votre emploi et avoir bien du mal à en trouver un nouveau.
Censure
Aux Etats-Unis, vous pourriez être bannis des réseaux sociaux. Tout semble pouvoir être publié sur les réseaux sociaux (Facebook, Twitter, Instagram, Snapchat, YouTube et une poignée d’autres plateformes), sauf si vous êtes un conservateur ou un politique. C’est là que commence la censure.
De nombreux utilisateurs de réseaux sociaux considérés comme conservateurs ont vu leurs comptes être fermés ou suspendus, non pas pour avoir professé des menaces ou des obscénités, mais simplement pour avoir critiqué (certes sans détour) des opinions « progressistes » .
Dans le même temps, les progressistes peuvent dire pratiquement ce qu’ils veulent sur les réseaux sociaux, y compris cautionner la violence de manière implicite. Mais rien ne se passe.
D’autres conservateurs déclarent être la cible d’un « bannissement furtif ». Lorsque c’est le cas, votre compte est actif et semble fonctionner normalement, mais sans que vous le sachiez, la plupart des membres du réseau ne peuvent pas voir vos publications et les fonctionnalités populaires comme les « j’aime » et « retweeter » sont tronquées et ne sont pas diffusées.
Le problème est que cette tendance prend de l’ampleur et qu’il est difficile de l’arrêter. Et il existe déjà des technologies de surveillance avancée pour surveiller les citoyens…
« Montrez-moi l’homme je vous montrerai le crime »
Par exemple, les caméras équipées des dernières technologies de surveillance peuvent détecter et identifier des millions de visages en temps réel, avec un taux d’exactitude de plus de 99%. On les présente comme des outils de lutte contre le terrorisme et la criminalité, ce qui est sûrement le cas.
Mais comme le disait le chef sans pitié de la police secrète de Staline, Lavrenti Beria, « montrez-moi l’homme je vous montrerai le crime ». On peut aisément voir que ce pouvoir est utilisé de manière abusive pour cibler les citoyens.
(Soit dit en passant, Beria ne croyait pas si bien dire, puisqu’il a été arrêté et exécuté pour trahison peu après la mort de Staline.)
Le problème, c’est qu’une fois que les mauvais acteurs commencent à inonder la littérature d’informations trompeuses et que les biais des développeurs infiltrent le code, l’intelligence artificielle peut devenir un instrument de tyrannie.
Au final, l’intelligence artificielle est un sujet qu’il nous faut surveiller de près et sur lequel il faut poser des questions importantes. Mais ce n’est pas demain la veille que l’intelligence artificielle prendra le contrôle du monde.
Le risque est plutôt que les Etats-Unis deviennent comme la Chine communiste.