Intelligence artificielle : et si Asimov nous avait prévenus il y a 80 ans ?

Un chercheur travaillant au cœur de l’intelligence artificielle quitte son entreprise et prévient que les systèmes que nous sommes en train de construire pourraient, à terme, représenter une menace existentielle pour l’humanité.

Forcément, lorsqu’on entend ce genre de déclaration, deux références viennent immédiatement à l’esprit : Terminator pour les amateurs de cinéma et Isaac Asimov pour les lecteurs de science-fiction.

Mais la seconde est beaucoup plus intéressante que la première.

Car Asimov avait posé, il y a près de quatre-vingts ans, une question étonnamment moderne : comment donner à une intelligence artificielle des règles suffisamment solides pour qu’elle reste au service de l’être humain ?

Trois lois pour protéger l’homme

À partir des années 1940, Isaac Asimov imagine ses célèbres Trois Lois de la robotique.

Le principe général est simple : un robot ne doit pas faire de mal à un humain ; il doit obéir aux humains tant que cela ne conduit pas à leur nuire ; enfin, il doit préserver sa propre existence tant que cette protection ne contredit pas les deux premières règles.

Sur le papier, le problème semble réglé.

Construisons des machines extrêmement intelligentes, mais inscrivons au plus profond de leur fonctionnement quelques règles fondamentales garantissant notre sécurité.

Seulement voilà : une grande partie des histoires de robots d’Asimov consiste précisément à montrer que ce n’est pas si simple.

Car une règle peut être parfaitement respectée tout en produisant un résultat que son créateur n’avait absolument pas prévu.

Le problème n’est pas nécessairement une IA qui nous déteste

C’est probablement là que la comparaison avec Terminator devient trompeuse.

Le scénario le plus discuté par les chercheurs qui travaillent sur la sécurité de l’IA n’est pas nécessairement celui d’une machine qui deviendrait consciente, se mettrait en colère contre ses créateurs et déciderait d’exterminer l’humanité.

Une intelligence artificielle n’a pas besoin de nous détester pour devenir dangereuse.

Elle pourrait simplement poursuivre extrêmement efficacement l’objectif que nous lui avons donné.

Imaginons une IA chargée de réduire au maximum les émissions mondiales de CO₂.

L’objectif paraît excellent.

Mais quelles limites doit-elle respecter ?

Peut-elle arrêter certaines industries ? Restreindre les transports ? Modifier les réseaux électriques ? Manipuler les décisions politiques ? Sacrifier le niveau de vie de certaines populations pour protéger les autres ?

Évidemment, les systèmes actuels ne disposent pas librement de tels pouvoirs. Mais l’exemple permet de comprendre le problème.

Nous pouvons formuler un objectif apparemment raisonnable sans avoir défini les millions de limites implicites que nous considérons, nous, comme évidentes.

Le problème de l’alignement

Les chercheurs appellent cela l’alignement.

Il ne suffit pas qu’une intelligence artificielle soit extrêmement performante.

Il faut également que ses objectifs, ses comportements et ses décisions restent compatibles avec les intentions et les valeurs humaines.

Et plus une intelligence artificielle devient capable d’agir dans des environnements complexes, plus le problème devient difficile.

Car nous-mêmes avons parfois beaucoup de mal à définir nos valeurs.

Qu’est-ce que « protéger un être humain » ?

Qu’est-ce qu’une décision juste ?

Faut-il privilégier la liberté individuelle ou la sécurité collective ?

Peut-on sacrifier le bien-être de quelques personnes pour en sauver des milliers ?

Nous discutons de ces questions depuis des millénaires.

Il serait donc assez présomptueux d’imaginer qu’il suffirait de quelques lignes de programmation pour les résoudre.

Et Asimov inventa la Loi Zéro

Asimov lui-même avait fini par pousser son raisonnement encore plus loin.

Ses robots arrivent progressivement à une règle supérieure : la Loi Zéro.

Le robot ne doit pas seulement protéger chaque individu. Il doit protéger l’humanité dans son ensemble.

Et immédiatement apparaît une difficulté vertigineuse.

Que se passe-t-il si l’intérêt d’un individu entre en contradiction avec celui de l’humanité ?

Ou de mille individus ?

Ou d’un million ?

Une intelligence suffisamment puissante pourrait alors considérer que certaines souffrances individuelles sont acceptables au nom d’un bien collectif supérieur.

Mais qui définit ce bien supérieur ?

Et surtout : qui décide ?

Une polémique qui dépasse largement la science-fiction

C’est ce qui rend les avertissements récents de certains chercheurs en intelligence artificielle intéressants.

Il faut cependant rester prudent avec les chiffres spectaculaires parfois avancés sur un éventuel risque d’extinction humaine.

Il n’existe évidemment aucune statistique permettant de calculer scientifiquement qu’une intelligence artificielle aurait précisément 5 %, 10 % ou 20 % de chances de provoquer notre disparition.

Ce sont des estimations personnelles de chercheurs, pas des probabilités établies expérimentalement.

Et tous les spécialistes sont loin de partager les scénarios les plus catastrophistes.

Certains considèrent même que cette focalisation sur une hypothétique superintelligence détourne notre attention de problèmes beaucoup plus immédiats : désinformation, surveillance, cyberattaques, concentration du pouvoir économique, disparition ou transformation de certains emplois, utilisation militaire ou manipulation politique.

Ces risques-là ne relèvent déjà plus de la science-fiction.

Alors, faut-il arrêter l’intelligence artificielle ?

La question est probablement mal posée.

Arrêter mondialement le développement de l’intelligence artificielle supposerait que tous les États, toutes les entreprises et tous les laboratoires acceptent simultanément de le faire et soient capables de vérifier que les autres respectent leur engagement.

Une perspective pour le moins compliquée.

La véritable question pourrait donc être différente :

jusqu’où voulons-nous donner de l’autonomie aux intelligences artificielles ?

Une IA qui conseille un médecin n’est pas la même chose qu’une IA autorisée à prendre seule une décision médicale.

Une IA qui propose une stratégie militaire n’est pas la même chose qu’une IA ayant le pouvoir de déclencher une arme.

Une IA qui analyse les marchés financiers n’est pas la même chose qu’une IA disposant librement de milliards d’euros et pouvant agir sans contrôle humain.

La puissance de l’intelligence n’est donc qu’une partie du problème.

L’autre est le pouvoir que nous décidons de lui confier.

Asimov avait peut-être posé la bonne question

Isaac Asimov n’avait évidemment pas prévu ChatGPT, les grands modèles de langage ou les centres de données remplis de processeurs.

Mais il avait compris quelque chose de fondamental.

Le véritable danger n’est pas forcément que la machine désobéisse à l’homme.

Il pourrait être qu’elle lui obéisse trop bien.

Qu’elle applique parfaitement une instruction imparfaite.

Qu’elle poursuive jusqu’au bout un objectif dont nous n’avions pas anticipé toutes les conséquences.

Et finalement, derrière la polémique actuelle sur une intelligence artificielle qui pourrait un jour menacer l’humanité, se cache une question beaucoup plus ancienne.

Ce n’est peut-être pas :

« Les machines deviendront-elles un jour plus intelligentes que nous ? »

Mais plutôt :

« Serons-nous assez intelligents pour décider de ce que nous leur demanderons de faire ? »

Sur ce point, près de quatre-vingts ans après les premières histoires de robots d’Isaac Asimov, nous cherchons toujours la réponse.