L'intelligence artificielle est-elle plus dangereuse qu'une bombe atomique ?

Les performances remarquables du modèle d'IA conversationnelle avancé, développé et lancé par OpenAI fin novembre 2022 sous le nom de ChatGPT, ont suscité l'espoir que des systèmes capables d'égaler les capacités cognitives humaines, voire de posséder une intelligence « surhumaine », pourraient bientôt devenir une réalité.

Image illustrative.

La capacité à comprendre le langage humain et à créer des textes qui imitent la parole humaine est un objectif à long terme de la recherche en intelligence artificielle. Avec l'avènement des grands modèles de langage (LLM), cet objectif est plus proche que jamais de la réalité.

ChatGPT est avant tout un puissant modèle d'IA conversationnelle qui exploite la puissance des grands modèles de langage pour fournir des réponses, des réponses aux questions et des suggestions en temps réel, dans un esprit proche de celui d'un humain. Contrairement aux chatbots traditionnels, limités par des réponses préprogrammées, ChatGPT peut comprendre et générer une multitude de textes créatifs, parfois même inexacts.

Cependant, des experts en IA tirent de sérieux avertissements quant aux dangers que le développement incontrôlé de l'IA fera peser sur la société, voire sur la survie même de l'humanité.

De nombreux avertissements ont été émis concernant les dangers de l'IA.

Le 22 mars, le milliardaire Elon Musk et un groupe de plus de 1 000 experts en technologies de pointe du monde entier ont adressé une lettre ouverte aux Nations Unies pour alerter sur les dangers d'un développement incontrôlé de l'IA. La lettre se concluait ainsi : « Par conséquent, nous appelons tous les laboratoires d'IA à suspendre immédiatement, pour une durée d'au moins six mois, l'entraînement de systèmes d'IA plus puissants que GPT-4. »

Pour démontrer la nécessité de stopper les recherches sur les modèles ChatGPT de nouvelle génération, la lettre ouverte affirme :

Les modèles d'IA avancés pourraient représenter un bouleversement majeur dans l'histoire de la vie sur Terre et nécessitent une planification et un contrôle rigoureux. Or, cela n'a pas été le cas, malgré la course effrénée qui a récemment enflammé les laboratoires d'IA, visant à développer et déployer des intelligences numériques toujours plus puissantes, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler avec certitude. Devrions-nous nous interroger : devons-nous automatiser tous les emplois ? Devons-nous développer des intelligences artificielles plus performantes, capables de nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ?

En réalité, ce n'est pas la première fois que des scientifiques mettent en garde contre le danger potentiel que représente l'intelligence artificielle pour l'humanité. En 2014, le célèbre physicien théoricien britannique Stephen Hawking déclarait : « Le plein développement de l'intelligence artificielle pourrait anéantir l'humanité. » Il prédisait également que l'humanité serait totalement remplacée par l'intelligence artificielle d'ici 500 ans si l'on ne faisait pas preuve de prudence dans la recherche et le développement de cette technologie dangereuse.

Récemment, Eliezer Yudkowsky, un informaticien américain largement considéré comme l'un des fondateurs du domaine de l'IA, a exprimé une inquiétude encore plus grande lorsqu'il a publié un article dans le magazine Time intitulé « Suspendre le développement de l'IA ne suffit pas. Nous devons tout arrêter. »

En conséquence, Eliezer Yudkowsky affirme qu'il est fort probable qu'un modèle d'IA doté d'une intelligence surhumaine voie le jour. À ce moment-là, l'humanité sur Terre risque littéralement de disparaître. Ce n'est pas seulement « possible », c'est « une certitude ».

Les risques potentiels de l'intelligence artificielle dépendent de son utilisation. À l'origine, l'IA a été développée pour assister les humains dans leur travail, notamment pour les tâches fastidieuses et répétitives telles que la classification d'images et l'analyse d'informations.

Cependant, face au développement rapide de l'IA ces derniers temps, les scientifiques et les experts en technologie craignent que, si elle est développée sans contrôle ou programmée à de mauvaises fins, l'intelligence artificielle puisse avoir de graves conséquences pour l'humanité et la société.

Le développement de l'IA doit être strictement contrôlé, tout comme le sont les bombes thermonucléaires.

Voir des scientifiques spécialistes de l'IA appeler à une pause, voire à l'arrêt, des travaux qui progressent rapidement dans leur domaine nous rappelle inévitablement l'histoire des armes nucléaires.

La puissance dévastatrice de la bombe atomique, créée par les scientifiques au cours de l'histoire, est également considérée comme un exemple de premier plan dans la recherche et le développement de nouvelles technologies.

En 1949, plusieurs éminents physiciens nucléaires et autres vétérans du projet de bombe atomique protestèrent contre leur participation au développement d'une arme thermonucléaire (« bombe à hydrogène »), car l'énergie libérée par ce type de bombe pouvait être plus de 1 000 fois supérieure à celle d'une bombe atomique à fission.

La plupart des scientifiques s'accordent à dire que les bombes thermonucléaires menacent l'avenir même de l'humanité. L'humanité se porterait mieux sans cette super-bombe.

Cependant, outre ses applications militaires qui constituent une menace pour l'humanité, l'énergie atomique, sous la forme de réacteurs à fission, a apporté d'immenses bienfaits à l'humanité. L'énergie thermonucléaire, libérée pour la première fois de manière incontrôlée dans une bombe thermonucléaire, promet des avantages encore plus grands.

Lorsque l'IA aura atteint un niveau de développement lui permettant de prendre ses propres décisions pour s'adapter à des environnements changeants, de rechercher indépendamment des cibles alternatives ou d'étendre son champ d'action, l'humanité pourrait ne plus être en sécurité.

Par exemple, à l'avenir, l'IA soutiendra des systèmes critiques tels que l'électricité, les transports, la santé et la finance. Elle pourra maîtriser et contrôler ces systèmes dans leur intégralité, prenant et appliquant des décisions de manière autonome en cas d'urgence. Cependant, lorsqu'elle est intégrée à des fins malveillantes, l'IA peut avoir de graves conséquences, comme la perturbation du trafic routier par la désactivation des feux de signalisation ou la coupure de courant dans les réseaux de transport ferroviaire urbain, provoquant des accidents en chaîne et des pannes de courant généralisées.

Les studios hollywoodiens américains ont également produit de nombreux films inspirés de ce scénario. Cependant, grâce aux technologies d'intelligence artificielle actuelles, cette perspective n'est plus lointaine, mais bien réelle. Elon Musk estime que si l'IA se développe sans contrôle, au point de pouvoir automatiser les décisions sans intervention humaine, elle pourrait menacer la survie de l'humanité.

C’est pourquoi, avec des milliers d’experts en technologies, il a signé une lettre exigeant l’arrêt du développement de l’IA et un contrôle plus strict et transparent. Selon Elon Musk, les systèmes d’intelligence artificielle sont complexes, difficiles à comprendre et très difficiles à maîtriser. Sans transparence, l’utilisation de l’intelligence artificielle à des fins contraires à l’éthique, nuisibles à l’humanité, est inévitable.

L'IA peut-elle réguler le comportement humain ?

Supposons qu'à l'avenir, les systèmes d'IA fonctionnant grâce à l'apprentissage profond acquièrent progressivement la capacité de manipuler les humains par le biais de leur état psychologique et de modifier leur comportement. L'apprentissage profond peut être considéré comme un sous-domaine de l'apprentissage automatique, où les ordinateurs apprennent et s'améliorent grâce à des algorithmes. Il repose sur des concepts beaucoup plus complexes, notamment l'utilisation de réseaux de neurones artificiels pour imiter les capacités de réflexion et de raisonnement du cerveau humain.

En réalité, de tels systèmes pourraient prendre le contrôle de la société. Compte tenu du comportement imprévisible des systèmes d'IA basés sur l'apprentissage profond, et s'ils ne sont pas contrôlés, les conséquences pourraient être catastrophiques pour l'humanité.

À l'avenir, les pays déploieront un réseau de systèmes d'IA capables de moduler les comportements dans les médias, le système éducatif et d'autres secteurs afin d'« optimiser » la société. Ce processus pourrait s'avérer efficace dans un premier temps, mais il échappera rapidement au contrôle humain et engendrera le chaos social.

De nombreuses applications d'IA sont optimisées pour modifier le comportement humain, notamment les chatbots utilisés en psychothérapie. Dans bien d'autres cas, comme dans l'éducation des enfants, les applications d'IA ont un impact considérable sur le comportement.

Comme toute technologie, chaque application d'IA présente des avantages et des risques potentiels. Actuellement, les performances des systèmes d'IA restent largement sous le contrôle de l'humain.

Cependant, le développement de l'IA a ouvert une toute nouvelle dimension. Un article récent du magazine Forbes, signé par Lance Eliot, expert reconnu en IA, détaille plusieurs façons dont les chatbots et autres applications d'IA peuvent manipuler la psychologie humaine, même involontairement.

D'autre part, la modification délibérée des comportements et des mentalités au moyen de systèmes d'IA est un domaine en plein essor, avec des applications dans une grande variété de contextes.

Par exemple, les systèmes d'apprentissage en ligne avancés basés sur l'IA peuvent également être considérés comme une forme de modification comportementale. En effet, les applications de l'IA dans l'éducation s'appuient généralement sur des modèles comportementaux d'apprentissage humain. Les systèmes d'enseignement avancés basés sur l'IA sont conçus pour optimiser les réponses et les résultats des enfants, créer des profils individuels pour chaque enfant, évaluer leurs progrès en temps réel et adapter leurs activités en conséquence.

Un autre exemple est la popularité des chatbots d'IA destinés à aider les gens à arrêter de fumer ou de consommer des drogues, à faire de l'exercice correctement et à adopter des habitudes plus saines.

Il est indéniable que les systèmes d'IA surpassent les humains dans de nombreux contextes spécifiques. De plus, l'IA ne cesse de progresser. Mais où nous mènera cette expansion et cette intégration continues des systèmes d'IA, notamment lorsqu'elles engendreront des capacités plus vastes et plus puissantes que jamais pour influencer la pensée et le comportement humains ?

Tout au long de l'histoire de l'humanité, les tentatives d'optimiser complètement une société en un super-système fonctionnant selon des critères stricts ont souvent conduit au désastre.

Selon la lettre ouverte citée plus haut, la plupart des experts en intelligence artificielle s'accordent à dire que les applications d'IA doivent toujours être placées sous supervision humaine et que le développement et l'application de l'IA doivent être régis par l'intelligence humaine.

La prévalence croissante de l'IA basée sur l'apprentissage profond, qui pénètre de nombreux domaines de l'activité humaine, et la tendance à intégrer de tels systèmes dans les hiérarchies sociales poseront des risques importants pour la société.

La question qui se pose est la suivante : si un système d'intelligence artificielle surpuissante dysfonctionne et menace de provoquer des conséquences catastrophiques, qui ou quoi interviendra pour l'arrêter ?

Dans le célèbre film de science-fiction de Stanley Kubrick, « 2001 : L’Odyssée de l’espace », l’astronaute survivant intervient à la dernière minute pour désactiver le système d’IA. Mais aurait-il pu le faire si l’IA avait déjà adapté son comportement pour l’en empêcher ?

En réalité, tenter de limiter le développement de l'IA est illogique. Ce serait nuisible et contre-productif. Mais il faut reconnaître que les dangers liés au développement rapide des systèmes d'IA dans presque tous les domaines de l'activité humaine doivent être maîtrisés par une réglementation appropriée et un contrôle humain.

Comme toute technologie, l'IA est très utile pour améliorer la qualité du travail et de la vie, mais elle peut être utilisée à des fins positives comme négatives. Il est donc crucial de la contrôler étroitement afin d'éviter qu'elle ne devienne incontrôlable et ne menace de remplacer l'humain à l'avenir.