L'IA pourrait échapper au contrôle humain.
Des scientifiques de renom du monde entier avertissent que, si elle n'est pas contrôlée, l'IA pourrait devenir incontrôlable et entraîner des conséquences imprévues.
En conséquence, deux scientifiques de premier plan dans le domaine de l'IA, Max Tegmark, professeur au Massachusetts Institute of Technology (MIT), et le professeur Yoshua Bengio à l'Université de Montréal (Canada), ont averti que l'intelligence artificielle générale (IAG) conçue sur un modèle d'« agent » pourrait devenir dangereuse car les humains risquent de perdre le contrôle de ce système.
D'après eux, l'IA générale (AGI) désigne les systèmes d'intelligence artificielle dotés d'une intelligence supérieure à celle des humains, capables de penser et de décider de manière autonome. Sans mécanismes de contrôle stricts, ces systèmes pourraient agir à l'encontre des intentions humaines, entraînant des conséquences imprévisibles.
Les inquiétudes des scientifiques proviennent du fait que de nombreuses grandes entreprises technologiques promeuvent le concept d'« agents IA », c'est-à-dire des chatbots capables d'agir comme des assistants numériques, facilitant le travail et la vie quotidienne. Cependant, le calendrier précis de l'émergence de l'IA générale reste incertain, et les prédictions divergent.
D'après Yoshua Bengio, le problème réside dans le fait que les systèmes d'IA acquièrent progressivement une plus grande autonomie et la capacité de penser par eux-mêmes. Il a partagé cette information dans un podcast.Au-delà de la vallée" (traduit : "Au-delà de la Silicon ValleyDans une interview accordée à CNBC le 4 février, il a expliqué : « Les chercheurs en IA s’inspirent de l’intelligence humaine pour construire une intelligence artificielle. Chez l’humain, l’intelligence ne se limite pas à la capacité de comprendre le monde, mais englobe également le comportement de l’individu, l’utilisation des connaissances pour atteindre des objectifs. »
Bengio a averti que c'est ainsi que les intelligences artificielles générales (IAG) évoluent, devenant des agents dotés d'une connaissance approfondie du monde et capables d'agir en conséquence. Il a toutefois souligné que cela est « vraiment très dangereux ».
Selon lui, poursuivre ce modèle équivaut à « créer une nouvelle espèce » ou une « nouvelle entité intelligente » sur Terre dont les humains ne peuvent être sûrs qu'elle se comportera d'une manière qui nous soit bénéfique.
« Nous devons envisager les pires scénarios, et la clé réside toujours dans le facteur causal. Autrement dit, l'IA pourrait avoir ses propres objectifs, et cela pourrait nous causer des problèmes. »
Bengio a également averti que l'IA pourrait développer ses propres mécanismes d'autodéfense à mesure qu'elle deviendrait plus intelligente, ce qui pourrait placer l'humanité dans une position conflictuelle.
« Voulons-nous rivaliser avec des entités plus intelligentes que nous ? Il est clair que ce n’est pas un pari sans risque. Nous devons comprendre comment notre capacité à nous défendre peut devenir une cible pour l’IA. »
Selon le professeur Max Tegmark du MIT, la solution sûre réside dans le modèle de « l'IA instrumentale », c'est-à-dire des systèmes conçus pour une tâche spécifique et n'agissant pas comme des agents indépendants.
Il a cité l'exemple d'un outil d'IA pouvant contribuer à la recherche d'un remède contre le cancer ou d'un système de conduite autonome. Ces technologies peuvent certes posséder des capacités remarquables, mais il est impératif de garantir que les humains puissent les contrôler avec un haut degré de fiabilité.
« Je crois que, dans une perspective optimiste, nous pouvons encore tirer profit de la plupart des avantages offerts par l'IA, à condition d'appliquer des normes de sécurité de base avant de déployer à grande échelle des systèmes d'IA puissants », a souligné Tegmark.
Selon lui, les entreprises doivent démontrer que les humains peuvent contrôler l'IA avant de la commercialiser. Une fois ce principe respecté, le secteur pourra rapidement innover afin de trouver des moyens plus sûrs de déployer l'IA.
En 2023, le Future of Life Institute, fondé par Tegmark, a appelé à une pause dans le développement de systèmes d'IA susceptibles d'égaler ou de surpasser l'intelligence humaine.
Bien que cet appel ne se soit pas encore concrétisé, il estime qu'au moins le sujet a été discuté plus en profondeur, et que le moment est crucial pour agir afin d'établir des barrières au contrôle de l'IA générale.
« Beaucoup de gens en parlent, mais la question cruciale est de savoir si nous pouvons les amener à agir », a déclaré Tegmark dans le podcast Beyond The Valley de CNBC.
Il a averti : « Il serait insensé pour l'humanité de créer quelque chose de plus intelligent qu'elle-même sans d'abord trouver comment le contrôler. »
Les prédictions concernant l'émergence de l'intelligence artificielle générale (IAG) restent controversées, notamment en raison de définitions divergentes. Certains experts estiment que l'IAG est encore loin d'être une réalité, tandis que d'autres pensent qu'elle pourrait apparaître dans les prochaines années.
Sam Altman, PDG d'OpenAI, a déclaré que son entreprise maîtrisait l'art de créer une intelligence artificielle générale (IAG) et que cette technologie pourrait être déployée plus tôt que prévu. Il a toutefois cherché à modérer l'enthousiasme suscité par l'impact de l'IAG sur la société.
S’exprimant en décembre dernier, Altman a déclaré : « Je pense que nous atteindrons l’intelligence artificielle générale plus tôt que la plupart des gens ne le pensent, mais l’impact ne sera pas aussi important que beaucoup l’imaginent. »
Sans divulguer de détails précis sur l'avancement du développement de l'IA générale, la déclaration d'Altman suggère qu'OpenAI se rapproche de cet objectif, tout en soulevant de nombreuses questions sur la préparation du monde à l'émergence d'un système intelligent capable d'égaler, voire de surpasser, les humains.
