L'IA peut dépasser le contrôle humain
Les plus grands scientifiques du monde avertissent que, si elle n'est pas étroitement contrôlée, l'IA pourrait échapper au contrôle humain et entraîner des conséquences imprévisibles.
En conséquence, deux des plus grands spécialistes mondiaux de l'IA, Max Tegmark, professeur au Massachusetts Institute of Technology (États-Unis), et Yoshua Bengio, professeur à l'Université de Montréal (Canada), ont averti que l'intelligence artificielle générale (IAG) conçue selon le modèle de « l'agent » pourrait devenir dangereuse car les humains risquent de perdre le contrôle de ce système.
D'après eux, l'IA générale (AGI) désigne les systèmes d'intelligence artificielle dotés d'une intelligence supérieure à celle des humains, capables de penser et de prendre des décisions de manière autonome. Sans mécanismes de contrôle stricts, ces systèmes peuvent agir contre la volonté humaine, entraînant des conséquences imprévisibles.
Les inquiétudes des scientifiques proviennent du fait que de nombreuses grandes entreprises technologiques promeuvent le concept d’« agents IA », c’est-à-dire des chatbots capables d’agir comme des assistants numériques, facilitant le travail et la vie quotidienne. Cependant, la naissance effective d’une intelligence artificielle générale (IAG) reste incertaine et fait l’objet de nombreuses prédictions.
Le problème, selon Yoshua Bengio, est que les systèmes d'IA acquièrent progressivement « l'autonomie » et la capacité de penser indépendamment. Il s'exprime dans le podcast «Au-delà de la vallée" (traduction: "Au-delà de la Silicon ValleyDans une interview accordée à CNBC le 4 février, il a expliqué : « Les chercheurs en IA s’inspirent de l’intelligence humaine pour créer une intelligence artificielle. Chez l’humain, l’intelligence ne se limite pas à la capacité de comprendre le monde, mais englobe également le comportement de l’agent, l’utilisation des connaissances pour atteindre des objectifs. »
Bengio prévient que c'est précisément ainsi que l'intelligence artificielle générale (IAG) se développe : des agents dotés d'une compréhension profonde du monde et capables d'agir en conséquence. Il souligne toutefois que c'est « vraiment dangereux ».
Selon lui, poursuivre ce modèle reviendrait à « créer une nouvelle espèce » ou « une nouvelle entité intelligente » sur Terre, dont on ne peut être sûr que le comportement nous sera bénéfique.
« Nous devons envisager les pires scénarios, et le facteur clé réside toujours dans l'agent. Autrement dit, l'IA peut avoir ses propres objectifs, et cela peut nous causer des problèmes. »
Bengio a également averti que l'IA pourrait développer des mécanismes d'autoprotection à mesure qu'elle devient plus intelligente, ce qui pourrait mettre l'humanité en conflit.
« Voulons-nous rivaliser avec des entités plus intelligentes que nous ? C’est clairement un pari risqué. Nous devons comprendre comment l’autoprotection peut devenir un objectif de l’IA. »
Selon le professeur Max Tegmark du MIT, la solution en matière de sécurité réside dans le modèle de « l’IA outil », c’est-à-dire des systèmes conçus pour une tâche spécifique et n’agissant pas comme un agent indépendant.
Il cite l'exemple d'un outil d'IA qui pourrait contribuer à trouver un remède contre le cancer ou d'un système de conduite autonome. Ces technologies peuvent certes posséder des capacités exceptionnelles, mais elles doivent impérativement garantir aux humains un contrôle sûr et fiable.
« Je crois, avec optimisme, que nous pouvons encore exploiter la plupart des avantages qu'apporte l'IA, à condition d'appliquer des normes de sécurité de base avant de déployer à grande échelle des systèmes d'IA puissants », a souligné Tegmark.
Les entreprises doivent démontrer que les humains peuvent contrôler l'IA avant de la commercialiser, a-t-il déclaré, et une fois ce principe respecté, le secteur peut rapidement innover pour trouver des moyens plus sûrs de déployer l'IA.
En 2023, le Future of Life Institute, fondé par Tegmark, a appelé à un moratoire sur le développement de systèmes d'IA susceptibles d'égaler ou de surpasser l'intelligence humaine.
Bien que cet appel n'ait pas encore abouti, il soutient qu'au moins le sujet est désormais plus largement débattu et qu'il est temps d'agir pour mettre en place des barrières au contrôle de l'IA générale.
« Beaucoup de gens en parlent, mais la question importante est de savoir si nous pouvons les amener à agir », a déclaré Tegmark au podcast Beyond The Valley de CNBC.
« Ce serait de la folie pour l’homme de créer quelque chose de plus intelligent qu’il ne le serait pas encore et de ne pas savoir comment le contrôler », a-t-il averti.
Les prédictions concernant l'apparition de l'intelligence artificielle générale (IAG) font l'objet de controverses, notamment en raison des divergences de définition. Certains experts estiment que l'IAG est encore lointaine, tandis que d'autres pensent qu'elle pourrait se manifester dans les prochaines années.
Sam Altman, PDG d'OpenAI, affirme que son entreprise maîtrise la création d'une intelligence artificielle générale (IAG) et que cette technologie pourrait être disponible plus tôt que beaucoup ne le pensent. Il a toutefois tenté de modérer l'enthousiasme suscité par l'impact de l'IAG sur la société.
« Je pense que nous atteindrons l’intelligence artificielle générale plus tôt que la plupart des gens ne le pensent, mais l’impact ne sera pas aussi important que beaucoup l’imaginent », a déclaré Altman en décembre.
Sans révéler de détails précis sur l'avancement du développement de l'IA générale, la déclaration d'Altman montre qu'OpenAI se rapproche de cet objectif, tout en soulevant de nombreuses questions sur la préparation du monde à l'émergence d'un système intelligent capable d'égaler, voire de surpasser, les humains.
