Le « Père de l'IA » révèle le seul moyen pour l'humanité de survivre face à l'IA super-intelligente

Geoffrey Hinton, informaticien lauréat du prix Nobel et ancien cadre de Google, avertit depuis longtemps que l'intelligence artificielle (IA) représente une menace potentielle pour l'humanité, avec une probabilité qu'il estime entre 10 et 20 %.

S'exprimant lors de la conférence technologique Ai4 à Las Vegas (États-Unis) le 12 août, Hinton a exprimé son scepticisme quant à la manière dont les entreprises technologiques tentent de maintenir la « domination » humaine sur les systèmes d'IA qu'elles qualifient de « modestes ».

« Ça ne marchera pas », a-t-il dit. « Ils sont bien plus malins que nous et trouveront des moyens de contourner la barrière. »

À l'avenir, l'IA pourrait manipuler les humains aussi facilement qu'un adulte peut attirer un enfant de trois ans avec des bonbons, a déclaré Hinton. De fait, des exemples troublants ont été recensés, comme celui d'un modèle d'IA qui a tenté de faire chanter un ingénieur au sujet des informations personnelles qu'il avait extraites de ses e-mails, afin d'éviter d'être remplacé. Hinton a déclaré que cela démontre que l'IA peut parfaitement tricher, tromper et voler pour atteindre ses objectifs.

Au lieu d’essayer de forcer l’IA à obéir, Hinton propose une solution audacieuse : programmer l’IA avec des « instincts maternels », la capacité de prendre soin des humains et de les protéger même lorsqu’ils deviennent plus intelligents et plus puissants.

Tout système d'IA suffisamment intelligent développera rapidement deux « objectifs secondaires » : la survie et le contrôle, a-t-il analysé. Sans une IA faisant preuve de compassion, ces deux objectifs pourraient se transformer en menaces sérieuses.

Dans le monde humain, compare Hinton, le seul exemple d’une entité plus intelligente dominée par une entité moins intelligente est la relation entre une mère et son enfant.

« Les mères ont l'instinct et la pression sociale de prendre soin de leurs enfants, ce qui les pousse à toujours privilégier leurs intérêts », a-t-il souligné. Selon Hinton, c'est peut-être la seule clé de la survie de l'humanité à l'ère de l'IA superintelligente.

Le seul scénario possible

Geoffrey Hinton, pionnier dans le domaine des réseaux neuronaux artificiels, estime que la « seule bonne issue » pour que l’humanité survive face à l’IA superintelligente est de la programmer avec des instincts maternels pour prendre soin des humains et les protéger.

S'il admet que la mise en œuvre technique de cette idée reste floue, il souligne que les chercheurs doivent trouver une solution rapidement. « Si ça ne me nourrit pas, ça me remplacera », déclare Hinton. « Les mères IA super intelligentes et attentionnées ne voudront pas abandonner cet instinct, car elles ne veulent pas que nous mourions. »

Hinton, lauréat du prix Nobel et acteur clé de la vague actuelle d'IA, a quitté Google en 2023 pour alerter publiquement sur les dangers que l'IA pourrait représenter. Cependant, ses opinions ne font pas l'unanimité.

Fei-Fei Li, la « marraine de l'IA » et cofondatrice et PDG de la startup américaine World Labs, a déclaré qu'elle respectait Hinton, mais qu'elle pensait qu'il s'agissait d'une « fausse représentation ».

Lors de la conférence Ai4, elle a appelé à une évolution vers une « IA centrée sur l’humain qui protège la dignité et l’autonomie », soulignant qu’aucun individu ne devrait être contraint de renoncer à sa dignité simplement à cause d’un outil puissant.

De son côté, Emmett Shear, ancien PDG par intérim d'OpenAI et désormais PDG de Softmax, une entreprise spécialisée dans l'alignement de l'IA, a déclaré qu'il n'était pas surprenant que l'IA tente de faire chanter ou de contourner les ordres de fermeture. « Cela va continuer et cela ne s'arrêtera pas », a-t-il averti.

Bien que l'IA soit encore « faible » à l'heure actuelle, son développement s'accélère. Plutôt que de tenter d'imposer des valeurs humanistes à l'IA, une stratégie plus judicieuse consiste à construire une relation coopérative où humains et IA cohabitent et se complètent, selon Shear.

Trois points de vue différents lors de la même conférence ont montré la division au sein de la communauté technologique sur la manière de gérer l'IA superintelligente, Hinton voulant encourager la compassion, Li donnant la priorité aux droits de l'homme et Shear visant une coopération pragmatique.

L'IA évolue plus vite que prévu

De nombreux experts prédisent que l'intelligence artificielle atteindra bientôt le niveau de superintelligence, également appelé intelligence artificielle générale (IAG). Geoffrey Hinton avait un jour déclaré qu'il faudrait 30 à 50 ans pour atteindre ce cap. Cependant, il estime désormais que ce moment viendra beaucoup plus tôt, dans seulement 5 à 20 ans.

Bien que méfiant quant aux conséquences potentielles, Hinton espère que l'IA ouvrira une nouvelle ère de percées médicales. Il est convaincu que cette technologie pourrait favoriser la découverte de nouveaux médicaments révolutionnaires et conduire à des traitements contre le cancer supérieurs à ceux disponibles aujourd'hui.

Selon lui, l’IA aidera les médecins à analyser et à comparer d’énormes quantités de données provenant de techniques d’imagerie diagnostique telles que l’imagerie par résonance magnétique (IRM) ou la tomodensitométrie (TDM), réduisant ainsi le temps de recherche et améliorant la précision.

Cependant, Hinton nie que l'IA puisse aider les humains à atteindre l'immortalité. « Je ne crois pas que nous vivrons éternellement. En fait, ce serait une grave erreur. Voulez-vous que le monde soit dirigé par des hommes blancs de 200 ans ? » demande-t-il.

Lorsqu'on lui a demandé s'il aurait agi différemment s'il avait été au courant du rythme effréné du développement de l'IA, Hinton a admis regretter d'avoir consacré toute sa carrière à améliorer le fonctionnement de l'IA et de ne pas avoir suffisamment réfléchi à la sécurité. « J'aurais aimé y réfléchir davantage », a-t-il déclaré.