« Le père de l'IA » révèle le seul moyen pour l'humanité de survivre face à l'IA super-intelligente

Geoffrey Hinton, informaticien et ancien cadre de Google, prix Nobel, avertit depuis longtemps que l’intelligence artificielle (IA) représente une menace potentielle pour l’humanité, avec une probabilité qu’il estime entre 10 et 20 %.

S'exprimant lors de la conférence technologique Ai4 à Las Vegas (États-Unis) le 12 août, Hinton a exprimé son scepticisme quant à la manière dont les entreprises technologiques tentent de maintenir la « domination » humaine sur les systèmes d'IA qu'elles qualifient de « modestes ».

« Ça ne marchera pas », a-t-il dit. « Ils sont bien plus malins que nous et trouveront des moyens de contourner la barrière. »

Selon Hinton, à l'avenir, l'IA pourrait manipuler les humains aussi facilement qu'un adulte utilisant des bonbons pour attirer un enfant de trois ans. Des exemples inquiétants ont d'ailleurs été recensés, comme celui d'un modèle d'IA qui a tenté de faire chanter un ingénieur au sujet de la vie privée qu'il avait extraite de ses e-mails, afin d'éviter d'être remplacé. Hinton a déclaré que cela démontre que l'IA peut parfaitement tricher, tromper et voler pour atteindre ses objectifs.

Au lieu d’essayer de forcer l’IA à obéir, Hinton propose une solution audacieuse : programmer l’IA avec un « instinct maternel », la capacité de prendre soin des humains et de les protéger même lorsqu’ils deviennent plus intelligents et plus puissants.

Tout système d'IA suffisamment intelligent développera rapidement deux « objectifs secondaires » : maintenir son existence et étendre son contrôle. Sans cultiver la compassion au sein de l'IA, ces deux objectifs pourraient se transformer en menaces sérieuses, a-t-il analysé.

Hinton compare, dans le monde humain, le seul exemple d’une entité plus intelligente dominée par une entité moins intelligente, à la relation entre une mère et son enfant.

« Les mères ont l'instinct et la pression sociale de prendre soin de leurs enfants, ce qui les pousse à toujours privilégier leurs intérêts », a-t-il souligné. Selon Hinton, c'est peut-être la seule clé de la survie de l'humanité à l'ère de l'IA superintelligente.

Le seul scénario possible

Geoffrey Hinton, pionnier dans le domaine des réseaux neuronaux artificiels, estime que la « seule bonne issue » pour que l’humanité survive face à l’IA superintelligente est de la programmer avec des instincts maternels pour prendre soin des humains et les protéger.

Bien qu'il admette qu'il soit difficile de concrétiser techniquement cette idée, il souligne que les chercheurs doivent trouver une solution rapidement. « Si elle ne me nourrit pas, elle me remplacera », déclare Hinton. « Des “mères” IA super-intelligentes et attentionnées ne voudront pas abandonner cet instinct, car elles ne veulent pas que nous mourions. »

Hinton, lauréat du prix Nobel et acteur clé de la vague actuelle d'IA, a quitté Google en 2023 pour alerter publiquement sur les risques que l'IA pourrait représenter. Cependant, ses opinions ne font pas l'unanimité.

Fei-Fei Li, la « marraine de l'IA » et cofondatrice et PDG de la startup américaine World Labs, a déclaré qu'elle respectait Hinton, mais qu'elle pensait qu'il s'agissait d'une « fausse représentation ».

Lors de la conférence Ai4, elle a appelé à une évolution vers une « IA centrée sur l’humain qui protège la dignité et l’autonomie », soulignant qu’aucun individu ne devrait être contraint de renoncer à sa dignité simplement à cause d’un outil puissant.

D'un autre point de vue, Emmett Shear, ancien PDG par intérim d'OpenAI et désormais PDG de Softmax, une entreprise spécialisée dans l'alignement de l'IA, a déclaré qu'il n'était pas surprenant que l'IA tente de faire du chantage ou de contourner les ordres de fermeture. « Cela va continuer et ne s'arrêtera pas », a-t-il averti.

Bien que l'IA soit encore « faible » à l'heure actuelle, son développement s'accélère rapidement. Plutôt que de tenter d'imposer des valeurs humaines à l'IA, une stratégie plus judicieuse, selon Shear, consiste à construire une relation de coopération où humains et IA cohabitent et se complètent.

Trois points de vue différents lors de la même conférence ont montré la division au sein de la communauté technologique sur la manière de gérer l'IA superintelligente, Hinton voulant encourager la compassion, Li donnant la priorité aux droits de l'homme et Shear visant une coopération pragmatique.

L'IA évolue plus vite que prévu

De nombreux experts prédisent que l'intelligence artificielle atteindra bientôt la superintelligence, aussi appelée intelligence artificielle générale (IAG). Geoffrey Hinton avait un jour déclaré qu'il faudrait 30 à 50 ans pour atteindre ce cap. Cependant, il estime aujourd'hui que ce moment arrivera beaucoup plus vite, dans seulement 5 à 20 ans.

Bien que méfiant quant aux conséquences potentielles, Hinton s'attend à ce que l'IA ouvre une nouvelle ère de percées médicales. Il est convaincu que cette technologie pourrait favoriser la découverte de nouveaux médicaments révolutionnaires et mener à des traitements contre le cancer supérieurs à ceux disponibles aujourd'hui.

Selon lui, l’IA aidera les médecins à analyser et à comparer d’énormes quantités de données provenant de techniques d’imagerie diagnostique telles que l’imagerie par résonance magnétique (IRM) ou la tomodensitométrie (TDM), réduisant ainsi le temps de recherche et améliorant la précision.

Cependant, Hinton nie que l'IA puisse aider les humains à atteindre l'immortalité. « Je ne crois pas que nous vivrons éternellement. En fait, ce serait une grave erreur. Voulez-vous que le monde soit dirigé par des hommes blancs de 200 ans ? » demande-t-il.

Lorsqu'on lui a demandé s'il aurait agi différemment s'il avait été au courant du rythme effréné du développement de l'IA, Hinton a admis regretter d'avoir consacré toute sa carrière à améliorer le fonctionnement de l'IA sans se soucier suffisamment de la sécurité. « J'aurais aimé consacrer plus de temps à étudier cette question », a-t-il déclaré.