Le Daily Mail a cité un chercheur en technologie affirmant que l'intelligence artificielle pourrait devenir un danger pour l'humanité, comparable aux armes nucléaires.

Terminator fait partie de la série de films qui illustre les dangers posés par l'intelligence artificielle. – Capture d'écran

Le professeur Stuart Russell, informaticien à l'Université de Californie (États-Unis) et au Centre d'études des risques de l'Université de Cambridge (Royaume-Uni), et un chef de file en intelligence artificielle (IA), craint qu'avec le développement si rapide de l'IA, l'humanité ne se dirige tout droit vers une falaise.

Pour étayer son propos, Russell a souligné que le développement rapide de l'IA dans des entreprises comme Boston Dynamics (récemment rachetée par Google) permettra de créer des robots à usage militaire. Plus précisément, l'IA pourrait facilement être exploitée pour contrôler automatiquement les arsenaux militaires.

Le professeur Stephen Hawking s'est également joint à un groupe d'experts de premier plan pour signer une lettre ouverte mettant en garde contre la nécessité de mesures de sécurité afin de garantir que l'IA ait un impact positif sur l'humanité.

Dans une interview accordée au magazine Science au sujet de l'intelligence artificielle, Stephen Hawking a déclaré : « Dès le départ, la principale préoccupation de l'industrie nucléaire était la production d'énergie quasi illimitée. Les capacités des armes nucléaires étaient évidentes, et je pense qu'il existe des similitudes avec la capacité de travail illimitée de l'intelligence artificielle. Les deux suscitent de vives inquiétudes quant aux risques potentiels. La réglementation relative aux armes nucléaires concerne les objets et les matériaux, tandis qu'avec l'IA, il s'agirait de problèmes logiciels que nous ne sommes pas encore capables de décrire. »

Récemment, une série d'articles soulignant les progrès de l'intelligence artificielle ont été publiés dans la revue Science. Des chercheurs y décrivent comment l'assistance informatique pourrait constituer une source d'énergie inépuisable pour cette technologie. Le professeur Russell met en garde contre les dangers potentiels d'un développement incontrôlé de l'IA si ses conséquences ne sont pas pleinement étudiées et si aucune réglementation n'est mise en place.

En avril 2015, lors d'une réunion des Nations Unies à Genève, en Suisse, le professeur Russell a également exprimé ses inquiétudes quant aux dangers liés au contrôle des aéronefs et des armements militaires par des systèmes d'IA. Ce scénario de base pourrait s'avérer erroné, l'IA pouvant cibler des objectifs potentiellement très dangereux. Malgré cela, les nations continuent de s'efforcer de développer des systèmes d'IA avant que leurs adversaires ne puissent atteindre leurs objectifs.

Le professeur Russell a déclaré que l'informatique devait revoir ses objectifs de recherche afin de garantir que ses valeurs et ses objectifs restent axés sur le développement de l'intelligence artificielle. C'est également l'avis des chercheurs Jelena Stajic, Richard Stone, Gilbert Chin et Brad Wible, comme indiqué dans un éditorial de la revue Science.

(Selon le TPO)