Le milliardaire Elon Musk et les plus grands experts mondiaux en IA appellent à une pause dans le développement des systèmes d'IA de nouvelle génération

La lettre, publiée par l'institut à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, dont le milliardaire Elon Musk, le patron de Tesla Company, appelle à une pause dans le développement de systèmes d'IA avancés jusqu'à ce que des protocoles de sécurité communs pour ces conceptions soient développés, déployés et audités par des experts indépendants.

Photo d'illustration.

« Des systèmes d'IA puissants ne devraient être développés que lorsque nous sommes convaincus que leurs impacts seront positifs et que leurs risques seront gérables. La course actuelle au développement des systèmes d'IA est dangereuse et nécessite la mise en place d'organismes de réglementation indépendants pour garantir le déploiement sûr des futurs systèmes », indique la lettre.

La lettre détaille les risques potentiels pour la société et la civilisation humaine posés par les systèmes d’IA en concurrence avec les humains, impactant l’économie et la politique, et appelle les développeurs à travailler avec les décideurs politiques et les régulateurs.

« Nous appelons tous les laboratoires d'IA à cesser immédiatement de former des systèmes d'IA plus puissants que GPT-4 pendant au moins six mois. Cette suspension doit être publique et vérifiable. Si elle ne peut être mise en œuvre rapidement, les gouvernements devront intervenir et imposer un moratoire », indique la lettre.

« Les laboratoires d’IA et les experts indépendants devraient profiter de cette pause pour développer et mettre en œuvre conjointement un ensemble partagé de protocoles de sécurité pour la conception et le développement avancés de l’IA, étroitement testés et surveillés par des experts externes indépendants », indique la lettre.

Parmi les cosignataires de la lettre figurent le cofondateur d'Apple, Steve Wozniak, le cofondateur de Skype, Jaan Tallinn, l'homme politique Andrew Yang, le PDG de Stability AI, Emad Mostaque, les chercheurs de la société de recherche en IA DeepMind (propriété d'Alphabet), et plusieurs chercheurs et PDG éminents en IA, dont Stuart Russell, Yoshua Bengio, Gary Marcus et Emad Mostaque.

Le 27 mars, l'Agence de police de l'Union européenne (Europol) avait également exprimé ses inquiétudes quant aux problèmes éthiques et juridiques liés à des systèmes avancés comme ChatGPT. Elle a mis en garde contre le risque d'exploitation de l'IA à des fins de fraude, de diffusion de fausses informations et d'autres cybercrimes.

Depuis sa sortie à la fin de l'année dernière, ChatGPT d'OpenAI, soutenu par Microsoft, a déclenché une course au développement de grands modèles linguistiques et à l'intégration de l'IA dans les produits et services.

Un représentant de Future of Life a déclaré que Sam Altman, PDG et fondateur d'OpenAI, n'avait pas signé la lettre.

À ce propos, Gary Marcus, professeur à l'Université de New York (États-Unis), signataire de la lettre, a déclaré : « La lettre ne couvre pas l'intégralité du sujet, mais elle exprime l'idée générale selon laquelle il est nécessaire de ralentir le rythme jusqu'à ce que les impacts de l'IA soient mieux compris. Les systèmes peuvent causer de graves dommages lorsque les grandes entreprises du secteur de l'IA sont de plus en plus discrètes sur leurs développements. Il est donc difficile pour la société de contrer tout dommage potentiel. »

Selon

1.https://www.reuters.com/technology/musk-experts-urge-pause-training-ai-systems-that-can-outperform-gpt-4-2023-03-29/

2.https://www.theverge.com/2023/3/29/23661374/elon-musk-ai-researchers-pause-research-open-letter