Les 12 principales préoccupations que l'intelligence artificielle pose à l'humanité

Début décembre 2023 à Singapour, 40 délégués du monde entier, dont des développeurs, des chercheurs et des décideurs politiques, se sont réunis pour assister à une conférence afin de discuter des questions urgentes liées au développement de la technologie de l'IA.

Les experts en technologie ont évoqué ici les nombreuses préoccupations et controverses apparues ces dernières années depuis l'apparition de l'IA dotée d'une intelligence de type humain. Leurs avis serviront de référence pour orienter les objectifs de recherche et décider des politiques de développement de l'IA à l'échelle mondiale.

Voici les 12 principales préoccupations que l’IA pose à l’humanité, qui ont été finalisées après une conférence de trois jours d’experts mondiaux tenue à Singapour.

1. Peut-on faire confiance à l’IA ?

Les systèmes d'IA sont de plus en plus utilisés pour assister les humains dans la prise de décisions importantes, mais les systèmes actuels sont parfois « délirants » et produisent des résultats inexacts. La fiabilité représente la capacité d'un système ou de ses composants à exécuter les fonctions prévues dans des conditions spécifiées sur une période de fonctionnement donnée.

La fiabilité est particulièrement importante pour garantir que les systèmes d’IA sont moins susceptibles de provoquer des conséquences néfastes lorsqu’ils sont appliqués à des voitures autonomes ou à des décisions sur la table d’opération.

Les délégués ont convenu qu'un système d'IA devrait être testé dans des situations aussi proches que possible des tâches qu'il exécuterait en situation réelle, et que les développeurs devraient concevoir des outils d'IA qui ne se concentrent pas uniquement sur les performances statistiques. Des normes normalisées pour évaluer la fiabilité des modèles d'IA devraient également être élaborées.

2. Nécessité de créer de bons ensembles de données pour les modèles d'IA

Les modèles d'IA puissants s'appuient sur de vastes ensembles de données qui les aident à effectuer des analyses et à prendre des décisions judicieuses. Cependant, la création d'ensembles de données performants, capables de soutenir une IA efficace, est complexe, surtout lorsque les données sont sensibles et protégées pour des raisons de confidentialité.

Pour atteindre cet équilibre, la réglementation doit encourager la création et la transmission de données, garantir que les bases de données sont de haute qualité et garantir que les données sont échangées en toute sécurité.

3. L’IA va-t-elle nous tuer ?

Parmi les scénarios les plus désastreux cités, l'IA pourrait engendrer des menaces planétaires telles que le réchauffement climatique ou un génocide nucléaire alimenté par l'IA. Les délégués ont souligné que des dommages sociétaux généralisés et une cybercriminalité alimentée par l'IA sont déjà en cours, et qu'un effondrement économique induit par l'IA est une possibilité dans un avenir proche.

Les pays doivent mettre en place des signaux d’avertissement clairs dans de nombreux secteurs, les développeurs doivent être soumis à des tests rigoureux et les systèmes critiques doivent être soumis à des tests de résistance avant d’être liés à l’IA.

4. Des solutions strictes sont-elles nécessaires pour contrôler le développement de l’IA ?

Les lois doivent s'adapter pour garantir que les risques liés à l'IA ne passent pas inaperçus, faute de mesures prises par les politiques actuelles. Les gouvernements doivent également mettre en place des moyens de signaler les violations et de clarifier les responsabilités liées aux risques liés à l'IA.

Les régulateurs doivent également trouver un équilibre afin que la réglementation n’étouffe pas l’innovation et fournisse des cadres pour déterminer quand la loi doit intervenir pour réprimer l’IA.

5. Développer l'IA pour la recherche scientifique

L'IA détient la clé pour résoudre certains des problèmes les plus difficiles de l'humanité et a le potentiel de développer des remèdes contre les maladies ainsi que de créer des outils pour lutter contre le changement climatique, ce qui, selon les délégués, devrait être une priorité absolue pour les constructeurs d'IA au profit de l'humanité.

Le développement de l’IA pour la recherche scientifique est extrêmement important et doit être encouragé en renforçant la coopération entre les pays et les organisations internationales pour partager les financements et les connaissances.

6. L’IA peut-elle apprendre comme les humains ?

L'IA peut apprendre très rapidement, devenir de plus en plus « intelligente » et mieux répondre aux besoins humains. Cependant, au final, les machines ne peuvent toujours pas comprendre ce qu'elles ont appris et penser comme les humains.

Aucun système d'IA n'a actuellement la capacité d'apprendre naturellement comme les humains. Le cerveau humain est plus adaptable et réactif que n'importe quel système d'IA. Si l'IA peut automatiser de nombreuses tâches et processus, de nombreuses tâches nécessitent encore créativité, flexibilité et capacité à prendre des décisions complexes basées sur l'intuition et l'expérience, propres aux humains.

Les systèmes d'IA manquent de créativité humaine ; ils ne peuvent travailler qu'avec les données qu'ils reçoivent. Par conséquent, ils ne peuvent imaginer de nouvelles méthodes, styles ou modèles de travail et sont limités à certains stéréotypes créés par l'homme.

En revanche, les humains peuvent sortir des sentiers battus, puiser des informations auprès de sources diverses et créer des solutions à des problèmes complexes avec peu ou pas de données. L'IA ne possédant pas la capacité de sortir des sentiers battus et de générer des idées créatives pour l'innovation, elle ne peut remplacer les humains sur le lieu de travail.

7. Quelle est la valeur de l’IA ?

L'IA devrait poursuivre sa croissance à l'avenir, grâce aux progrès technologiques et algorithmiques. Elle deviendra de plus en plus intelligente et flexible et pourra être appliquée à de nombreux domaines, de la médecine à l'éducation, en passant par l'industrie, le commerce et la recherche scientifique. De plus, nous assisterons au développement de systèmes d'IA collaboratifs, dans lesquels plusieurs systèmes d'IA collaboreront pour résoudre des problèmes complexes.

L’intelligence artificielle continuera d’évoluer et de devenir partie intégrante de la vie à l’avenir. Comprendre et utiliser l’IA à bon escient est donc une clé importante du progrès et de la prospérité dans ce monde de plus en plus numérique.

8. Concurrence et accès équitable

L'IA est souvent développée par de grandes entreprises technologiques du monde entier, dont la principale motivation est le profit. Les experts en technologie affirment que la concentration de l'IA entre les mains d'entreprises à but lucratif peut affecter le prix et la qualité des systèmes d'IA, et potentiellement limiter l'accès à l'IA pour certaines communautés.

Afin de promouvoir une concurrence plus équitable, les délégués ont appelé à abaisser les barrières à l'entrée afin de favoriser le développement des systèmes d'IA. Parallèlement, ils ont proposé de réglementer les fournisseurs d'IA de la même manière que les fournisseurs de services de télécommunications et les services publics.

9. L'IA utilisée pour l'apprentissage

L'avènement de l'IA a marqué le début d'une nouvelle ère dans l'éducation, transformant nos façons d'apprendre et de faire de la recherche. L'IA a rendu l'apprentissage plus personnalisé, plus efficace et plus stimulant.

L'un des principaux avantages de l'IA dans l'apprentissage est la personnalisation. Les systèmes basés sur l'IA peuvent analyser le style d'apprentissage, les points forts et les points faibles d'un apprenant et adapter le matériel pédagogique en conséquence. Cette approche personnalisée permet aux apprenants d'apprendre à leur propre rythme, améliorant ainsi leur confiance et leurs résultats d'apprentissage.

De plus, le système d'IA permet aux parents de recevoir un retour immédiat sur les résultats d'apprentissage de leurs enfants. L'IA peut également prendre en charge des tâches telles que la notation, l'aide à la révision et même le tutorat. Le système d'IA peut être programmé pour fournir des connaissances spécialisées et permettre aux élèves de poser des questions et de trouver des informations. Les enseignants joueront un rôle de soutien lorsque les élèves rencontrent des difficultés, en assurant une interaction humaine.

Cependant, pour obtenir les avantages ci-dessus, les systèmes d’IA doivent être véritablement fiables, l’ensemble de données fourni au système d’IA doit être très précis et toujours mis à jour.

10. Lutter contre les fausses nouvelles

Les outils d'écriture et les générateurs d'images rendent la désinformation générée par l'IA de plus en plus difficile à détecter. La désinformation peut se propager rapidement sur les réseaux sociaux.

Les délégués ont appelé à la mise en place de moyens permettant d'identifier les sources d'information en ligne et à l'obligation pour les plateformes de médias sociaux de surveiller leurs canaux. Les algorithmes doivent être formés à d'autres langues que l'anglais afin de détecter avec précision la désinformation sur les plateformes mondiales.

11. Développer l'IA au service de la société

Le développement de l’IA doit bénéficier à tous, ce qui nécessite des garanties fondées sur les droits de l’homme, la transparence et la responsabilité.

Les délégués ont appelé les organisations à but non lucratif, les gouvernements et les entreprises sociales à s'exprimer pour promouvoir l'évaluation des impacts sociaux de l'IA. Les développeurs d'IA ne doivent pas se précipiter pour déployer cette technologie, mais doivent évaluer attentivement son impact et éviter les investissements inutiles.

12. Normes de sécurité

À l'heure actuelle, les pays et les organisations internationales ne se sont pas encore mis d'accord sur des normes permettant de tester la sécurité de l'IA pendant son développement. Ces normes incluent l'évaluation des risques de sécurité et des dommages économiques ou psychologiques potentiels.

Les délégués ont appelé à une coopération mondiale pour élaborer des normes de sécurité pour les systèmes d’IA afin de garantir que l’IA réalise son plein potentiel, tout en prévenant et en minimisant les dommages.