Les 12 principales préoccupations de l'intelligence artificielle pour l'humanité

Début décembre 2023 à Singapour, 40 délégués du monde entier, dont des développeurs, des chercheurs et des décideurs politiques, se sont réunis pour assister à une conférence afin de discuter des questions urgentes liées au développement de la technologie de l'IA.

Les experts en technologie ont évoqué ici les nombreuses préoccupations et controverses apparues ces dernières années depuis l'émergence de l'IA dotée d'une intelligence quasi humaine. Leurs avis serviront de référence pour orienter les objectifs de recherche et décider des politiques de développement de l'IA à l'échelle mondiale.

Voici les 12 principales préoccupations que l’IA pose à l’humanité, qui ont été finalisées après une conférence de trois jours d’experts mondiaux tenue à Singapour.

1. Peut-on faire confiance à l’IA ?

Les systèmes d'IA sont de plus en plus utilisés pour assister les humains dans la prise de décisions importantes, mais les systèmes actuels ont parfois des hallucinations et produisent des résultats inexacts. La fiabilité représente la capacité d'un système ou de ses composants à exécuter les fonctions prévues dans des conditions spécifiées pendant une période de fonctionnement donnée.

La fiabilité est particulièrement importante pour garantir que les systèmes d’IA sont moins susceptibles de provoquer des conséquences néfastes lorsqu’ils sont appliqués à des voitures autonomes ou à des décisions prises sur la table d’opération.

Les délégués ont convenu qu'un système d'IA devrait être testé dans des situations aussi proches que possible des tâches qu'il exécutera en situation réelle, et que les développeurs devraient concevoir des outils d'IA qui ne se concentrent pas uniquement sur les performances statistiques. Il est également nécessaire d'élaborer des normes normalisées pour évaluer la fiabilité des modèles d'IA.

2. Nécessité de créer de bons ensembles de données pour les modèles d'IA

Les modèles d'IA puissants s'appuient sur de vastes ensembles de données qui les aident à effectuer des analyses et à prendre des décisions judicieuses. Cependant, la création d'ensembles de données performants, capables de soutenir une IA efficace, s'avère complexe, surtout lorsque les données sont sensibles et protégées pour des raisons de confidentialité.

Pour atteindre cet équilibre, la réglementation doit encourager la création et la transmission de données, garantir que les bases de données sont de haute qualité et garantir que les données sont échangées en toute sécurité.

3. L’IA va-t-elle nous tuer ?

Parmi les scénarios les plus désastreux cités, l'IA pourrait engendrer des menaces planétaires telles que le réchauffement climatique ou un génocide nucléaire alimenté par l'IA. Les délégués ont souligné que des dommages sociaux généralisés et une cybercriminalité alimentée par l'IA sont déjà en cours, et qu'un effondrement économique induit par l'IA est une possibilité à court terme.

Les pays doivent mettre en place des signaux d’avertissement clairs dans de nombreux secteurs, les développeurs doivent être soumis à des tests rigoureux et les systèmes critiques doivent être soumis à des tests de résistance avant d’être liés à l’IA.

4. Des solutions strictes sont-elles nécessaires pour contrôler le développement de l’IA ?

Les lois doivent être mises à jour pour garantir que les risques liés à l'IA ne passent pas inaperçus, faute de mesures prises par les politiques actuelles. Les autorités doivent également mettre en place des moyens de signaler les violations et de clarifier la responsabilité des risques liés à l'IA.

Les régulateurs doivent également trouver un équilibre afin que la réglementation n’étouffe pas l’innovation et fournisse des cadres pour déterminer quand la loi doit intervenir pour réprimer l’IA.

5. Développer l'IA au service de la recherche scientifique

L'IA détient la clé pour résoudre certains des problèmes les plus difficiles de l'humanité et a le potentiel de développer des remèdes contre les maladies ainsi que de créer des outils pour lutter contre le changement climatique, ce qui, selon les délégués, devrait être une priorité absolue pour les constructeurs d'IA au profit de l'humanité.

Le développement de l’IA au service de la recherche scientifique est extrêmement important et doit être encouragé en renforçant la coopération entre les pays et les organisations internationales pour partager les financements et les connaissances.

6. L’IA peut-elle apprendre comme les humains ?

L'IA peut apprendre des choses très rapidement, devenant de plus en plus « intelligente », répondant mieux aux besoins humains, cependant, au final, les machines ne peuvent toujours pas comprendre ce qu'elles ont appris et penser comme les humains.

Aucun système d'IA n'a actuellement la capacité d'apprendre naturellement comme l'humain. Le cerveau humain est plus adaptable et réactif que n'importe quel système d'IA. Si l'IA peut automatiser de nombreuses tâches et processus, de nombreuses tâches requièrent encore créativité, flexibilité et capacité à prendre des décisions complexes basées sur l'intuition et l'expérience, propres aux humains.

Les systèmes d'IA manquent de créativité humaine ; ils ne peuvent travailler qu'avec les données qu'ils reçoivent. Par conséquent, ils ne peuvent imaginer de nouvelles méthodes, styles ou modèles de travail et sont limités à certains modèles créés par l'homme.

En revanche, les humains peuvent sortir des sentiers battus, puiser des informations auprès de sources diverses et créer des solutions à des problèmes complexes avec peu ou pas de données. L'IA ne possédant pas la capacité de sortir des sentiers battus et de générer des idées créatives pour l'innovation, elle ne peut remplacer l'humain sur le lieu de travail.

7. Quelle est la valeur de l’IA ?

L'IA devrait poursuivre sa croissance à l'avenir, grâce aux progrès technologiques et algorithmiques. Elle deviendra de plus en plus intelligente et flexible et pourra être appliquée à de nombreux domaines, de la médecine à l'éducation, en passant par l'industrie, le commerce et la recherche scientifique. De plus, nous assisterons au développement de systèmes d'IA collaboratifs, où plusieurs systèmes d'IA collaboreront pour résoudre des problèmes complexes.

L’intelligence artificielle continuera d’évoluer et de devenir partie intégrante de la vie à l’avenir. Comprendre et utiliser l’IA est donc la clé du progrès et de la prospérité dans ce monde de plus en plus numérique.

8. Concurrence et accès équitable

L'IA est souvent développée par de grandes entreprises technologiques du monde entier, dont la principale motivation est le profit. Les experts en technologie affirment que la concentration de l'IA entre les mains d'entreprises à but lucratif peut affecter le prix et la qualité des systèmes d'IA, et risque également de limiter l'accès à l'IA pour certaines communautés.

Afin de créer une concurrence plus équitable, les délégués ont appelé à abaisser les barrières à l'entrée afin de favoriser le développement des systèmes d'IA. Ils ont également proposé de réglementer les fournisseurs d'IA à l'instar des opérateurs de télécommunications et des services publics.

9. L'IA utilisée pour l'apprentissage

L'avènement de l'IA a marqué le début d'une nouvelle ère dans l'éducation, transformant nos façons d'apprendre et de faire de la recherche. L'IA a rendu l'apprentissage plus personnalisé, plus efficace et plus stimulant.

L'un des principaux avantages de l'IA en apprentissage est la personnalisation. Les systèmes basés sur l'IA peuvent analyser le style d'apprentissage, les points forts et les points faibles d'un apprenant et adapter le matériel pédagogique en conséquence. Cette approche personnalisée permet aux apprenants d'apprendre à leur propre rythme, améliorant ainsi leur confiance et leurs résultats d'apprentissage.

De plus, le système d'IA permet aux parents de recevoir un retour immédiat sur les résultats d'apprentissage de leurs enfants. L'IA peut également prendre en charge des tâches telles que la notation, l'aide à la révision et même le tutorat. Le système d'IA peut être programmé pour fournir des connaissances spécialisées et permettre aux élèves de poser des questions et de rechercher des informations. Les enseignants joueront un rôle de soutien lorsque les élèves rencontrent des difficultés, en favorisant les interactions humaines.

Cependant, pour obtenir les avantages mentionnés ci-dessus, les systèmes d’IA doivent être véritablement fiables, les ensembles de données fournis aux systèmes d’IA doivent être très précis et toujours mis à jour.

10. Luttez contre les fausses nouvelles

Les outils d'écriture et les générateurs d'images rendent la désinformation générée par l'IA de plus en plus difficile à détecter. La désinformation peut se propager rapidement sur les réseaux sociaux.

Les délégués ont appelé à des moyens d'identifier les sources d'information en ligne et à obliger les plateformes de médias sociaux à surveiller leurs canaux. Les algorithmes doivent être formés à d'autres langues que l'anglais pour détecter avec précision la désinformation sur les plateformes mondiales.

11. Développer l'IA au service de la société

Le développement de l’IA doit bénéficier à tous, ce qui nécessite des garanties fondées sur les droits de l’homme, la transparence et la responsabilité.

Les délégués ont appelé les organisations à but non lucratif, les gouvernements et les entreprises sociales à se faire entendre pour promouvoir l'évaluation des impacts sociaux de l'IA. Les développeurs d'IA ne doivent pas se précipiter pour déployer cette technologie, mais doivent évaluer attentivement son impact et éviter les investissements inutiles.

12. Normes de sécurité

À l'heure actuelle, les pays et les organisations internationales ne se sont pas encore mis d'accord sur des normes pour tester la sécurité de l'IA pendant son développement. Ces normes incluent l'évaluation des risques potentiels de sécurité et des dommages économiques ou psychologiques.

Les délégués ont appelé à une coopération mondiale pour développer des normes de sécurité pour les systèmes d’IA afin de garantir que l’IA réalise son plein potentiel, tout en prévenant et en minimisant les dommages.