12 des principales préoccupations que l'intelligence artificielle soulève pour l'humanité.
(Baonghean.vn) - Le développement rapide des technologies d'intelligence artificielle (IA) ces derniers temps a suscité des inquiétudes particulières chez les développeurs, les chercheurs et les décideurs politiques.
Début décembre 2023 à Singapour, 40 délégués du monde entier, dont des développeurs, des chercheurs et des décideurs politiques, se sont réunis pour une conférence afin de discuter des questions urgentes liées au développement de la technologie de l'IA.
Lors de cette réunion, des experts en technologies ont abordé de nombreuses préoccupations et controverses apparues depuis l'émergence, ces dernières années, d'une intelligence artificielle quasi-humaine. Leurs avis serviront de référence pour orienter les objectifs de recherche et les décisions politiques en matière de développement de l'IA à l'échelle mondiale.
Voici les 12 principales préoccupations que l'IA soulève pour l'humanité, telles que définies après une conférence de trois jours réunissant des experts internationaux à Singapour.
1. Peut-on faire confiance à l'IA ?
Les systèmes d'IA sont de plus en plus utilisés pour aider les humains à prendre des décisions importantes, mais les systèmes actuels peuvent parfois « créer des illusions » et produire des résultats inexacts. La fiabilité reflète la capacité d'un système ou de ses composants à remplir ses fonctions prévues dans des conditions et un laps de temps définis.
La fiabilité est particulièrement importante pour garantir que les systèmes d'IA n'entraînent pas de conséquences néfastes lorsqu'ils sont appliqués aux voitures autonomes ou aux décisions chirurgicales.
Les délégués ont convenu qu'un système d'IA doit être testé dans des scénarios aussi proches que possible des tâches qu'il effectuera en situation réelle, et que les développeurs devraient concevoir des outils d'IA qui ne se concentrent pas uniquement sur les performances statistiques. Il est également nécessaire d'élaborer des critères standardisés pour évaluer la fiabilité des modèles d'IA.
2. Nous devons créer un bon ensemble de données pour les modèles d'IA.
Les modèles d'IA performants s'appuient sur de vastes ensembles de données qui leur permettent d'effectuer des analyses et de prendre des décisions précises. Toutefois, la constitution d'ensembles de données de qualité, essentiels à une IA efficace, représente un défi, notamment lorsque les données sont sensibles et protégées pour des raisons de confidentialité.
Pour parvenir à cet équilibre, la réglementation doit encourager la création et la transmission de données, garantir la qualité des bases de données et assurer la sécurité des échanges de données.
3. L'IA va-t-elle nous tuer ?
Parmi les scénarios les plus catastrophiques recensés, l'IA pourrait engendrer des menaces planétaires telles que le réchauffement climatique ou un génocide nucléaire perpétré grâce à elle. Les délégués ont souligné que des préjudices sociaux importants et une cybercriminalité facilitée par l'IA sont déjà une réalité, et qu'un effondrement économique dû à l'IA est une possibilité à court terme.
Les pays doivent établir des signaux d'alerte clairs dans de multiples secteurs, les développeurs doivent être soumis à un examen rigoureux et les systèmes critiques doivent subir des tests de résistance avant d'être intégrés à l'IA.
4. Des mesures strictes sont-elles nécessaires pour contrôler le développement de l'IA ?
La législation doit évoluer au même rythme afin d'éviter que les risques liés à l'IA ne passent inaperçus, les politiques actuelles étant insuffisantes. Les autorités doivent également mettre en place des mécanismes de signalement des infractions et définir clairement les responsabilités face aux risques posés par l'IA.
Les organismes de réglementation doivent également trouver un équilibre afin que la réglementation n'étouffe pas l'innovation et fournir des cadres pour déterminer quand la législation devrait intervenir afin de réprimer l'IA.
5. Développer l'IA pour soutenir la recherche scientifique.
L'IA détient la clé pour résoudre certains des problèmes les plus difficiles de l'humanité et a le potentiel de développer des remèdes et de créer des outils pour lutter contre le changement climatique, ce qui, selon les délégués, devrait être une priorité absolue pour les développeurs d'IA au bénéfice de l'humanité.
Le développement de l'IA au service de la recherche scientifique est extrêmement important et doit être encouragé par une coopération accrue entre les pays et les organisations internationales afin de partager les financements et les connaissances.
6. L'IA est-elle capable d'apprendre comme les humains ?
L'IA peut tout apprendre très rapidement, devenant de plus en plus « intelligente » et répondant mieux aux besoins humains ; cependant, en fin de compte, les machines ne peuvent toujours pas comprendre ce qu'elles ont appris ni penser comme les humains.
Actuellement, aucun système d'IA n'est capable d'apprendre aussi naturellement que les humains. Le cerveau humain est plus adaptable et réactif que n'importe quel système d'IA. Si l'IA peut automatiser de nombreuses tâches et processus, de nombreux emplois requièrent encore de la créativité, de la flexibilité et la capacité de prendre des décisions complexes fondées sur l'intuition et l'expérience – des qualités propres à l'humain.
Les systèmes d'IA sont dépourvus de la créativité humaine ; ils ne peuvent fonctionner qu'avec les données qu'ils reçoivent. Par conséquent, ils ne peuvent concevoir de nouvelles méthodes, de nouveaux styles ou de nouveaux modèles de travail et sont limités à certains schémas créés par les humains.
En revanche, les humains possèdent une capacité de réflexion exceptionnelle, savent puiser des informations à diverses sources et trouver des solutions à des problèmes complexes avec peu ou pas de données. L'IA, n'ayant pas cette capacité de réflexion exceptionnelle ni celle de générer des idées novatrices, ne peut remplacer les humains au travail.
7. Quelle est la valeur de l'IA ?
L'intelligence artificielle devrait poursuivre sa forte croissance à l'avenir, portée par les progrès technologiques et algorithmiques. Elle deviendra de plus en plus intelligente et flexible, et ses applications se généraliseront dans divers domaines, de la médecine et l'éducation à l'industrie, au commerce et à la recherche scientifique. Par ailleurs, nous assisterons au développement de systèmes d'IA collaboratifs, où plusieurs systèmes d'IA travailleront de concert pour résoudre des problèmes complexes.
L'intelligence artificielle continuera de se développer et deviendra une composante indispensable de la vie future ; comprendre et exploiter efficacement l'IA est donc essentiel au progrès et à la prospérité dans ce monde de plus en plus numérisé.
8. Concurrence et accès équitable
Les technologies d'IA sont généralement développées par de grandes entreprises à but lucratif à l'échelle mondiale. Les experts estiment que cette concentration de l'IA entre les mains de ces entreprises motivées par le profit pourrait affecter le prix et la qualité des systèmes d'IA, et potentiellement restreindre l'accès à l'IA pour certaines communautés.
Afin de favoriser une concurrence plus équitable, les délégués ont plaidé pour un abaissement des barrières à l'entrée afin de promouvoir le développement des systèmes d'IA. Ils ont également proposé de réglementer les fournisseurs d'IA de la même manière que les fournisseurs de télécommunications et de services publics.
9. L'IA utilisée pour l'apprentissage
L'avènement de l'IA a inauguré une nouvelle ère dans l'éducation, transformant nos méthodes d'apprentissage et de recherche. L'IA peut contribuer à rendre l'apprentissage plus personnalisé, efficace et stimulant.
L'un des principaux avantages de l'IA dans l'apprentissage est la personnalisation. Les systèmes basés sur l'IA peuvent analyser le style d'apprentissage, les points forts et les points faibles de chaque apprenant et adapter les supports pédagogiques en conséquence. Cette approche personnalisée permet aux apprenants d'étudier à leur propre rythme, ce qui renforce leur confiance en eux et améliore leurs résultats d'apprentissage.
De plus, les systèmes d'IA permettent aux parents de recevoir un retour d'information immédiat sur les résultats scolaires de leurs enfants. L'IA peut également prendre en charge des tâches telles que la notation, l'aide aux élèves dans leurs études, et même le tutorat. Ces systèmes peuvent être programmés pour fournir des connaissances d'experts et une plateforme permettant aux élèves de poser des questions et de rechercher des informations. Les enseignants peuvent ainsi jouer un rôle de facilitateur lorsque les élèves rencontrent des difficultés, en offrant un accompagnement personnalisé.
Toutefois, pour bénéficier de ces avantages, les systèmes d'IA doivent être véritablement fiables, et les ensembles de données qui leur sont fournis doivent être extrêmement précis et constamment mis à jour.
10. Supprimer les fausses informations
Les outils d'écriture et les générateurs d'images rendent la détection de la désinformation générée par l'IA de plus en plus difficile. La désinformation peut se propager rapidement via les plateformes de médias sociaux.
Les délégués ont demandé des moyens d'identifier les sources d'information en ligne et d'obliger les plateformes de médias sociaux à surveiller leurs canaux. Il est nécessaire d'entraîner les algorithmes à maîtriser des langues autres que l'anglais afin de détecter avec précision la désinformation sur les plateformes mondiales.
11. Développer l'IA au service de la société.
Le développement de l'IA doit profiter à tous, ce qui exige des garanties fondées sur les droits de l'homme, la transparence et la responsabilité.
Les délégués ont appelé à ce que les organisations à but non lucratif, les gouvernements et les entreprises sociales fassent entendre leur voix afin de promouvoir l'évaluation des impacts sociaux de l'intelligence artificielle. Les développeurs d'IA ne devraient pas se précipiter pour déployer cette technologie, mais plutôt en évaluer soigneusement l'impact et éviter les investissements inutiles.
12. Normes de sécurité
À l'heure actuelle, les pays et les organisations internationales n'ont pas encore convenu de normes pour tester la sécurité de l'IA durant son développement. Ces normes comprennent l'évaluation des risques potentiels pour la sécurité et des préjudices économiques ou psychologiques possibles.
Les délégués ont appelé à une coopération mondiale pour l'élaboration de normes de sécurité pour les systèmes d'IA afin de garantir que l'IA atteigne son plein potentiel tout en prévenant et en atténuant les dommages.