Recommandation sur l'éthique de l'intelligence artificielle de l'UNESCO

La Recommandation sur l’éthique de l’intelligence artificielle de l'UNESCO, adoptée en novembre 2021 par ses 193 États membres, constitue le premier instrument normatif mondial sur ce sujet.

Piliers fondamentaux de la Recommandation

• Valeurs fondamentales : Le texte repose sur le respect, la protection et la promotion des droits de l'homme, des libertés fondamentales et de la dignité humaine, tout en assurant la préservation de l'environnement et des écosystèmes.
• Principes directeurs :

• Transparence et explicabilité des décisions de l'IA.
• Sûreté, sécurité et respect de la vie privée.
• Responsabilité et reddition de comptes des acteurs.
• Équité et non-discrimination.
• Contrôle humain permanent sur les systèmes critiques.

• Domaines d'action stratégique : La Recommandation se traduit par des politiques publiques concrètes dans des secteurs clés tels que la gouvernance des données, l'éducation, la recherche, la santé, le bien-être social, l'environnement et l'égalité des genres.

Recommandation sur l'éthique de l'intelligence artificielle

Adoptée le 23 novembre 2021

Publié en 2022 par l'Organisation des Nations Unies pour l'éducation, la science et la culture, 7, place de Fontenoy, 75352 Paris 07 SP, France. © UNESCO 2022. SHS/BIO/PI/2021/1.

Tous droits réservés. Œuvre publiée en libre accès sous la licence Attribution-NonCommercial-ShareAlike 3.0 IGO (CC-BY-NC-SA 3.0 IGO) (http://creativecommons.org/licenses/by-nc-sa/3.0/igo/). Les utilisateurs du contenu de la présente publication acceptent les termes d'utilisation de l'archive ouverte de libre accès UNESCO (www.unesco.org/open-access/terms-use-ccbyncsa-fr).

Table des matières

• Préambule
• I. Champ d'application
• II. Buts et objectifs
• III. Valeurs et principes
  • III.1 Valeurs
  • III.2 Principes
• IV. Domaines d'action stratégique
• V. Suivi et évaluation
• VI. Utilisation de la présente Recommandation
• VII. Promotion de la présente Recommandation
• VIII. Dispositions finales

Préambule

La Conférence générale de l'Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO), réunie à Paris du 9 au 24 novembre 2021, à l'occasion de sa 41e session,

Consciente des répercussions positives et négatives profondes et dynamiques de l'intelligence artificielle (IA) sur les sociétés, l'environnement, les écosystèmes et la vie humaine, y compris l'esprit humain, en raison notamment des nouvelles façons dont son utilisation agit sur la pensée, les interactions et la prise de décisions des êtres humains et dont elle retentit sur l'éducation, les sciences sociales et humaines et les sciences exactes et naturelles, la culture et la communication et l'information,

Rappelant que l'UNESCO se propose, aux termes de son Acte constitutif, de contribuer à la paix et à la sécurité et de resserrer, par l'éducation, les sciences, la culture et la communication et l'information, la collaboration entre nations, afin d'assurer le respect universel de la justice, de la loi, des droits de l'homme et des libertés fondamentales reconnus à tous les peuples,

Convaincue que la Recommandation présentée ici, en tant qu'instrument normatif, développée selon une approche globale, fondée sur le droit international et centrée sur la dignité humaine et les droits de l'homme, ainsi que sur l'égalité des genres, la justice sociale et économique et le développement, le bien-être physique et mental, la diversité, l'interdépendance, l'inclusion et la protection de l'environnement et des écosystèmes, peut donner une orientation responsable aux technologies de l'IA,

Guidée par les objectifs et les principes de la Charte des Nations Unies,

Considérant que les technologies de l'IA peuvent rendre de grands services à l'humanité et que tous les pays peuvent en bénéficier, mais qu'elles soulèvent également des préoccupations éthiques de fond, à l'égard, par exemple, des biais qu'elles sont susceptibles de comporter et d'accentuer, lesquels pourraient entraîner discrimination, inégalité, fractures numériques et exclusion, menacer la diversité culturelle, sociale et biologique et entraîner des clivages sociaux ou économiques ; la nécessité d'assurer la transparence et l'intelligibilité du fonctionnement des algorithmes et des données à partir desquelles ils ont été entraînés ; et leurs éventuelles conséquences sur, entre autres, la dignité humaine, les droits de l'homme et les libertés fondamentales, l'égalité des genres, la démocratie, les processus sociaux, économiques, politiques et culturels, les pratiques scientifiques et d'ingénierie, le bien-être animal, et l'environnement et les écosystèmes,

Considérant également que les technologies de l'IA peuvent creuser les écarts et les inégalités qui existent dans le monde, au sein des pays et entre eux, et qu'il faut maintenir la justice, la confiance et l'équité pour qu'aucun pays ni aucune personne ne soient laissés de côté, qu'il s'agisse de jouir d'un accès équitable aux technologies de l'IA et de profiter de leurs avantages ou de se prémunir contre leurs conséquences négatives, tout en reconnaissant les différences de situation qui prévalent entre les pays et en respectant le souhait de certaines personnes de ne pas prendre part à toutes les innovations technologiques,

Consciente également que tous les pays connaissent une accélération dans l'utilisation des technologies de l'information et de la communication et des technologies de l'IA, ainsi qu'un besoin croissant en matière d'éducation aux médias et à l'information, et que l'économie numérique représente des défis et des possibilités immenses aux niveaux sociétal, économique et environnemental en termes de partage des bienfaits, en particulier pour les pays à revenu faible et intermédiaire, y compris, sans s'y limiter, les pays les moins avancés (PMA), les pays en développement sans littoral (PDSL) et les petits États insulaires en développement (PEID), ce qui exige de prendre en compte, de protéger et de promouvoir les cultures, valeurs et connaissances endogènes pour développer des économies numériques durables,

Reconnaissant que les technologies de l'IA peuvent avoir des effets bénéfiques sur l'environnement et les écosystèmes, et que la matérialisation de ces avantages exige de ne pas ignorer mais au contraire de tenir compte des dommages et des impacts négatifs qu'elles peuvent avoir sur l'environnement et les écosystèmes,

Notant que la prise en compte des risques et des préoccupations éthiques ne devrait pas freiner l'innovation et le développement, mais plutôt offrir de nouvelles possibilités et encourager une recherche et une innovation menées de manière éthique plaçant les droits de l'homme et les libertés fondamentales, les valeurs, les principes et la réflexion morale et éthique au fondement des technologies de l'IA,

Rappelant également que la Conférence générale de l'UNESCO, à sa 40e session en novembre 2019, a adopté la résolution 40 C/37, par laquelle elle a chargé la Directrice générale « d'élaborer un instrument normatif international sur l'éthique de l'intelligence artificielle, sous la forme d'une recommandation », qui doit lui être présenté à sa 41e session en 2021,

Reconnaissant également que l'essor des technologies de l'IA nécessite de développer l'éducation à l'utilisation des données, aux médias et à l'information en conséquence, de même que l'accès à des sources d'information indépendantes, pluralistes et fiables, y compris dans le cadre des efforts visant à atténuer le risque de mésinformation, de désinformation et de diffusion de discours de haine, ainsi que les préjudices causés par une utilisation abusive des données personnelles,

Constatant que le cadre normatif applicable aux technologies de l'IA et à ses implications sociales trouve son fondement dans les cadres juridiques internationaux et nationaux, les droits de l'homme et les libertés fondamentales, l'éthique, la nécessité d'accéder aux données, aux informations et aux connaissances, la liberté de recherche et d'innovation, le bien-être de l'humanité, de l'environnement et des écosystèmes, et établit un lien entre les valeurs et principes éthiques et les défis et possibilités liés aux technologies de l'IA, sur la base d'une compréhension commune et d'objectifs partagés,

Reconnaissant en outre que les valeurs et principes éthiques peuvent aider à élaborer et à appliquer des mesures politiques et des normes juridiques fondées sur les droits, en fournissant des orientations en vue du développement rapide des technologies,

Convaincue également que des normes éthiques mondialement reconnues pour les technologies de l'IA, qui respectent pleinement le droit international, en particulier le droit relatif aux droits de l'homme, peuvent jouer un rôle essentiel dans l'élaboration de normes relatives à l'IA dans le monde,

Ayant à l'esprit la Déclaration universelle des droits de l'homme (1948) ; les instruments internationaux relatifs aux droits de l'homme, dont la Convention relative au statut des réfugiés (1951), la Convention concernant la discrimination (emploi et profession) (1958), la Convention internationale sur l'élimination de toutes les formes de discrimination raciale (1965), le Pacte international relatif aux droits civils et politiques (1966), le Pacte international relatif aux droits économiques, sociaux et culturels (1966), la Convention sur l'élimination de toutes les formes de discrimination à l'égard des femmes (1979), la Convention relative aux droits de l'enfant (1989), la Convention relative aux droits des personnes handicapées (2006), la Convention concernant la lutte contre la discrimination dans le domaine de l'enseignement (1960), et la Convention sur la protection et la promotion de la diversité des expressions culturelles (2005), ainsi que tous autres instruments, recommandations et déclarations internationaux pertinents,

Prenant acte de la Déclaration des Nations Unies sur le droit au développement (1986) ; de la Déclaration sur les responsabilités des générations présentes envers les générations futures (1997) ; de la Déclaration universelle sur la bioéthique et les droits de l'homme (2005) ; de la Déclaration des Nations Unies sur les droits des peuples autochtones (2007) ; de la résolution de l'Assemblée générale des Nations Unies sur l'examen des textes issus du Sommet mondial sur la société de l'information (A/RES/70/125) (2015) ; de la résolution de l'Assemblée générale des Nations Unies « Transformer notre monde : le Programme de développement durable à l'horizon 2030 » (A/RES/70/1) (2015) ; de la Recommandation concernant la préservation et l'accessibilité du patrimoine documentaire, y compris le patrimoine numérique (2015) ; de la Déclaration de principes éthiques en rapport avec le changement climatique (2017) ; de la Recommandation concernant la science et les chercheurs scientifiques (2017) ; des indicateurs sur l'universalité de l'Internet (approuvés par le Programme international de l'UNESCO pour le développement de la communication en 2018), incluant les principes ROAM (approuvés par la Conférence générale de l'UNESCO en 2015) ; de la résolution du Conseil des droits de l'homme sur « Le droit à la vie privée à l'ère du numérique » (A/HRC/RES/42/15) (2019), et de la résolution du Conseil des droits de l'homme « Nouvelles technologies numériques et droits de l'homme » (A/HRC/RES/41/11) (2019),

Soulignant qu'il est nécessaire de prêter une attention particulière aux pays à revenu faible et intermédiaire, y compris, sans s'y limiter, aux pays les moins avancés (PMA), aux pays en développement sans littoral (PDSL) et aux petits États insulaires en développement (PEID), car ils disposent de capacités mais sont sous-représentés dans le débat sur l'éthique de l'IA, ce qui soulève des préoccupations quant à une prise en compte insuffisante des savoirs locaux, du pluralisme culturel, des systèmes de valeurs et des exigences d'équité mondiale dans la gestion des incidences positives et négatives des technologies de l'IA,

Consciente en outre qu'il existe de nombreuses politiques à l'échelle nationale ainsi que d'autres cadres et initiatives élaborés par les entités des Nations Unies concernées, par des organisations intergouvernementales, y compris des organisations régionales, ainsi que celles du secteur privé, des organisations professionnelles, des organisations non gouvernementales et de la communauté scientifique, relatifs à l'éthique et à la réglementation des technologies de l'IA,

Convaincue en outre que les technologies de l'IA peuvent être porteuses d'importants avantages, mais que leur matérialisation pourrait amplifier les tensions en lien avec l'innovation, l'accès asymétrique aux connaissances et aux technologies, notamment l'insuffisance de l'éducation civique et de la culture numérique qui limite la capacité du public à participer aux thèmes relatifs à l'IA, mais aussi les limitations à l'accès à l'information et les écarts en matière de capacités humaines et institutionnelles, les restrictions de l'accès à l'innovation technologique, et le manque d'infrastructures physiques et numériques et de cadres réglementaires adéquats, notamment ceux relatifs aux données, autant de problèmes auxquels il convient de remédier,

Soulignant également que le renforcement de la coopération et de la solidarité mondiales, y compris par le biais du multilatéralisme, est nécessaire pour favoriser un accès équitable aux technologies de l'IA et aborder les défis qu'elles posent dans des cultures et systèmes éthiques divers et interdépendants, pour réduire les risques d'utilisation abusive, pour exploiter pleinement les possibilités offertes par l'IA, en particulier dans le domaine du développement, et pour garantir que les stratégies nationales relatives à l'IA sont guidées par des principes éthiques,

Tenant pleinement compte du fait que le développement rapide des technologies de l'IA rend difficiles une mise en œuvre et une gouvernance éthiques, ainsi que le respect et la protection de la diversité culturelle, et peut perturber les normes et valeurs éthiques locales et régionales,

1. Adopte, en ce vingt-troisième jour de novembre 2021, la présente Recommandation sur l'éthique de l'intelligence artificielle ;
2. Recommande aux États membres d'appliquer, à titre volontaire, les dispositions de la présente Recommandation en prenant des mesures appropriées, notamment législatives, conformes aux pratiques constitutionnelles et aux structures de gouvernance de chaque État, en vue de donner effet, dans leurs juridictions, aux principes et normes énoncés dans la Recommandation conformément au droit international, y compris le droit international des droits de l'homme ;
3. Recommande également aux États membres d'impliquer toutes les parties prenantes, y compris les entreprises, afin de veiller à ce qu'elles jouent leurs rôles respectifs dans la mise en œuvre de la Recommandation, et de porter la présente Recommandation à la connaissance des autorités, organismes, instituts de recherche et organismes universitaires, et institutions et organisations des secteurs public, privé et de la société civile engagés dans les technologies de l'IA, afin que le développement et l'utilisation des technologies de l'IA soient guidés par des recherches scientifiques de qualité ainsi que par une analyse et une évaluation éthiques.

I. Champ d'application

1. La présente Recommandation traite des questions éthiques soulevées dans le domaine de l'intelligence artificielle, dans la mesure où celles-ci relèvent du mandat de l'UNESCO. Elle aborde l'éthique de l'IA en tant que réflexion normative systématique, basée sur un cadre global, détaillé, multiculturel et évolutif de valeurs, de principes et d'actions interdépendants de nature à orienter les sociétés pour qu'elles apportent des réponses responsables aux conséquences connues et inconnues des impacts des technologies de l'IA sur les êtres humains, les sociétés, l'environnement et les écosystèmes, et leur offre une base pour accepter ou rejeter les technologies de l'IA. Elle considère l'éthique comme une base dynamique pour l'évaluation et l'orientation normatives des technologies de l'IA, en faisant de la dignité humaine, du bien-être et de la prévention des dommages des repères et en s'appuyant sur l'éthique des sciences et des technologies.

2. La présente Recommandation ne cherche pas à donner de définition unique de l'IA, celle-ci étant appelée à évoluer en fonction des progrès technologiques. Son objectif est plutôt de traiter des caractéristiques des systèmes d'IA qui revêtent une importance majeure sur le plan éthique. En conséquence, la présente Recommandation envisage les systèmes d'IA comme des systèmes capables de traiter les données et l'information par un processus s'apparentant à un comportement intelligent, et comportant généralement des fonctions de raisonnement, d'apprentissage, de perception, d'anticipation, de planification ou de contrôle. Trois éléments occupent une place centrale dans cette approche :

(a) les systèmes d'IA sont des technologies de traitement des informations qui intègrent des modèles et des algorithmes, lesquels génèrent une capacité d'apprentissage et d'exécution de tâches cognitives conduisant à des résultats tels que l'anticipation et la prise de décisions dans des environnements matériels et virtuels. Les systèmes d'IA sont conçus pour fonctionner avec différents degrés d'autonomie, au moyen de la modélisation et la représentation des connaissances, de l'exploitation des données et du calcul de corrélations. Ils peuvent intégrer plusieurs méthodes, telles que, sans s'y limiter :

(i) l'apprentissage automatique, y compris l'apprentissage profond et l'apprentissage par renforcement ;

(ii) le raisonnement automatique, y compris la planification, la programmation, la représentation des connaissances et le raisonnement, et la recherche et l'optimisation.

Les systèmes d'IA peuvent être utilisés dans des systèmes cyberphysiques, y compris l'Internet des objets, les systèmes robotiques, la robotique sociale et les interfaces homme-machine qui impliquent des fonctions de contrôle, de perception et de traitement de données recueillies par des senseurs, et le fonctionnement d'actionneurs dans l'environnement du système d'IA ;

(b) les questions éthiques concernant les systèmes d'IA se rapportent à toutes les étapes du cycle de vie de ces systèmes, compris ici comme allant de la recherche, la conception et le développement au déploiement et à l'utilisation, et incluant la maintenance, l'exploitation, la commercialisation, le financement, le suivi et l'évaluation, la validation, la fin de l'utilisation, le démontage et la mise hors service. En outre, les acteurs de l'IA peuvent désigner tout acteur impliqué dans au moins une étape du cycle de vie des systèmes d'IA, et peuvent renvoyer à des personnes physiques comme à des personnes morales, telles que les chercheurs, les programmeurs, les ingénieurs, les spécialistes des données, les utilisateurs finaux, les entreprises, les universités et les entités publiques et privées, entre autres ;

(c) les systèmes d'IA soulèvent de nouveaux types de questions éthiques qui comprennent, sans s'y limiter, leur impact sur la prise de décisions, l'emploi et le travail, les interactions sociales, les soins de santé, l'éducation, les médias, l'accès à l'information, la fracture numérique, la protection des consommateurs et des données personnelles, l'environnement, la démocratie, l'état de droit, la sécurité et la police, le double usage et les droits de l'homme et les libertés fondamentales, y compris la liberté d'expression, la protection de la vie privée et la non-discrimination. En outre, de nouveaux défis éthiques sont générés par la reproduction et le renforcement potentiels des biais existants par les algorithmes d'IA, ce qui exacerbe des formes déjà existantes de discriminations, de préjugés et de stéréotypes. Certaines de ces questions ont trait à la capacité des systèmes d'IA d'effectuer des tâches qu'auparavant seuls des êtres vivants pouvaient réaliser, parfois même uniquement des êtres humains. Ces caractéristiques confèrent aux systèmes d'IA un rôle déterminant et inédit dans les pratiques et les sociétés humaines, ainsi que dans leur relation avec l'environnement et les écosystèmes, créant un nouveau contexte dans lequel les enfants et les jeunes vont grandir, développer une compréhension du monde et d'eux-mêmes, comprendre de manière critique les médias et l'information, et apprendre à prendre des décisions. Les systèmes d'IA pourraient, à long terme, disputer aux êtres humains le sentiment d'expérience et la capacité d'agir qui leur sont propres, ce qui susciterait de nouvelles inquiétudes quant à la compréhension qu'ont les êtres humains d'eux-mêmes, leurs interactions sociales, culturelles et environnementales, leur autonomie, leur capacité d'agir, leur valeur et leur dignité, entre autres.

3. La présente Recommandation prête une attention particulière aux implications éthiques plus larges des systèmes d'IA dans les domaines centraux de l'UNESCO : éducation, science, culture et communication et information, lesquelles font l'objet de l'étude préliminaire sur l'éthique de l'intelligence artificielle réalisée par la Commission mondiale d'éthique des connaissances scientifiques et des technologies (COMEST) de l'UNESCO en 2019 :

(a) l'éducation, parce que vivre dans des sociétés en cours de numérisation exige de nouvelles pratiques éducatives, une réflexion éthique, une pensée critique, des pratiques de conception responsables et de nouvelles compétences, au vu des conséquences sur le marché de l'emploi, l'employabilité et la participation citoyenne ;

(b) la science, au sens le plus large et incluant tous les domaines d'étude, des sciences exactes et naturelles et des sciences médicales aux sciences sociales et humaines, car les technologies de l'IA apportent de nouvelles capacités et approches de recherche, influencent nos conceptions de la compréhension et de l'explication scientifiques, et créent une nouvelle base pour la prise de décisions ;

(c) l'identité et la diversité culturelles, car les technologies de l'IA peuvent enrichir les industries culturelles et créatives, mais aussi aboutir à une concentration accrue de l'offre, des données, des marchés et des revenus de la culture entre les mains d'un petit nombre d'acteurs, avec des répercussions potentiellement négatives sur la diversité et le pluralisme des langues, des médias, des expressions culturelles, la participation et l'égalité ;

(d) la communication et l'information, car les technologies de l'IA jouent un rôle croissant dans le traitement, la structuration et la transmission de l'information ; les questions du journalisme automatisé et de l'utilisation d'algorithmes pour diffuser des actualités et pour modérer et organiser des contenus sur les réseaux sociaux et les moteurs de recherche ne sont que quelques exemples de problématiques liées à l'accès à l'information, à la désinformation, à la mésinformation, au discours de haine, à l'émergence de nouvelles formes de récits sociétaux, à la discrimination, à la liberté d'expression, à la protection de la vie privée et à l'éducation aux médias et à l'information, entre autres.

4. La présente Recommandation s'adresse aux États membres, à la fois en tant qu'acteurs de l'IA et en tant qu'autorités responsables de l'élaboration de cadres juridiques et réglementaires tout au long du cycle de vie des systèmes d'IA, et de la promotion de la responsabilité des entreprises. Elle fournit également des orientations éthiques à tous les acteurs de l'IA, y compris des secteurs public et privé, en constituant une base pour une évaluation de l'impact éthique des systèmes d'IA tout au long de leur cycle de vie.

II. Buts et objectifs

5. La présente Recommandation a pour objet de servir de base afin de mettre les systèmes d'IA au service de l'humanité, des individus, des sociétés, de l'environnement et des écosystèmes, ainsi que de prévenir les préjudices. Elle a également pour vocation de favoriser l'utilisation pacifique des systèmes d'IA.

6. En plus des cadres éthiques concernant l'IA déjà établis à travers le monde, la présente Recommandation vise à fournir un instrument normatif accepté au niveau mondial qui se concentre non seulement sur la définition des valeurs et des principes, mais aussi sur leur application pratique, par le biais de recommandations stratégiques concrètes, mettant fortement l'accent sur l'inclusion, sur les questions d'égalité des genres et sur la protection de l'environnement et des écosystèmes.

7. Parce que la complexité des questions éthiques qui entourent l'IA exige la coopération des multiples parties prenantes aux différents niveaux et dans les différents secteurs des communautés internationales, régionales et nationales, la présente Recommandation vise à permettre aux parties prenantes d'assumer leur part de responsabilité par le biais d'un dialogue mondial et interculturel.

8. Les objectifs de la présente Recommandation sont les suivants :

(a) offrir un cadre universel de valeurs, de principes et d'actions pour guider les États dans la formulation de leur législation, de leurs politiques ou d'autres instruments concernant l'IA, conformément au droit international ;

(b) guider les actions des individus, des groupes, des communautés, des institutions et des entreprises du secteur privé afin de garantir la prise en compte de l'éthique à tous les stades du cycle de vie des systèmes d'IA ;

(c) protéger, promouvoir et respecter les droits de l'homme et les libertés fondamentales, la dignité humaine et l'équité, y compris l'égalité des genres ; protéger les intérêts des générations présentes et futures ; préserver l'environnement, la biodiversité et les écosystèmes ; et respecter la diversité culturelle à tous les stades du cycle de vie des systèmes d'IA ;

(d) favoriser un dialogue multipartite, pluridisciplinaire et pluraliste ainsi que la recherche du consensus au sujet des questions éthiques en lien avec les systèmes d'IA ;

(e) promouvoir un accès équitable aux progrès et aux connaissances dans le domaine de l'IA, ainsi que le partage des bienfaits qui en découlent, en accordant une attention particulière aux besoins et contributions des pays à revenu intermédiaire inférieur (PRITI), notamment aux PMA, aux PDSL et aux PEID.

III. Valeurs et principes

9. Les valeurs et principes énoncés ci-dessous doivent être respectés par tous les acteurs du cycle de vie des systèmes d'IA, en premier lieu, et, s'il y a lieu et selon les besoins, être promus par l'élaboration de nouvelles législations, réglementations et directives commerciales et la modification de celles qui existent déjà. Cette démarche doit respecter le droit international, notamment la Charte des Nations Unies, y compris les obligations des États membres en matière de droits de l'homme, et doit s'inscrire dans le cadre d'objectifs de durabilité sociale, politique, environnementale, éducative, scientifique et économique convenus au niveau international, tels que les objectifs de développement durable (ODD) des Nations Unies.

10. Les valeurs ont un rôle important en tant qu'idéaux motivant l'orientation des mesures politiques et des normes juridiques. Alors que l'ensemble des valeurs énoncées ci-dessous inspirent ainsi des comportements souhaitables et constituent les fondements des principes, les principes quant à eux explicitent les valeurs de manière plus concrète, de façon à faciliter l'application de ces dernières dans les déclarations et actions politiques.

11. Si toutes les valeurs et tous les principes décrits ci-dessous sont souhaitables en soi, dans tout contexte réel, ils peuvent parfois s'opposer entre eux. Quelle que soit la situation donnée, une évaluation du contexte sera nécessaire pour gérer ces oppositions éventuelles, en tenant compte du principe de proportionnalité et en respectant les droits de l'homme et les libertés fondamentales. Dans tous les cas, toute restriction éventuelle imposée à l'exercice des droits de l'homme et des libertés fondamentales doit reposer sur une base juridique, être raisonnable, nécessaire et proportionnée, et conforme aux obligations qui incombent aux États membres en vertu du droit international. Pour faire des choix judicieux parmi de tels scénarios, il faudra généralement s'engager avec un large éventail de parties prenantes compétentes, en recourant au dialogue social, aux débats sur l'éthique, à la diligence requise et à l'évaluation de l'impact.

12. La fiabilité et l'intégrité du cycle de vie des systèmes d'IA sont essentielles pour faire en sorte que les technologies de l'IA soient mises au service de l'humanité, des individus, des sociétés et de l'environnement et des écosystèmes, et concrétisent les valeurs et principes énoncés dans la présente Recommandation. Les individus doivent avoir de bonnes raisons de ne pas douter de la capacité des systèmes d'IA de produire des avantages sur les plans individuel et collectif lorsque des mesures appropriées sont prises pour atténuer les risques. Une condition essentielle de la fiabilité consiste à soumettre, tout au long de leur cycle de vie, les systèmes d'IA à un suivi approfondi exercé par les parties prenantes compétentes, selon qu'il conviendra. La fiabilité résultant de l'application des principes énoncés dans le présent document, les actions stratégiques proposées dans la Recommandation visent toutes à promouvoir la fiabilité à tous les stades du cycle de vie des systèmes d'IA.

III.1 Valeurs

Respect, protection et promotion des droits de l'homme, des libertés fondamentales et de la dignité humaine

13. La dignité inviolable et intrinsèque de chaque être humain est le fondement du système universel, indivisible, inaliénable, interdépendant et indissociable des droits de l'homme et des libertés fondamentales. Par conséquent, le respect, la protection et la promotion de la dignité humaine et des droits établis par le droit international, notamment le droit international relatif aux droits de l'homme, tiennent une place essentielle tout au long du cycle de vie des systèmes d'IA. La dignité humaine a trait à la reconnaissance de la valeur intrinsèque et égale de chaque être humain, indépendamment de sa race, de sa couleur, de son ascendance, de son genre, de son âge, de sa langue, de sa religion, de ses opinions politiques, de son origine nationale, ethnique ou sociale, de sa condition économique ou sociale de naissance, de son handicap ou de tout autre motif.

14. Aucun être humain ni aucune communauté humaine ne doivent subir de préjudice ou d'assujettissement physique, économique, social, politique, culturel ou mental au cours d'une phase quelconque du cycle de vie des systèmes d'IA. Les systèmes d'IA doivent, tout au long de leur cycle de vie, améliorer la qualité de vie des êtres humains, en laissant aux individus ou groupes le soin de définir la notion de « qualité de vie », tant qu'il n'y a ni violation des droits de l'homme et des libertés fondamentales, ni atteinte à la dignité humaine au sens de cette définition.

15. Les individus peuvent interagir avec les systèmes d'IA tout au long de leur cycle de vie et recevoir leur aide, par exemple pour les soins aux personnes vulnérables ou en situation de vulnérabilité, incluant, mais sans s'y limiter, les enfants, les personnes âgées, les personnes handicapées ou les malades. Dans le cadre de ces interactions, les individus ne doivent jamais être traités comme des objets, leur dignité ne doit pas être mise à mal d'une quelconque autre manière, et il ne doit y avoir ni violation des droits de l'homme et des libertés fondamentales ni atteinte à ces droits et libertés.

16. Les droits de l'homme et les libertés fondamentales doivent être respectés, protégés et promus tout au long du cycle de vie des systèmes d'IA. Les autorités, le secteur privé, la société civile, les organisations internationales, les communautés techniques et les universités doivent respecter les instruments et cadres relatifs aux droits de l'homme lorsqu'ils interviennent dans les processus entourant le cycle de vie des systèmes d'IA. Les nouvelles technologies doivent fournir de nouveaux moyens de promouvoir, de défendre et d'exercer les droits de l'homme, et non de les enfreindre.

Un environnement et des écosystèmes qui prospèrent

17. Tout au long de leur cycle de vie, les systèmes d'IA doivent reconnaître et encourager l'importance d'avoir un environnement et des écosystèmes qui prospèrent, et protéger ces derniers. En outre, l'environnement et les écosystèmes sont une nécessité existentielle pour que l'humanité et les autres êtres vivants puissent profiter des bienfaits liés aux progrès de l'IA.