Le Comité national pilote d'éthique du numérique (1) a publié un avis le 5 juillet dernier (2) au sein duquel il émet 22 préconisations à destination des concepteurs et de la recherche scientifique ainsi que des gouvernances.
Le 5 juillet 2023, le Comité national pilote d'éthique du numérique (CNPEN) a publié son 7e avis relatif à l'IA. Cet avis, qui fait suite à une saisine ministérielle en date du 20 février 2023, est annoncé comme étant dans la continuité de l'Avis (n°3) sur les enjeux éthiques des agents conversationnels (« chatbots ») publié fin 2021 (3).
« Entre ces deux avis du CNPEN, ChatGPT est entré dans les bureaux et les foyers (novembre 2022), Science Po en a interdit l’usage à ses étudiants (janvier 2023), certains des fondateurs emblématiques de ces systèmes ont demandé une pause dans leur développement (mars 2023), le président Emmanuel Macron annonce un financement de 500 millions d’euros pour rester dans la course (juin 2023) et le Parlement européen peaufine le texte de l’AI ACT pour poser un cadre règlementaire nécessaire d’ici à fin 2023. Tout va très vite, le changement d’échelle est bien là. » Communiqué de presse sur l'Avis 7 du CNPEN
22 préconisations pour la conception, la recherche et la gouvernance
Dans ce 7e avis, le CNPEN met en exergue divers enjeux éthiques de l'IA (rapport à la vérité et absence de signification, manipulation de l'utilisateur sans responsabilité, projection de qualités humaines, éducation et conséquences sur l'apprentissage humain...), des enjeux juridiques (le RGPD, le droit d'auteur, les textes européens relatifs à la responsabilité...), ainsi que des enjeux écologiques et environnementaux.
La dernière partie de l'avis, qui s'intitule « préconisation pour la conception, la recherche et la gouvernance », se divise en deux types de préconisations.
Préconisation pour la conception et la recherche sur les systèmes d'IA générative :
Préconisation C1 : Éthique dans la conception et la recherche sur les systèmes d’IA générative
Préconisation C2 : Éviter les excès de contrôle (« overpolicing ») des modèles par les concepteurs
Préconisation C3 : Utilisation de sources de qualité pour l’apprentissage
Préconisation C4 : Tenir compte des effets des choix des hyperparamètres des modèles
Préconisation C5 : Évaluer les biais connus des modèles à base de jeux d’essai standardisés
Préconisation C6 : Maintien des distinctions
Préconisation C7 : Réduire la projection des qualités humaines sur les systèmes d’IA générative
Préconisation C8 : Étudier les comportements émergents et les effets inconnus des modèles
Préconisation C9 : Concevoir les systèmes d’IA générative dans différentes langues reflétant la diversité des cultures
Préconisation C10 : Faciliter la prise en main du système grâce au paramétrage des systèmes d’IA par les utilisateurs
Préconisations sur la gouvernance :
Préconisation G1 : Créer une entité souveraine de recherche et de formation « IA, science et société »
Préconisation G2 : Vitesse d’adoption par les acteurs économiques
Préconisation G3 : Mutualisation des pratiques des systèmes d’IA générative
Préconisation G4 : Réglementation sur les codes en filigrane
Préconisation G5 : Utilisation des systèmes d’IA générative pour l’éducation
Préconisation G6 : Libre accès aux modèles de fondation
Préconisation G7 : Considérer les modèles de fondation mis sur le marché et les systèmes d’IA générative comme des systèmes d’IA à haut risque
Préconisation G8 : Chaîne de responsabilité
Préconisation G9 : RGPD et systèmes d’IA générative
Préconisation G10 : Traitement des données collectées
Préconisation G11 : Droits d’auteur et IA générative
Préconisation G12 : Impact environnemental de l’IA générative
Concernant les droits d'auteur
Le CNPEN explique que « l’IA générative pose des questions sur le droit d’auteur tant en amont (données en ligne entrées dans le système d’intelligence artificielle) qu’en aval (réponse du système à des prompts de l’utilisateur et usage de la donnée utilisée brute ou retravaillée par l’utilisateur) » et incite alors à procéder à des adaptations du droit. Le Comité interroge notamment sur les sujets suivants :
L'exception de text and data mining de l'article 4 de la Directive de 2019 (4) et la mise en oeuvre effective du système d'opt-out dans le cas de l'IA générative
La référence de la source
Le statut juridique d'une oeuvre générée par IA, et la distinction entre une oeuvre conçue avec assistance humaine et une oeuvre conçue entièrement via IA
Concernant le RGPD
« Les motifs de vigilance concernent notamment le traitement de données personnelles sans information préalable des personnes concernées, la position à adopter s’agissant de l’utilisation de ces données (doit-on demander un consentement ou y a-t-il des hypothèses où l’entreprise peut justifier d’un intérêt légitime à utiliser ces données sans passer par le consentement consacré à l’article 6 du RGPD ?), le défaut de base juridique pour la collecte extensive de données utilisées pour entraîner les modèles d’IA, l’absence de vérification de l’âge des utilisateurs, la possibilité pour les utilisateurs d'accéder à leurs informations personnelles et d’en demander la rectification, la question de données confidentielles soumises dans les requêtes (données personnelles, données dévoilant des travaux en cours ou pas encore publiés, ou des travaux confidentiels industrie, secrets défense) ». Systèmes d’intelligence artificielle générative : enjeux d’éthique. Avis 7 du CNPEN. 30 juin 2023
Le CNPEN estime alors que le Comité européen de protection des données doit mettre en place des lignes directrices concernant l'articulation entre le futur Règlement sur l'IA et le RGPD.
-
(1) Définition du site ccne-ethique.fr : Placé sous l’égide du CCNE, le Comité national pilote d'éthique du numérique (CNPEN) a pour rôle de rendre des avis sur les saisines qui lui sont confiées, d’éclairer le débat public sur les enjeux d’éthique du numérique et de rédiger des propositions relatives à la pérennisation de la réflexion nationale sur l’éthique du numérique.
(2) Systèmes d’intelligence artificielle générative : enjeux d’éthique. Avis 7 du CNPEN. 30 juin 2023
Photo de Possessed Photography sur Unsplash