Les nouvelles technologies impactent de nombreux pans de notre vie. La Commission nationale consultative des droit de l'homme alerte régulièrement les pouvoirs publics sur la nécessité d'élaborer un cadre juridique qui encadre leur usage, pour garantir le respect des droits.
Les nouvelles technologies impactent de nombreux pans de notre vie. Si elles permettent des avancées qui contribuent à améliorer la qualité de vie (notamment les avancées en matière de santé, d’accès à la culture et à l’éducation), elles comportent aussi des risques réels au regard des droits humains qu’il est essentiel d’identifier et d’atténuer et de prévenir.
La Commission nationale consultative des droits de l’homme (CNCDH) a débuté des travaux sur le numérique dès les années 90, avec un premier avis sur Internet et les droits de l’Homme en 1996. Puis, suivant les évolutions technologiques et l’évolution des usages, la CNCDH s’est intéressée à l’impact du numérique sur le respect de l’Autre, sur le droit à la vie privée et la protection des données personnelles. Depuis la fin des années 2010, la CNCDH mène aussi de nombreux travaux sur l’intelligence artificielle, au niveau national et européen.
Lutte contre la haine en ligne
Tout en reconnaissant qu’Internet est un espace privilégié pour s’informer et informer, et permet l’exercice de la liberté d’expression et du droit à l’information, la CNCDH a alerté dès les années 90 sur la nécessité d’élaborer un cadre juridique pour prévenir et lutter contre la diffusion de contenus illicites, en particulier la haine en ligne sous toutes ses formes.
Dans des avis adoptés en 1996 sur Internet et les droits de l’Homme, puis en 2002 sur l’économie numérique, puis en 2015, 2019 puis 2021 sur la lutte contre la haine en ligne, la CNCDH rappelle les devoirs et responsabilités de toutes les parties prenantes (État, fournisseurs d’accès, plateformes, utilisateurs).
Dans le cadre de son mandat de Rapporteur national indépendant sur la lutte contre le racisme, l’antisémitisme et la xénophobie, la CNCDH formule aussi régulièrement des recommandations pour lutter contre la prolifération des propos racistes en ligne. Elle collabore notamment avec le medialab de Sciences Po pour analyser ce phénomène à travers des enquêtes ponctuelles, et fait partie depuis sa création, du jury du concours de legal design organisé par l’association ADN Sans Haine.
Numérique et intelligence artificielle
Travaux au niveau national
En avril 2022, la CNCDH a appelé le gouvernement français à jouer un rôle moteur dans la rédaction du règlement européen sur l’intelligence artificielle et énonce dans un avis adopté à l’unanimité des lignes rouges et des dispositifs à mettre en place pour garantir que l’utilisation des systèmes algorithmiques (aussi appelés « IA ») soit respectueuse des droits humains.
Dans le cadre de sa mission d’éducation aux droits humains, la CNCDH a soutenu la création de l’Observatoire de l’Intelligence artificielle de l’université Paris 1 Panthéon Sorbonne, et participe régulièrement à des colloques et conférences sur le sujet.
Travaux au niveau européen
Le réseau ENNHRI suit de très près l’élaboration au niveau de l’Union européenne du règlement européen sur l’intelligence artificielle et au niveau du Conseil de l’Europe du projet de Convention sur l’intelligence artificielle, les droits de l’Homme, la démocratie et l’état de droit.
Concernant le règlement européen, ENNHRI a élaboré une recommandation dès 2020, puis une contribution en septembre 2022, et en novembre 2023, alors que les négociations touchent à leur terme, les réseaux ENNHRI et Equinet qui regroupent une soixantaine d’acteurs des droits humains en Europe, ont conjointement appelé la Commission, le parlement et le Conseil de l’Union européenne à rajouter des garanties supplémentaires et indispensables dans le texte dont l’interdiction des systèmes biométriques, la garantie de droits de recours, la réalisation d’études d’impact sur les droits fondamentaux et le contrôle des « modèles de fondation ».