La commission du Parlement européen chargée d'étudier l'IA doit donner la parole à la société civile. Les Big Tech ont déjà eu pour leur part assez d'influence. 


Lorsque le Parlement européen a créé la commission spéciale sur l'intelligence artificielle à l'ère numérique (AIDA), de nombreux membres du mouvement syndical ont pensé que la voix des travailleurs, des consommateurs et des citoyens serait enfin entendue. 

En effet, la tâche confiée à la commission AIDA était d'analyser l'impact de l'intelligence artificielle sur l'économie européenne, "en particulier sur les compétences, l'emploi, la technologie financière, l'éducation, la santé, le transport, le tourisme, l'agriculture, l'environnement, la défense, l'industrie, l'énergie et l'administration en ligne". Le mandat comprenait également l'étude du défi que représente le déploiement de l'intelligence artificielle et sa contribution à la croissance économique, l'analyse de l'approche des pays tiers et, en dernier lieu, l'élaboration d'une feuille de route pour "une Europe adaptée à l'ère digitale", un plan stratégique définissant des objectifs communs et les étapes pour les atteindre. 

C'était en juin 2020. La Commission européenne avait pris les devants sur la question de l'IA et des données, en présentant une série de propositions législatives : la stratégie numérique européenne, une stratégie européenne pour les données, le livre blanc sur l'IA, suivi après l'été par la loi sur les services numériques, la loi sur le marché numérique et la loi sur la gouvernance des données. 

Un lobbying intense 

Ces propositions n'abordent cependant que très peu l'impact de l'IA sur les travailleurs. Or, nous savons aujourd'hui que la Commission a fait l'objet d'un lobbying intense de la part des entreprises technologiques dans le but de réinventer le narratif et d'influencer la portée et l'orientation des propositions. 

Au cours du premier semestre 2020, Google, Facebook, Amazon, Apple et Microsoft ont declaré avoir dépensé 19 millions d'euros au total, soit l'équivalent de ce qu'ils avaient déclaré pour toute l'année 2019, contre 6,8 millions d'euros en 2014. Ces dépenses ont permis de faciliter l'accès à l'information : les entreprises et leurs partenaires ont fait part de centaines de rencontres avec des fonctionnaires de la Commission et du Parlement. 

On espérait que la commission AIDA rééquilibrerait d'une manière ou d'une autre cette équation, en écoutant d'autres voix et en veillant à ce que la politique de l'Union européenne en matière d'IA et de données prenne pleinement en compte les préoccupations des citoyens.

Malheureusement, il y a des raisons d'en douter et certains craignent que la commission ne puisse apporter aucune valeur ajoutée aux propositions de la Commission européenne, avis confirmé par plusieurs membres de la commission lors de récentes conversations. 
Il est cependant encore temps de changer les choses, si les problèmes sont traités rapidement. 

Mandat temporaire 

Tout d'abord, la commission est composée de 33 députés européens et a un mandat temporaire de 12 mois (comme toutes les commissions spéciales). Étant donné l'importance et la complexité des questions qu'elle a été chargée d'examiner, on peut s'interroger sur sa capacité à les traiter dans un délai aussi court. L'extension du mandat serait un pas dans la bonne direction. 

À ce jour, la commission a tenu deux auditions publiques, l'une sur les femmes et la numérisation, l'autre sur l'IA et la santé. Outre les fonctionnaires de la commission, dix orateurs y ont participé, représentant Microsoft Europe occidentale, l'université Carnegie Mellon, European Digital Rights (EDRi), le ministère grec de la Gouvernance numérique, le Centre européen de prévention et de contrôle des maladies, l'université LUMSA de Rome, la Freie Universität de Berlin, le groupe hospitalier Halland en Suède, Exscientia (société britannique spécialisée dans l'IA pour la découverte de médicaments) et le Bureau européen des unions de consommateurs (BEUC). 

À l'exception du BEUC et d'EDRi, la commission a montré un intérêt limité à entendre ce que la société civile a à dire sur les 13 sujets relevant de sa compétence. S'engager véritablement avec la société civile signifie écouter de nombreuses voix et refléter une grande diversité de préoccupations. 

Étant donné le pouvoir de lobbying des Big Tech, une gouvernance démocratique et anticipative de l'IA et des données en général n'est possible que s'il y a un engagement systématique de tous les acteurs sociaux. Les représentants des travailleurs, comme d'autres, doivent participer pleinement aux discussions et leurs contributions doivent avoir un poids significatif. 

Dimension sociale 

Attendre de la commission AIDA qu'elle analyse 13 sujets complexes et produise une feuille de route pour "une Europe à l'ère digitale" n'est pas réaliste. En plus de prolonger son mandat, la commission doit par conséquent réduire la portée de son travail, en se focalisant sur certains des 13 sujets, de préférence ceux ayant une dimension sociale. 

Les questions transversales, telles que la gestion algorithmique, la surveillance sur le lieu de travail, la discrimination au travail et les droits fondamentaux, doivent être discutées. Le nombre et la fréquence des réunions devraient également augmenter. Des sous-comités pourraient être chargés de traiter les questions les plus techniques.  

La commission, en tant qu'émanation de la seule institution européenne élue, le Parlement européen, devrait concentrer son attention sur les préoccupations des citoyens et leurs droits, et inviter en priorité les organisations de la société civile à ses réunions et auditions. Les intérêts des Big Tech et du secteur privé sont suffisamment bien représentés et défendus. 

Aucune prise en compte 

Les syndicats européens et sectoriels ont été proactifs, ont apporté des contributions juridiques et ont soulevé des questions fondamentales liées aux implications de l'IA pour les travailleurs et leurs droits. Ces questions ne sont pas encore prises en compte dans les stratégies ou les instruments réglementaires actuels. 

Parmi les questions primordiales que le mouvement syndical souhaite que la commission aborde, on peut citer: les risques liés à l'IA, leur catégorisation, leur identification et leur limitation ; la clarification du régime de responsabilités lorsque des applications d'IA sont utilisées sur le lieu de travail ; la gestion algorithmique ; et l'amélioration du pouvoir de négociation lié aux questions relatives aux technologies et aux données. Cela comprend la nécessité de repenser la surveillance sur le lieu de travail, par exemple en demandant au Conseil européen de la protection des données de publier des orientations sur la mise en œuvre des règles GDPR dans la relation contractuelle de travail. 

La plupart des discussions actuelles sur l'IA et la réglementation des données portent sur la question des biais: comment les éviter techniquement, améliorer la qualité des données et traiter l'injustice et la discrimination. Les biais figurent toutefois déjà dans le système lorsque les syndicats et la société au sens large ne sont pas impliqués activement.  

Si des mesures sont prises maintenant pour remédier à ses lacunes, la commission AIDA peut contribuer à combler partiellement ce fossé et à injecter une dose de démocratie indispensable dans le débat. 

(Cet article a été publié à l'origine sur Social Europe) 

Crédits photos: metamorworks