shutterstock_364905602

La stratégie incomplète de l’Union européenne en matière d'IA

L'Europe peut et veut devenir un leader mondial de l'intelligence artificielle, en témoigne la récente proposition de la Commission européenne pour définir un cadre juridique sur l’IA. Cependant, ce processus ne peut se faire sans prévoir une implication et une protection des citoyens, et le projet de règlement fait l’impasse sur ce point.

La stratégie de la Commission européenne en matière d'intelligence artificielle insiste sur deux points : la « confiance » et « l’excellence ». Selon la Commission, la réglementation récemment proposée en matière d'Intelligence Artificielle (IA), qui pose des barrières encadrant les risques liés à cette technologie, permettra d’instaurer un climat de confiance. L'excellence, quant à elle, sera le fruit d’innovations portées par les investissements des États membres de l'UE. Si ces deux facteurs sont réellement pris en compte, l’Europe devrait rapidement consolider sa position en matière d’IA.

Malheureusement, la protection des droits fondamentaux des citoyens de l'UE, qui devrait être l'objectif principal des réglementations sur l'IA, apparaissent comme une considération secondaire. Les protections relatives aux droits des travailleurs ne semblent même pas avoir été prises en compte.

L'IA est un élément phare de la stratégie numérique de l'Europe, et le projet législatif de la Commission est fondamental pour établir un marché unique des données. La proposition de réglementation établit des règles concernant l'introduction, la mise en œuvre et l'utilisation des systèmes utilisant l’intelligence artificielle. Elle adopte une approche fondée sur le risque. Les utilisations à haut risque étant considérées comme inacceptables tandis que celles à faibles risques sont fortement restreintes.

Une approche biaisée

Selon la proposition, les IA présentant des risques significatifs pour la santé et la sécurité ou les droits fondamentaux des personnes sont soumis à une évaluation de conformité préalable par le fournisseur, sans validation par une autorité externe compétente. Les exigences portent notamment sur la qualité des données, des pratiques saines de gouvernance et de gestion des données, la tenue d'archives complètes, une gestion des risques adéquate, une documentation technique détaillée, des instructions transparentes à l'intention des utilisateurs, une supervision humaine appropriée, des résultats explicables et un niveau élevé d'exactitude, de robustesse et de cybersécurité.

La Commission affirme que sa définition de l'IA, ainsi que l'approche fondée sur le risque qui sous-tend le projet de réglementation, sont le résultat d’une consultation publique. Mais dans la pratique, l’écrasante majorité des contributeurs au Livre blanc 2020 sur l'IA sont des entreprises industrielles et technologiques. Cet exercice est loin d'être démocratique. Ces entreprises, tout en prétendant promouvoir la connaissance, la science et la technologie, ont orienté le processus réglementaire dans une direction qui sert leurs intérêts. La voix des citoyens, et en particulier celle des syndicats, a été noyée.

Un projet incomplet

Le rapport de commission présente plusieurs lacunes. Parmi celles-ci, on peut citer l’étroitesse d’une approche fondée sur le risque, l'absence de mécanisme de recours et le manque de questionnements sur la responsabilité des dommages causés par les IA. Mais surtout, la réglementation ne répond pas aux attentes en matière de protection des travailleurs. Pour remédier à cette dernière lacune, une directive ad hoc prenant en compte le contexte de l'emploi pour protéger les travailleurs (y compris ceux de l'économie de plateforme) et leur permettre d'exercer leurs droits et libertés sur une base individuelle ou collective, serait une voie possible.

S'abonner à SAY
3écrans+4couv transparent 240 dpi

S'abonner à SAY

Profitez d'un accès illimité aux idées et opinions des plus grands penseurs du monde, y compris des lectures hebdomadaires, des critiques de livres et des interviews !  

Offre de l'été : 70€ au lieu de 78€

S'abonner maintenant !

Une telle directive devrait aborder plusieurs questions clés. Tout d'abord, elle devrait définir les responsabilités des employeurs en matière de prévention des risques liés à l'IA, tout comme ils sont tenus d'évaluer les risques pour la santé et la sécurité au travail. Les risques liés à l'IA sont plus complexes, car ils incluent d’éventuels abus en termes de management, de vie privée des travailleurs, de respect leurs droits fondamentaux, de protection des données et de santé en général.

La protection de la vie privée et d’informations relatives aux travailleurs est essentielle, car l'IA est avide de données. Le règlement général sur la protection des données (RGPD) de l'UE est un outil puissant qui, en théorie, s'applique aux données des travailleurs dans un contexte d'emploi. Mais en pratique, il est presque impossible pour les travailleurs d'exercer leurs droits à la protection des données vis-à-vis d'un employeur. L'UE devrait introduire des dispositions supplémentaires pour s'assurer que le RGPD ne soit pas qu’un vœu pieux.

Garantir le contrôle humain

Une autre priorité consiste à garantir l’explicabilité des algorithmes et la possibilité pour les travailleurs d’exercer un « droit à l’explication ». En effet, les employeurs, en tant qu'utilisateurs d'algorithmes, doivent tenir compte des dommages que leur déploiement peut causer sur le lieu de travail. L'utilisation de valeurs ou de variables biaisées peut conduire au profilage des travailleurs. Les employeurs devraient être obligés de consulter les employés avant de mettre en œuvre des algorithmes, plutôt que de les informer après coup. De plus, les informations fournies doivent permettre à ces derniers de comprendre les conséquences d'une décision automatisée.

La nouvelle directive de protection des travailleurs devrait également garantir le respect du principe de « l'humain aux commandes » dans toutes les interactions homme-machine au travail. Cela implique de donner le dernier mot aux humains et d'expliquer quelles données sont responsables des décisions finales. Les syndicats doivent être considérés comme partie intégrante de la composante humaine des entreprises et jouer un rôle actif aux côtés des managers, des équipes de support informatique et des consultants externes.

Protéger les travailleurs

En outre, les législateurs de l'UE doivent interdire la surveillance algorithmique des travailleurs. Actuellement, cette surveillance est réglementée par des lois nationales qui sont antérieures au RGPD et qui ne couvrent pas les analyses avancées et intrusives permises par l’IA. Les outils qui découlent de cette technologie, tels que la biométrie, l'apprentissage automatique, l'analyse sémantique, l'analyse des sentiments et la technologie de détection des émotions, peuvent mesurer la santé, le comportement, la concentration et les émotions des personnes. Cette surveillance algorithmique ne scanne pas passivement les travailleurs, mais fouille leur vie personnelle et produit activement un portrait qui sert pour la prise de décisions.

Enfin, les travailleurs doivent se familiariser avec l'IA pour exercer leur droit de regard. Il ne suffit pas de leur enseigner des compétences numériques. Pour comprendre le rôle de l'IA et ses effets sur leur environnement de travail, il faut que les travailleurs soient informés, éduqués et engagés de manière critique sur ces technologies.

La réglementation des systèmes d'IA, en particulier ceux jugés à haut risque, ne devrait pas être basée sur l'auto-évaluation de leurs fournisseurs. L'Europe peut devenir un leader mondial dans ce domaine et construire une réelle confiance dans cette technologie émergente. Mais cela ne pourra se faire que si elle protège et implique efficacement ses citoyens et ses travailleurs dans le processus. L'IA « centrée sur l'humain » n'existera jamais si les travailleurs et leurs représentants ne sont pas en mesure de comprendre et signaler les risques spécifiques qui pèsent sur l'emploi.

À cet égard, le projet de règlement de la Commission laisse beaucoup à désirer. Le Parlement européen et les États membres de l'UE doivent maintenant agir et, en particulier, intégrer la protection des travailleurs dans la version finale de ce règlement clé.

https://www.say.media/ZmD7Z66