France
Partager
S'abonner
Ajoutez IDJ à vos Favoris Google News

Autour de l’informatique : dialogue technologique, dialogue social

Dans une usine de fibres optiques.
Steve Jurvetson/Flickr, CC BY

Serge Abiteboul, École normale supérieure (ENS) et Claire Mathieu, École normale supérieure (ENS)

Un nouvel « Entretien autour de l’informatique » : Thiébaut Weber, syndicaliste CFDT et ancien militant étudiant. Il a été secrétaire confédéral de la Confédération Européenne des Syndicats entre 2015 et mai 2019. Il s’intéresse à la numérisation, aux nouvelles formes de travail et aux plates-formes en ligne. Cet article est publié en collaboration avec le Blog Binaire.


Thiébaut Weber.
Binaire, Author provided

Binaire : pourrais-tu nous parler de ton parcours ?

J’ai été syndicaliste étudiant, président de la FAGE. Je n’ai pas terminé mes études : la CFDT m’a proposé de prendre des responsabilités syndicales. Je viens de finir un mandat de quatre ans à la Confédération européenne des syndicats, à Bruxelles. Cette confédération regroupe les principaux syndicats européens, pour agir sur les politiques européennes sur l’emploi et le social, représenter les travailleurs et mener des réflexions avec l’Institut syndical européen (ETUI) sur les enjeux liés à l’avenir du travail. Nous nous intéressons évidemment aux transformations du travail par l’informatique, et aux relations entre les humains et les machines. J’ai aussi fait partie d’un groupe d’experts européens sur l’IA où j’étais le seul syndicaliste. Si je n’ai pas personnellement suivi de cursus scientifique en informatique, je me suis formé sur le tas, notamment au contact d’amis et d’experts. Je vais maintenant intégrer la Délégation interministérielle sur la prévention et lutte contre la pauvreté, où je compte m’investir notamment sur la pauvreté des jeunes.

Le monde numérique transforme la société. Quels sont les vrais enjeux ?

L’enjeu peut-être le plus important est celui de formation citoyenne et de l’éducation populaire pour devenir citoyen et salarié dans un monde numérique. Nous sommes à un moment clé où nous pouvons encore définir quel cadre nous souhaitons pour la collaboration entre l’humain et la machine. Actuellement, les débats portent souvent sur des sujets qui tiennent de science-fiction et pas assez autour des vraies questions par exemple : dans quelle mesure voulons-nous utiliser les nouvelles technologies pour améliorer notre cadre de travail ou comment pouvons-nous protéger les données de chacun au-delà du RGPD. Ce sont de vrais enjeux sociétaux et il faut faire évoluer la formation syndicale pour être prêt à mener un dialogue qui n’est pas seulement social mais également technologique.

Par exemple, les systèmes d’intelligence artificielle (IA) utilisés sur les lieux de travail doivent être irréprochables en matière de protection de la dignité humaine, de la sécurité. Pour cela, il faut établir un dialogue dès la conception de ces systèmes pour échanger sur toutes les facettes de leurs déploiements sur des lieux de travail. Prenez un bâtiment dans une usine chimique, on branche un système avec des caméras pour localiser en permanence les matières dangereuses ; cela ne doit pas servir de manière exagérée à surveiller les travailleurs. On veut une IA éthique, une IA fiable, explicable, et digne de confiance, acceptable par tous. Les syndicats doivent participer depuis la conception de tels systèmes. Les syndicalistes doivent donc être formés pour pouvoir participer aux discussions entourant les utilisations de tels systèmes.

Solstice Hannan/Unsplash.
Photo by Solstice Hannan on Unsplash

Pour prendre un autre exemple, les données produites par les travailleurs, qu’est-ce qui en est fait ? Une fois qu’elles ont été utilisées au profit d’un service particulier, que deviennent-elles ? L’employeur a, dans une certaine mesure, un droit d’utiliser ces données pour la supervision du travail effectué mais cette utilisation doit être proportionnée, rester dans certaines limites. Il faut que l’on puisse contrôler à quoi elles servent. C’est à ce prix que l’utilisation des données devient acceptable par les travailleurs, que la confiance s’établit.

Dans ce cadre, la formation des employés est essentielle.

Évidemment et ce n’est pas encore assez un sujet dans l’entreprise. On a besoin d’éducation à l’informatique pour nos citoyens, de formation continue dans l’entreprise. Par exemple, dans la formation professionnelle, on a besoin de formation sur l’utilisation des données, les enjeux de la collaboration humain-machine. On doit, en dialogue avec les scientifiques, proposer de nouvelles formations pour une utilisation de ces technologies qui garantisse la compétitivité de nos entreprises, bien sûr, mais aussi au service de l’amélioration des conditions de travail.

C’est un beau sujet que les partenaires sociaux devraient s’approprier dans les années à venir. Le dialogue social en France est un peu au point mort. La formation au numérique pourrait être un sujet pour le relancer en préparant la France aux enjeux de demain. Ça paraît abstrait, mais c’est très concret : pour aller vers des entreprises performantes et où il fera bon travailler, cela passe par la formation aux nouvelles technologies dans les entreprises.

Quid de la disparition des métiers, et l’apparition des nouveaux métiers ?

Nous avons déjà traversé trois révolutions industrielles. Cela continue avec l’informatique et l’intelligence artificielle. Il y a un consensus scientifique autour du chiffre de 10 % des emplois qui devraient disparaître, mais pas de visibilité sur les nouveaux emplois qui pourraient être créés. Pour moi, l’enjeu premier, c’est l’évolution des métiers. D’abord, dans leur contenu : des tâches simples d’interprétation et d’aide à la prise de décision seront demain prises par des machines. Ensuite tout dépend de choix au niveau de l’entreprise. Par exemple, prenons le secteur de l’assurance, les déclarations de sinistres, actuellement traitées par des humains. Si demain elles sont traitées par OCR, l’entreprise peut en profiter pour faire un plan massif de licenciement. Elle peut aussi choisir de mettre en place un plan formation de ses employés remplacés par des logiciels pour les former au conseil en assurance. Il faut donc des acteurs conscients, éclairés des enjeux technologiques pour faire le bon choix. Un mauvais choix peut être catastrophique pour l’entreprise. Une automatisation irréfléchie en plus d’être catastrophique pour les emplois peut aussi résulter, on s’en rend compte de plus en plus, en des dégradations de la qualité des services ou des produits.

Les syndicats sont là pour accompagner les transformations du travail. Est-ce qu’ils sont prêts à cela ?

Le syndicalisme a toujours été beaucoup plus à l’aise avec les grands collectifs de travail qu’avec les plus petites entités. On assiste aujourd’hui à une forme de balkanisation du travail, d’explosion des unités. Il y a de plus en plus de petites entreprises, de travailleurs indépendants, et cela ne favorise pas le travail syndical. Comment proposer l’outil syndical à des travailleurs qui sont isolés et donc plus vulnérables aux risques d’exploitation et de précarité ? Les syndicats ne sont pas organisés pour ces nouveaux défis. Dans les entreprises classiques avec des structures syndicales appropriées, les syndicalistes peuvent se former à ces nouvelles technologiques. Il leur faut investir ces nouveaux sujets dans les grandes structures, les grandes administrations, la santé et l’hôpital par exemple, commencer par là. Et de là cela pourra se généraliser à toutes les entreprises.

À l’autre bout du spectre, prenons l’exemple des chauffeurs de VTC comme Uber. Des syndicats se sont implantés. Un chauffeur, militant syndical, a beaucoup de difficultés à entrer dans un dialogue social classique avec la plate-forme. Il a besoin par exemple de savoir comment l’algorithme attribue des courses ou non. Mais il y a absence d’explicabilité, de transparence. Des chauffeurs syndiqués disent avoir observé un certain ralentissement des courses qui leur sont attribuées. Comment un chauffeur peut-il prouver qu’il a subi une discrimination syndicale par l’algorithme d’allocation de courses ? Si un juge s’y intéresse, il devra demander à des experts qui devront avoir accès au code, aux données, tester l’algorithme… Il n’y a pas de législation qui protège ces chauffeurs, ni même de moyen de vérifier ce que les plates-formes font.

Crois-tu qu’il y ait une place pour l’Europe dans le domaine de l’IA ?

Comment l’Europe peut-elle se placer pour revenir dans la bataille mondiale de l’IA ? En Europe, il y a une forte demande sociale pour que les pouvoirs publics soient protecteurs en ce qui concerne l’IA. Il y a beaucoup de craintes, fondées ou non autour du développement de l’IA. Comment peut-on répondre aux enjeux sociaux, aux enjeux de protection, de sécurité des citoyens, notamment en matière de données et de confiance ?

Nous avons travaillé sur ce sujet au sein du groupe européen d’experts sur l’IA mis en place par la Commission européenne. Nous avons produit deux documents, l’un sur la notion de confiance et l’éthique, l’autre sur les politiques et les investissements. Nous avons développé une idée forte dans ces documents : l’Europe peut l’emporter à travers l’IA de confiance. Beaucoup de produits et de services européens sont reconnus aujourd’hui pour leur qualité, leur fiabilité. C’est par exemple le cas pour les voitures produites en Europe. C’est là que nous pouvons trouver un créneau. Prenez les enjeux autour de l’IA : robustesse et fiabilité technique, mais aussi confiance et fiabilité éthique. Confiance dans la manière dont les logiciels ont été conçus, dont ils traitent nos données, sont transparents pour expliquer le comportement d’une machine. C’est la vision qui a été développée par le groupe. C’est surtout dans ce domaine que l’Europe peut avoir une avance. Pour cela, il nous faut unir nos forces, renforcer les coopérations scientifiques, avoir davantage de projets de recherche européens sur ces sujets. Il nous faut développer une politique européenne de l’IA.

Il faut aussi mettre à jour nos législations, par exemple sur les discriminations. Actuellement la législation se place sur des terrains connus comme la religion, l’âge, le genre, le couleur de peau… Quid de biais éventuellement introduits par la machine dans des terrains inconnus, que l’on ne connaît pas encore ? Le même problème se pose pour la directive européenne sur la responsabilité autour des produits. Il va falloir la revoir en tenant compte des systèmes auto-apprenants. L’Europe peut être un vecteur de progrès, comme pour la RGPD. Le RGPD, ce n’est pas parfait, on voit déjà des contournements, mais l’Europe a donné le ton, et on réalise que la protection des données ne tue pas l’innovation. Demain l’Europe peut aller plus loin dans cette direction avec l’intelligence artificielle.

Est-ce que l’informatique pose de nouvelles questions aux syndicalistes ?

Dans le syndicalisme, sur le terrain, j’ai des collègues compétents pour traiter des conditions de travail, de salaire, de sécurité au travail, faire remonter des problèmes, des tensions, participer à leur résolution. Une dimension qui est moins traitée au niveau syndical est celle des politiques d’emploi des entreprises. Des logiciels sont mis en œuvre pour trier des CV et aider au recrutement, les logiciels RH. On a des expériences maintenant, comme celle d’Amazon. Ils ont entraîné la machine sur la base des CV de leur masse salariale actuelle sur les données de candidats à l’embauche. Ils ont réalisé que le logiciel retournait surtout des CV d’hommes. À partir des données qu’il avait, le logiciel avait décidé qu’il valait mieux être un homme pour bosser chez Amazon. Veut-on une politique d’emploi qui exacerbe les biais déjà présents ?

Nous savons que nous ne sommes pas tous égaux dans la façon dont nous nous présentons, dont nous concevons nos CV. Nos capitaux culturels nous différencient et donnent des avantages à certains. Demain un traitement des embauches par logiciel est potentiellement très dangereux car la technologie peut introduire des biais très forts dans la sélection et le recrutement. Les syndicalistes doivent se former pour pouvoir discuter les conditions de recrutement, les critères, l’usage de la technologie pour les recrutements. Il leur faut discuter avec les entreprises qui conçoivent ces logiciels, et sur le terrain il faut vérifier que c’est bien utilisé.

Cela nous ramène au dialogue nécessaire entre la technologie et la protection sociale des employés, à un dialogue technologique et social.


Pour aller plus loin : « Policy and investment recommendations for trustworthy artificial intelligence ».The Conversation

Serge Abiteboul, Directeur de recherche à Inria, membre de l’Académie des Sciences, École normale supérieure (ENS) et Claire Mathieu, Directrice de recherche CNRS, Paris, École normale supérieure (ENS)

Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.

The Conversation

France