Retour

Micro Ouvert #6 : « Appliquer le principe du Gouvernement ouvert aux algorithmes publics »

Publié le 02 juin 2021

Soizic Pénicaud et Simon Chignard (Etalab)

La Direction interministérielle de la transformation publique, chargée d’animer l’élaboration du nouveau plan d’action de la France pour un Gouvernement ouvert a accueilli le 21 mai 2021, Soizic Pénicaud et Simon Chignard, experts du Gouvernement ouvert et de la transparence des algorithmes chez Etalab (Direction interministérielle du numérique).

Soizic Pénicaud, spécialiste des sujets de collaboration entre la recherche et la société civile, et Simon Chignard, chercheur et spécialiste de la donnée, ont porté ensemble l’engagement n°6 du dernier plan d’action Gouvernement ouvert de la France : « Renforcer la transparence des algorithmes et des codes sources public ». Ils évoquent, pour nous, la place croissante donnée aux algorithmes dans les services publics et les enjeux de transparence et de compréhension qu’ils entraînent pour les usagers mais également pour les agents publics.

Algorithmes : un rôle prépondérant dans l’évolution des services publics

En Europe, l’action publique fait de plus en plus appel aux algorithmes. En France, l’attribution des greffes de cœur est, par exemple, déterminée par algorithmes. En Italie, plusieurs régions comme la Lombardie ou le Piémont les ont récemment utilisés pour optimiser la stratégie vaccinale, entraînant un débat au plus haut sommet de l’Etat sur l’égalité d’accès des citoyens au vaccin contre la covid-19. La Commission européenne vient, pour sa part, de publier un draft pour une régulation et un encadrement de l’intelligence artificielle. « Tout cela soulève des enjeux de transparence, d’explication et même de contestation de décision prise à partir d’un algorithme », rappelle en introduction Simon Chignard. « Quand on parle d’algorithme en France, on imagine souvent intelligence artificielle, reconnaissance faciale, tout un tas d’applications relativement évoluées (…). Pourtant, il y a une succession de vagues qui se complètent avec, dans les années 60-70, des algorithmes relativement simples qui ont permis l’automatisation de l’attribution de droits selon des critères prédéfinis, notamment dans la sphère socio-fiscale. A partir des années 90, une seconde vague a pris la forme de traitements algorithmiques pour faire de l’appariement entre offre et demande (Parcoursup en est un exemple actuel). Enfin, un troisième type de traitement algorithmique est apparu pour assurer de la prédiction comme l’outil d’analyse et de ciblage Signaux faibles ».

Soizic Pénicaud constate, quant à elle, que lorsqu’on parle d’algorithmes, on pense souvent à des mécanismes automatiques orientés vers l’usager mais elle rappelle que les agents publics ont un rôle énorme à jouer dans la manière dont ils les intègrent dans leur prise de décision : « par exemple, certains d’outils d’aide à la décision priorisent certains contrôles en attribuant des « scores de risques ». Il importe donc que les agents utilisateurs soient impliqués dans le processus de compréhension de l’algorithme créé. Face à un écran, les agents doivent pouvoir conserver leur savoir métier et garder de la distance par rapport à ce que peut dire la machine. Pourtant, le sujet de « l’explicabilité » et de la transparence des algorithmes auprès des agents publics eux-mêmes reste encore peu exploré. »

Algorithmes publics : un enjeu de transparence pour « comprendre, contester et discuter » le rôle de la machine dans la décision publique

La création d’un algorithme se heurte parfois à la logique du législateur. Comme l’explique Simon Chignard, « le travail du législateur va inclure des zones de flou liées des situations particulières. Parfois, le législateur ou l’administration en a parfaitement conscience et ce flou permet d’exercer un pouvoir discrétionnaire, c’est-à-dire la capacité a traité un dossier d’une manière qui n’est pas automatique ». Cette logique est radicalement inverse à celle d’un codeur en charge de la programmation d’un algorithme : « A l’inverse, le flou est un grain de sable dans les rouages pour le codeur. La question est donc de réunir les deux positions. Doit-on écrire la loi comme des programmes informatiques ou bien trouver des langages intermédiaires pour rapprocher les points de vue. Plus le code sera ouvert, plus les choix seront transparents et plus il sera possible d’en discuter. » Soizic Pénicaud sur le sujet du référencement des algorithmes existants ajoute : « Il est souhaitable que les administrations publient les règles de leurs principaux systèmes algorithmiques. Au niveau international, la « société civile » fait un travail énorme de recensement et de remise en question des modèles algorithmiques. Comprendre, contester et discuter : cette transparence doit inciter à impliquer les agents, les citoyens et la société à la réflexion préalable à la décision de construire ou non un algorithme informatique pour telle ou telle décision publique. »

Micro Ouvert #6 : Simon Chignard et Soizic Pénicaud
Commentaires
0

Laisser un commentaire