Intelligence artificielle : Nantes Métropole se dote d’un cadre de confiance et lance « Nantes Débat de l’IA »
Depuis plusieurs années, l’intelligence artificielle est l’objet de toutes les attentions et parfois source d’inquiétudes, notamment dans l’opinion et le débat public. La collectivité se positionne sur la question. Elle propose un cadre protecteur et de confiance pour le développement ou l’utilisation d’outils intégrant l’intelligence artificielle, dans le respect des principes du numérique responsable.
Les collectivités n’échappent pas aux sollicitations en matière d’intelligence artificielle. Augmenter certains des outils qu’utilisent les agents pourrait-il contribuer positivement à la fabrique du service public ? Quels sont les bénéfices et les risques de l’utilisation de l’IA ?
La doctrine IA de la collectivité prévoit que l’utilisation de l’IA ne pourra se faire que dans un cadre prédéfini, évaluant à travers une « boussole », la contribution réelle à l’amélioration du service public et aux conditions de travail des agents, la sobriété environnementale, ou encore les exigences de transparence.
L’utilisation de l’Intelligence Artificielle ne peut se faire que dans un cadre restreint et de confiance, si elle présente un intérêt réel et en cohérence avec les sept critères de la boussole.
Absence d’identification biométrique et absence de collecte de données sensibles qui pourraient caractériser un ou des individus susceptibles de générer des biais discriminatoires (notamment caractérisation physique, comportementale, vestimentaire,...)
Conformité au cadre juridique (absence de risque juridique) et à la politique de cybersécurité
Contribution à l’amélioration du service public
Contribution à l'amélioration des conditions de travail des agents publics
Respect des engagements en matière de sobriété énergétique
Exigence de transparence et redevabilité
Évaluation du bénéfice par rapport à une solution alternative sans Intelligence Artificielle
La collectivité développe uniquement des usages qui s’appuient sur des bases juridiques existantes, et qui incluent une intervention humaine en cas de prise de décision individuelle, comme précisé dans la Charte Métropolitaine de la Donnée (2019).
L’intelligence artificielle est un sujet profondément politique et citoyen et renvoie au modèle de société dans lequel nous souhaitons vivre. Les impacts écologiques, démocratiques, sur l’emploi ou encore, sur l’utilisation des données doivent être appréhendés à leur juste niveau et nécessitent un débat citoyen et un fort volontarisme en matière de formation. A Nantes, fidèles à nos valeurs et à l’ambition que nous portons pour un numérique responsable, nous faisons le choix de ne pas opposer régulation et innovation et proposons aujourd’hui un cadre de confiance en matière de recours à l’intelligence artificielle.
Johanna Rolland, Maire de Nantes et présidente de Nantes Métropole
Depuis plus de 10 ans, nous portons à Nantes une vision d’un numérique socialement, écologiquement et éthiquement responsable. Dès 2019, avec la charte métropolitaine de la donnée, nous avions posé des principes forts sur l’Intelligence Artificielle que nous réaffirmons aujourd’hui : l’humain doit être protégé et rester au contrôle de toute prise de décision. En 2024, la question n’est pas d’être pour ou contre l’IA qui, invisible et sans visage, irrigue déjà notre quotidien. L’enjeu est de poser un cadre de confiance adossé à des indicateurs pour évaluer, en amont, les impacts réels du déploiement d’un système impliquant de l’IA.
Francky Trichet, Vice-Président de Nantes Métropole et Conseiller municipal de Nantes délégué au numérique
« L’intelligence artificielle, maintenant largement démocratisée, peut être vue comme une solution de facilité sans que soient posés les enjeux éthiques, démocratiques ou encore économiques. La boussole nantaise nous propose un cadre de réflexion permettant d’interroger la réelle plus-value du recours à l’IA. Réguler, c’est créer un cadre pour une innovation responsable. »
Louise Vialard, Conseillère municipale de Nantes déléguée au numérique responsable
Organiser la contribution du territoire à la définition d’une IA de confiance : "Nantes Débat de l’IA"
Nantes Métropole testera cette doctrine tout au long de l’année 2024, dans le cadre d’expérimentations internes de cas d’usages appliqués à des métiers et besoins de politiques publiques diverses.
En parallèle, la collectivité met en débat les critères de la boussole de l’IA auprès de son territoire. Entre mars et septembre 2024, Nantes Débat de l’IA proposera l’organisation d’événements à destination des professionnels et du grand public qui questionneront les enjeux de l’IA sous des angles et des formats variés.
Une restitution sera organisée en septembre dans le cadre de la Nantes Digital Week afin de témoigner de la maturité et des questionnements du territoire vis-à-vis de l’IA. L’ensemble de cette démarche, qui permettra d’ajuster les critères de la boussole, aboutira à la révision, courant 2025, de la charte métropolitaine , devenant la "Charte métropolitaine donnée et de l’IA".
Appel à contributions
Vous portez sur le territoire un projet autour de l'IA éthique et vous vous demandez s'il pourrait potentiellement être labellisé Nantes Débat de l'IA ?
Avril 2024 - Septembre 2024 : première vague d’appel à initiatives labellisées
18 septembre 2024 : événement de restitution
Octobre 2024 - Avril 2024 : deuxième vague d'initiatives labellisées
Les acteurs témoignent de leur engagement à la démarche
"Comme l’industrie manufacturière consomme encore de l’énergie fossile sans se soucier des conséquences pour l’environnement, l’industrie du numérique consomme aujourd’hui des données personnelles sans se soucier des conséquences sur la vie privée. La sobriété numérique doit prendre en compte plusieurs volets. L'approche nantaise de l’IA va dans ce sens en posant un cadre de régulation basé sur une boussole multicritère."
Prof. Pierre-Antoine Gourraud, Professeur des Universités, Praticien Hospitalier
L'intelligence artificielle est un enjeu majeur et une source d'innovation pour de nombreuses startups de notre dynamique écosystème. La doctrine, et en particulier ses indicateurs, proposent un cadre pertinent d'analyse afin de soutenir une innovation responsable, en cohérence avec la singularité du territoire.
Anais Vivion, présidente de la French Tech Nantes
Il sera nécessaire de s'interroger sur l'impact discriminant du développement de l'IA avant d'en épouser un usage régulier. Veillons collectivement à ce qu'il n'induise pas une obsolescence accélérée des outils, tâches et postes de travail, ce qui pourrait toucher une frange de la population ayant déjà des difficultés économiques et sociales.
Ronan Marjolet, président de l'association PiNG
Dès 2018, le collectif NaonedIA a infusé une dynamique forte autour de l'IA territoriale. Plus que jamais, nous devons nous mobiliser de concert, acteurs publics et privés, pour continuer à promouvoir nos engagements en matière éthique et revendiquer la singularité du territoire nantais sur une IA responsable.
Clément Guillon, vice-président de NaonedIA
Montréal et Nantes s’inspirent mutuellement depuis 2018 et partagent des valeurs communes en matière d'éthique de la donnée et de confiance. Avec cette doctrine politique de l’IA, Nantes continue d’avoir un temps d’avance sur ces enjeux de numérique éthique. L'observation croisée de nos contextes respectifs de promotion de l'IA de confiance va continuer à nous enrichir réciproquement.
Mehdi Benboubakeur, directeur général du Printemps numérique de Montréal
