La Cour des comptes a rendu publiques le 22 octobre 2024 ses observations sur la mise en œuvre de l’intelligence artificielle (IA) dans les politiques publiques. Le ministère de l’Economie et des Finances, qui expérimente l’IA depuis 2015, a servi d’objet d’étude sur la période 2015 - 2023.
Depuis 2015, Bercy a déployé, à titre expérimental, pas moins de 35 programmes d'intelligence artificielle. Dans ses observations définitives, la Cour estime à 66,3 millions d’euros le montant total des coûts de développement de cette expérimentation. L’IA est utilisée pour des missions variées : fiscalité, contrôles douaniers, lutte contre le blanchiment, statistique publique, droit de la consommation, aides aux entreprises, sécurité économique, contrôle réglementaire de la dépense publique ou encore relations avec les fournisseurs de l’État.
Quels en sont les bénéfices ?
Pour la Cour des comptes, l’IA a permis au ministère de gagner en productivité. Le recours à cinq systèmes d’IA, mobilisés à des fins de diminution des dépenses, a généré à lui seul 20,4 millions d’euros d'économie en 2022, la trajectoire d’économies devant atteindre 60 M€ en 2024 sur ce périmètre.
Globalement, les systèmes d’IA améliorent la productivité dans une majorité de cas mais ne permettent pas nécessairement de libérer des emplois. Dans un certain nombre de tâches, le recours aux systèmes d’IA a pu accroître le volume d’activité des services.
Et les risques ?
La Cour estime que la plupart des risques sont maîtrisés.
Des clauses d’internalisation des compétences sont prévues lorsque ses directions recourent à des prestataires extérieurs pour développer certains systèmes d’IA, ce qui leur permet de conserver la maîtrise technique des outils mis en production et de limiter leurs coûts d’entretien.
De même, l’exposition des systèmes d’IA aux menaces cybernétiques paraît moindre, dès lors que ces systèmes reposent sur des infrastructures généralement communes aux autres systèmes d’information sécurisés du ministère.
Par ailleurs, la Cour considère que "les risques concernant la protection et le cadre juridique des données sont pris en compte de façon satisfaisante".
En revanche, les enjeux de l’IA en termes d’éthique, de ressources humaines et de coût écologique ne le sont pas toujours. L’IA fait notamment naître certaines craintes pour les agents mais aussi pour le grand public :
- pour les agents, la crainte principale repose sur la remise en question de l’emploi ;
- pour le public, la mise en relation avec des robots de conversation ou chatbot, crée parfois des incompréhensions.
Par ailleurs, un certain nombre de technologies ne peuvent être expérimentées, faute d’un pilotage structuré au sein du ministère.
Cinq recommandations
Face à ce constat, la Cour des comptes recommande :
- d’identifier l’instance ministérielle en charge du pilotage stratégique de l’intelligence artificielle et des données numériques ;
- de créer un incubateur d’IA au sein du ministère, avec l’aide de la DINUM ;
- d’identifier les missions et les processus pour lesquels l’IA est susceptible d’apporter des gains d’efficience et de productivité significatifs ;
- de promouvoir auprès des directions des ministères économiques et financiers la mesure de l’impact environnemental des systèmes d’IA tout au long de leur cycle de vie en vue de le réduire ;
- de promouvoir auprès des directions des ministères économiques et financiers une démarche de frugalité lors de la mise en œuvre de systèmes d’IA.
Dans son bilan, la Cour indique que, s’agissant de la maîtrise des risques, l’expérimentation est satisfaisante en ce qui concerne la sécurité des systèmes et en ce qui concerne l’internalisation des compétences lorsqu’il est fait appel à des prestataires extérieurs pour le déploiement d’un système.
Ces motifs de satisfaction ne doivent pas, pour autant, masquer les points sur lesquels il convient d’être particulièrement vigilant.
Les points nécessitant une vigilance particulière
La maîtrise des risques liés au développement de l’IA n’est pas totalement maîtrisée notamment au regard des questions éthiques, des questions de ressources humaines ou encore du coût environnemental du déploiement des systèmes d’IA :
- du point de vue des questions éthiques, il sera nécessaire de veiller à ce que l’IA complète l’humain mais ne le remplace pas. Dans cette perspective, il faudra être vigilant au « biais de l’automatisation » qui pourrait tendre à affirmer que la machine a toujours raison en face du raisonnement humain ;
- du point de vue de la gestion des ressources humaines, le déploiement des systèmes d’IA doit s’accompagner d’une définition des conséquences de l’utilisation de l’intelligence artificielle sur l’évolution des métiers du ministère ;
- dans un contexte de responsabilisation des organisations sur les enjeux environnementaux, il sera nécessaire d’évaluer finement le coût environnemental d’une éventuelle généralisation des systèmes d’IA. Pour cela, il faudra construire des outils de suivi et d’évaluation fiables.
Au-delà de ces aspects, la Cour regrette que les expérimentations en cours ne sollicitent pas suffisamment les outils interministériels qui existent (ceux développés par la Dinum par exemple).
L’impérative mise en place d’un pilotage ministériel « robuste »
Compte tenu des défis qui sont encore à relever, la Cour des comptes insiste sur la nécessité d’un « pilotage ministériel robuste ». Cette instance de pilotage devra :
- harmoniser et mettre en cohérence la prise en compte des enjeux pour le ministère ;
- faire la promotion de l’utilisation des outils interministériels ;
- déployer l’expérimentation dans toutes les fonctions où cela est pertinent.
Par ailleurs, le pilotage devra anticiper les effets de l’expérimentation sur les travaux confiés aux agents et la pérennisation des compétences nouvelles.
Enfin, la Cour des comptes plaide pour une « intelligence artificielle frugale », c’est-à-dire un système qui prendra en compte tous les coûts associés au déploiement et qui adaptera rigoureusement l’expérimentation aux besoins réels.