La boussole de l’IA

Résumé

La doctrine de Nantes Métropole prévoit que l’utilisation de l’IA ne pourra se faire que dans un cadre prédéfini, évaluant à travers une « boussole », la contribution réelle à l’amélioration du service public et aux conditions de travail des agents, la sobriété environnementale, ou encore les exigences de transparence. La « boussole » propose sept critères à l’aune desquels sera instruit tout projet numérique intégrant de l’intelligence artificielle.

Le regard de la rédaction

La boussole de l’IA est une initiative permettant de prendre du recul avant toute conception de projet à base d’IA. Elle permet de questionner en particulier les impacts sociaux d’un service incluant de l’IA.

Les 7 critères de la boussole permettent d’interroger globalement le bien-fondé de la solution envisagée avec de l’IA. La boussole va même jusqu’à proposer de comparer la proposition à base d’IA avec une solution alternative sans IA avant toute décision. L’ensemble semble cohérent et poser des garde-fous essentiels pour encadrer tout projet.

L’apport de précisions pour chaque critère serait bienvenu pour permettre la même compréhension des critères par l’ensemble des agents et éviter toute part d’interprétation.

Également, en l’état, le projet d’IA pourrait respecter les critères de la boussole tout en étant mis au service d’un projet allant plutôt à l’encontre de la transition écologique (ex : améliorer le stationnement ou la circulation des voitures en ville dont l’effet rebond peut être l’augmentation du trafic)