EcoLogits

Résumé

Vous déployez un service numérique basé sur l’IA Générative et souhaitez évaluer l’empreinte environnementale de votre service ?

EcoLogits suit la consommation d’énergie et l’empreinte environnementale de l’utilisation des modèles d’IA générative via des API (Impacts environnementaux et consommation d’énergie des LLMs lors de l’inférence). L’enjeu étant d’une part de fournir les moyens d’informer les utilisateurs d’un service et d’aider aussi les concepteurs à mieux prendre en compte (et réduire) l’empreinte environnementale de leurs projets.

Ecologits s’appuie sur une méthodologie précise et détaillée : Analyse du Cycle de Vie et évaluation multi-critères. EcoLogits évalue la consommation d’énergie, le GWP (Global Warming potential) exprimé en eq. CO2, la consommation de ressources abiotiques et l’énergie primaire.

Le travail d’Ecologits se concentre pour l’heure sur l'impact de l'inférence, c'est-à-dire la phase d'utilisation des modèles d’IA Générative pour répondre aux requêtes des utilisateurs.

EcoLogits est un outil destiné à être déployé par des équipes de développement technique au sein de leur projet. Il n’a pas vocation à être utilisé par le grand public tel quel.

Le regard de la rédaction

EcoLogits, déployé par l’association à but non lucratif GenAI Impact semble être un outil très pertinent.

Développé par GenAI Impact dans le cadre d’un hackathon organisé par Data For Good, l’outil a bénéficié du regard et de l’aide d’une large communauté. En autres, Boavizta, association reconnue pour ses compétences sur le sujet de l’évaluation de l’empreinte environnementale du numérique, a contribué au projet.

La méthodologie est expliquée avec beaucoup de précision et pédagogie permettant même aux moins acculturés à ces sujets de s’en emparer.

Enfin la partie tutorial est très largement accessible à n’importe quelle équipe de développement technique, voire même toute personne maîtrisant les lignes de commande et ayant quelques compétences en programmation informatique.

Ecologits repose en grande partie sur les données fournies par la plateforme Hugging Face qui héberge un certain nombres de langages d’IA Générative. Hugging Face mesure via CodeCarbon, un outil incubé chez Data For Good, l’empreinte des langages qu’elle héberge.

Pour pouvoir proposer l’empreinte d’un maximum de langages dont les plus connus du grand public, souvent fermés (dont ceux de Mistral AI et OpenAI), GenAI Impact a fait le choix de faire des extrapolations à partir des données récoltées via la plateforme Hugging Face.