Projet SHARP

Résumé

SHARP est un projet créé par un consortium regroupant des écoles et des instituts de recherches (Inria, CNRS, CEA, ENS Lyon, etc.) dans le cadre de France 2030.

SHARP a pour objectif de proposer un cadre théorique et algorithmique pour exploiter les connaissances préexistantes et les concepts modernes de parcimonie des prédicteurs et/ou des algorithmes. Entre autres, SHARP va explorer deux applications concrètes : l’entrainement frugal de transformeurs compacts (1) et l’apprentissage de représentations sur de petits ensembles de données non étiquetés (2).

Ainsi, SHARP entend concentrer la recherche sur les architectures, les principes d’apprentissage et les données afin de définir les méthodes d’apprentissage les plus frugales tout en préservant la performance des modèles.

Le défi majeur du projet SHARP est de réaliser un bond en avant en matière de frugalité en concevant, analysant et déployant des modèles intrinsèquement efficaces (neuronaux ou non) capables d'atteindre la polyvalence et les performances des meilleurs modèles tout en ne nécessitant qu'une fraction infime des ressources actuellement nécessaires.

sélectionnée.

Pour atteindre une telle frugalité en IA, SHARP s'appuiera sur trois piliers : les architectures frugales, les principes d'apprentissage frugal et l'apprentissage avec des ensembles de données petits et rares.

Le regard de la rédaction

Le projet a été lancé en mars 2024. Des publications scientifiques sont d’ores et déjà en ligne sur le site du projet SHARP.

Il sera particulièrement pertinent de suivre les avancées et les annonces du projet SHARP au fil du temps car de toute évidence, il y a une forte ambition de travailler sur des modèles frugaux avec un haut niveau de technicité et de rendre déployable les solutions imaginées.