LightRetriever : une architecture de recherche de texte basée sur LLM avec une inférence de requête extrêmement plus rapide

LightRetriever est une nouvelle méthode de recherche de texte basée sur les LLM qui réduit considérablement la charge de travail de l'encodage des requêtes. Comparé à l'utilisation d'un LLM complet, cette méthode atteint une inférence de requête extrêmement plus rapide tout en conservant les capacités de recherche améliorées des LLM.