Tester des IA avec LM Studio
-
Qu’est-ce que LM Studio ?
LM Studio est une application de bureau sous Windows, Mac et Linux, qui permet aux utilisateurs de télécharger, exécuter et expérimenter des modèles de langage (LLM) open-source localement sur leurs ordinateurs. En d’autres termes, il permet d’installer et d’exécuter des modèles comme LLaMA, Mistral, Gemma, GPT, etc., directement sur leur machine.
Bien entendu, ce type d’outil est plutôt réservé aux utilisateurs déjà à l’aise avec l’outil informatique, mais il existe des tutoriels qui permettent d’installer LM Studio assez facilement.
L’avantage de LM Studio, c’est qu’il permet de tester les différents LLM depuis une interface unifiée, voire de les utiliser simultanément pour comparer la qualité et la pertinence des résultats, et surtout, toutes vos requêtes restent en local, et donc hors ligne, garantissant la confidentialité de vos recherches.
LM Studio offre également d’importer un document et d’interroger le chatbot sur son contenu via le système RAG, et comme tout est local, votre document ne risque pas de se perdre sur internet et d’être intercepté par d’autres personnes.
Vous pouvez télécharger LM Studio sur votre ordinateur Windows 10/11, MacOS X 13.6 ou version supérieure (M1/M2/M3/M4), et Linux. Le système est open source et gratuit pour les utilisateurs individuels.
Retrouvez LM Studio dans notre article : Installer un ChatGPT sur PC ou Mac : voici le guide ultime pour tous.
Comment choisir, télécharger et installer un modèle ?
Une fois LM Studio installé et lancé, vous accédez à une interface intuitive qui vous permet de parcourir et de sélectionner divers modèles de langage. Pour choisir un modèle adapté à vos besoins, il est important de considérer les ressources matérielles de votre ordinateur.
Dans l’onglet « Discover » de l’application, vous pouvez explorer les modèles disponibles ou utiliser la barre de recherche pour trouver un modèle spécifique. Une fois le modèle souhaité sélectionné, cliquez sur « Download » pour initier le téléchargement. LM Studio se charge ensuite de l’installation automatique du modèle, le rendant prêt à l’emploi dès que le processus est terminé.
Notez qu’il est également possible de télécharger et d’installer de nouveaux modèles depuis le site de l’éditeur dans le menu Model Catalog, ou si vous ne trouvez pas votre bonheur, rendez-vous sur Hugging Face.
Source : frandroid.com
Présentation et tuto vidéo par LinuxTricks
