Christophe Cerisara

Site personnel

Project maintained by cerisara Hosted on GitHub Pages — Theme by mattgraham

Site personnel

Ce site est en construction permanente. Il n’y a pas grande chose d’intéressant en plus, je vous l’accorde… Mais bon, si vous n’avez rien d’autre à faire, jetez un coup d’oeil…

LLM

Large Language Models (LLM)… Ca vous parle ?

Si si, vous connaissez: ChatGPT est un LLM, mais il y en a beaucoup d’autres, et même un certain nombre que l’on peut faire tourner chez soi, et qui sont quasiment aussi bons que ChatGPT en plus ! Par exemple, le dernier modele open-source de Cohere: ComandR-plus, ou encore le dernier modèle de Mistral; Mais je reconnais que ce n’est pas encore si simple de les faire tourner sur son PC, il faut de solides connaissances en informatique pour y arriver. Sinon, vous pouvez toujours vous rabattre sur l’avant-dernière génération de LLMs, comme Llama2, pour lesquels tout un tas de toolkits relativement facile à installer ont été développés, comme llama.cpp, ollama, vllama, etc. Regardez, ça vaut le coup pour avoir un modèle rien qu’à soi, privé et toujours disponible.

Si vous voulez faire autre chose que discuter avec ces LLMs, comme par exemple les utiliser pour interroger tout un tas de PDFs pour votre travail (c’est ce qu’on appelle du RAG = Retrieval Augmented Generation), je vous conseille de regarder du côté de LlamaIndex, qui me semble une librairie python très complète pour le RAG, mais il y en a d’autres bien sûr, c’est selon vos préférences.

Si vous voulez les utiliser comme LLM agents, c’est-à-dire les intégrer dans vos architectures logicielles, les faire interagir avec des outils comme des calculatrices, des recherches sur le web, alors je vous conseille l’excellente librairie DSPy, ou bien sûr, la librairie ultra-connue LangChain. Gorilla est aussi une excellente option pour utiliser les LLM dans votre terminal, sur le web, etc.

Tout va bien…

Les recettes de geek

Citations