Infomaniak partage les valeurs de Tech Café : éthique, écologie et respect de la vie privée. Découvrez les services de notre partenaire sur Infomaniak.com
Mise à jour du dossier qui vous propose d'installer et utiliser votre propre interface avec un modèle de langage sur votre appareil, sans dépendre des services en ligne...
❤️ Patreon
💬 Discord
💻 techcafe.fr
- Ce qui n'a pas changé, ou juste un min-p.
Top modèles
- Mistral et ses dérivés, Mixtral, Miqu, et Yi, l’outsider venu de Chine.
- LLAVA et le multimodal.
- Qwen, Orion, Phi2, Deepseek et les autres.
- Les “Frankenmerges” : Solar, Goliath, c’est du lourd.
- Retrouvez tout ça ici, où là en gguf.
Nouveautés logicielles
- Les formats : c’est pire qu’avant, évidemment.
- LM Studio a son serveur, idéal pour Open Interpreter.
- Jan l’alternative open source et Ollama.
- RAG doll : GPT4All a un atout caché !
- Koboldcpp et Sillytavern, l’alternative weeb mais surpuissante.
- Fine tuning artisanal : les Lora sur Oobabooga.
- Llamacpp : serveur, et finetune sur CPU.
Participants
- Une émission préparée par Guillaume Poggiaspalla
- Présenté par Guillaume Vendé
