Llama 4

Llama 4 (présentation sur https://www.llama.com) est le nouveau modèle de langage de Meta disponible en deux versions, Scout (démo : https://huggingface.co/spaces/openfree/Llama-4-Scout-17B-Research) et Maverick (démo : https://huggingface.co/spaces/openfree/Llama-4-Maverick-17B-Research). Ils comportent 17 milliards de paramètres et acceptent jusqu’à 10 millions de tokens.
Une troisième version, Behemoth, est en préparation.

Ces deux modèles utilisent la technique des « experts » coordonnés (16 pour Scout et 128 pour Maverick) : ils divisent l’instruction reçue en plusieurs tâches et chaque « expert » va résoudre une ou plusieurs de ces tâches en lien avec une partie de la base de données plutôt que d’interroger l’ensemble de la base.

Gratuit, open source et illimité sur les deux espaces démo.