Meta a officiellement publié les modèles Llama 4 Scout et Llama 4 Maverick, annoncés comme ses « modèles les plus avancés à ce jour » avec une multimodalité native (texte, vidéo, images, audio).
Principales caractéristiques
- Architecture : Utilisation de la méthode du mélange d’experts (MoE) pour des performances spécialisées (Llama 4 Scout avec 16 experts et Llama 4 Maverick avec 128 experts).
- Accessibilité : Logiciels libres pour les modèles Scout et Maverick, tandis que Llama 4 Behemoth (« l’un des LLM les plus intelligents au monde ») reste en préversion.
- Performances : Llama 4 Behemoth surpasse GPT-4.5 et Gemini 2.0 Pro sur des benchmarks STEM comme MATH-500.
Contexte des retards
Le lancement avait été reporté à plusieurs reprises en raison de défis techniques, notamment des lacunes en raisonnement mathématique et en conversations vocales naturelles comparé à OpenAI. Meta prévoit de dépenser 65 milliards de dollars en 2025 pour son infrastructure d’IA.
Innovations clés
- Capacités agentiques : Exécution de tâches multi-étapes autonomes (prévues dans les versions futures).
- Optimisation des coûts : Inspiration des techniques de DeepSeek pour réduire les dépenses tout en améliorant l’efficacité.
