Mistral AI a dévoilé sa dernière avancée : le Mixtral 8x22B, un puissant modèle d’IA en source ouverte. Ce nouveau modèle, avec une fenêtre contextuelle de 65 000 jetons et 176 milliards de paramètres, vise à concurrencer des poids lourds comme GPT-3.5 et Llama 2.
Sa force réside dans son architecture avancée permettant un calcul efficace sur diverses tâches. Malgré sa taille, il est rentable et plus rapide, ne nécessitant que 44 milliards de paramètres actifs par passage en avant.
Mistral AI, fondée par des chercheurs de Google et de Meta, se concentre sur la création de modèles d’IA en source ouverte. Ils ont publié le Mixtral 8x22B via torrent et plus tard sur des plateformes comme Hugging Face et Together AI pour que les utilisateurs puissent le peaufiner et l’entrainer de nouveau pour des tâches spécialisées.
Son lancement marque une étape importante pour l’IA en source ouverte, offrant aux chercheurs et aux développeurs un accès à des modèles de pointe sans barrières financières. Cependant, sa nature ouverte suscite des inquiétudes quant à un éventuel mauvais usage, Mistral AI n’ayant pas le contrôle sur la manière dont sa technologie est utilisée.
Malgré les critiques, la sortie du modèle a suscité de l’optimisme dans la communauté de l’IA, avec des espoirs d’avancées dans des domaines tels que le service client, la découverte de médicaments et la modélisation climatique.
0 Comments