Aujourd’hui, Meta a publié son dernier grand modèle de langage Llama 2 (LLM), qui, lors des tests, a a surpassé d’autres modèles de chat open source (y compris GPT) sur « la plupart des points de référence », y compris l’utilité et la sécurité. Encore plus intéressant, Meta et Microsoft ont également annoncé une extension de leur partenariat, qui permettra aux développeurs utilisant les outils Microsoft de choisir entre les modèles Llama de Meta et GPT d’OpenAI lors de la construction de leurs expériences d’IA.
À la lumière de la sortie de Meta et des résultats des tests, il est intéressant de voir comment Microsoft se réoriente dans la poussée générative de l’IA.
Llama 2 sera mis à disposition dans le commerce, gratuitement, offrant une alternative aux LLM actuels disponibles via Google et OpenAI, et positionnant potentiellement Meta comme un leader dans l’espace émergent de développement de l’IA.
Dans le cadre de la nouvelle version, Meta partage trois versions différentes du modèle. L’un est formé sur 7 milliards de paramètres, un sur 13b, et enfin, une version 70b, tandis qu’il publie également « Llama 2 Chat », une variante plus affinée spécialement conçue pour les cas d’utilisation conversationnels.
Selon Microsoft à propos de la relation élargie avec Meta :
« Aujourd’hui, lors de Microsoft Inspire, Meta et Microsoft ont annoncé la prise en charge de la famille Llama 2 de grands modèles de langage (LLM) sur Azure et Windows. Llama 2 est conçu pour permettre aux développeurs et aux organisations de créer des outils et des expériences génératifs alimentés par l’IA. Meta et Microsoft partagent un engagement à démocratiser l’IA et ses avantages et nous sommes ravis que Meta adopte une approche ouverte avec Llama 2. »
Microsoft a également investi 10 milliards de dollars dans OpenAI et a déjà intégré GPT dans la plupart de ses outils et plates-formes. Et maintenant, il connectera également Llama 2 à diverses applications, ce qui verra Microsoft devenir une plate-forme clé pour faciliter la connexion entre les consommateurs et ces principaux LLM.
L’un des principaux objectifs du modèle Llama 2 de Meta est la sécurité et la garantie que les résultats produits par le système sont précis et limitent les abus. Ce qui pourrait être une étape importante, compte tenu des divers problèmes qui ont été signalés avec certains premiers LLM, y compris GPT, qui a souvent induit les utilisateurs en erreur en raison d' »hallucinations » et du partage d’informations erronées et/ou de perspectives nuisibles.
Afin d’atténuer cela, Meta a ajouté une charge de formation importante autour de divers éléments, notamment la « véracité », la « toxicité » et la « partialité ». Sur la base de ce travail supplémentaire, Meta dit que Llama 2 Chat ‘montre une grande amélioration par rapport au Llama 2 pré-entraîné en termes de véracité et de toxicité ».
« Le pourcentage de générations toxiques se réduit effectivement à 0 % pour Llama 2-Chat de toutes tailles : il s’agit du niveau de toxicité le plus bas parmi tous les modèles comparés. En général, par rapport à Falcon et MPT, le Llama 2-Chat affiné affiche les meilleures performances en termes de toxicité et de véracité.
Cela pourrait en faire un outil d’IA générative encore plus utile, sur lequel on pourrait compter davantage pour un plus large éventail de tâches. Parce que si GPT est incroyable dans sa capacité à produire des générations de texte de type humain, il existe également des risques importants à utiliser ces sorties sans vérifier et revérifier toutes les références et la langue, afin de s’assurer qu’il n’est pas influencé négativement par son diverses entrées.
Si un LLM pouvait être plus fiable à cet égard, cela pourrait considérablement étendre son cas d’utilisation, que Llama 2 est théoriquement mieux équipé pour traiter.
C’est une nouvelle considération intéressante de toute façon, et l’intégration avec Microsoft verra le nouveau LLM de Meta jouer un rôle plus important dans le développement plus large de l’IA, et pourrait voir le système de Meta devenir éventuellement un leader clé dans l’espace.
Microsoft Les clients Azure AI pourront tester Llama 2 avec leurs propres exemples de données, afin de tester ses performances dans différents contextes.
Vous pouvez en savoir plus sur le processus et l’ensemble de données Llama 2 ici.
