Meta essaie de s’attaquer au problème des outils d’IA générative produisant des réponses inexactes ou trompeuses, en utilisant, ironiquement, l’IA elle-même, via un nouveau processus qu’il appelle « Shepherd »

Meta Shepherd IA

Comme vous pouvez le voir dans cet exemple, le nouveau Shepherd LLM de Meta est conçu pour critiquer les réponses des modèles et suggérer des améliorationsafin d’alimenter des sorties AI génératives plus précises.

Comme l’explique Meta :

« Au cœur de notre approche se trouve un ensemble de données de rétroaction de haute qualité, que nous organisons à partir des commentaires de la communauté et des annotations humaines. Même si Shepherd est petit (paramètres 7B), ses critiques sont équivalentes ou préférées à celles des modèles établis, y compris ChatGPT. En utilisant GPT-4 pour l’évaluation, Shepherd atteint un taux de réussite moyen de 53 à 87 % par rapport aux alternatives concurrentes. Dans l’évaluation humaine, Shepherd surpasse strictement les autres modèles et est en moyenne étroitement lié à ChatGPT.”

Il s’améliore donc pour fournir des commentaires automatisés sur les raisons pour lesquelles les sorties d’IA génératives sont erronées, en aidant les utilisateurs à rechercher plus d’informations ou à clarifier les détails.

Ce qui soulève la question : « Pourquoi ne pas simplement intégrer cela dans le modèle d’IA principal et produire de meilleurs résultats sans cette étape intermédiaire ? » Mais je ne suis pas un génie du codage, et je ne vais pas prétendre comprendre si c’est même possible à ce stade.

Bien que ce soit bien sûr l’objectif final, faciliter de meilleures réponses en forçant les systèmes d’IA générative à réévaluer leurs réponses incorrectes ou incomplètes, afin de fournir de meilleures réponses à vos requêtes.

En effet, OpenAI affirme que son modèle GPT-4 produit déjà de bien meilleurs résultats que les systèmes GPT actuellement disponibles dans le commerce, comme ceux utilisés dans la version actuelle de ChatGPT, tandis que certaines plates-formes voient également de bons résultats en utilisant GPT-4 comme code. base pour les tâches de modération, rivalisant souvent de performances avec les modérateurs humains.

Cela pourrait conduire à de grandes avancées dans l’utilisation de l’IA par les plateformes de médias sociaux. Et même si de tels systèmes ne seront probablement jamais aussi bons que les humains pour détecter les nuances et le sens, nous pourrions bientôt être soumis à une modération beaucoup plus automatisée dans nos publications.

Et pour les requêtes générales, peut-être que des freins et contrepoids supplémentaires comme Shepherd aideront également à affiner les résultats fournis, ou cela aidera les développeurs à créer de meilleurs modèles pour répondre à la demande.

En fin de compte, la poussée verra ces outils devenir plus intelligents et mieux comprendre chacune de nos requêtes. Ainsi, alors que l’IA générative est impressionnante dans ce qu’elle peut fournir maintenant, elle se rapproche d’être plus fiable en tant qu’outil d’assistance, et probablement une plus grande partie de votre flux de travail aussi.

Vous pouvez en savoir plus sur le système Shepherd de Meta ici.

author avatar
Erwan
Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.
Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.