Inflection annonce un nouveau modèle d'apprentissage en profondeur : Inflection-1

La startup d'intelligence artificielle Inflection a annoncé le développement d'un nouveau modèle d'apprentissage en profondeur, appelé Inflection-1. Ce modèle est destiné à alimenter Pi.ai, l'IA personnelle créée par Inflection, conçue pour être empathique, utile et sûre.

Qu'est-ce qu'Inflection-1 ?

Inflection-1 est un modèle de langue de pointe (LLM) créé en interne par Inflection. La société est convaincue que la phase de pré-formation est tout aussi importante que l'ajustement fin pour créer une expérience AI de haute qualité, sûre et utile. Pour cette raison, elle a entrepris de développer ses propres LLMs de pointe.

Afin d'offrir aux utilisateurs une excellente qualité et une vitesse optimale, Inflection avait besoin de développer un modèle capable d'être à la fois évolutif en production et plus performant que les LLMs largement déployés tels que GPT-3.5 et LLaMA. Et c'est ce qu'elle a accompli avec Inflection-1.

Ce modèle a été formé en utilisant des milliers de GPU NVIDIA H100 sur un très large ensemble de données. L'équipe d'Inflection a pu tirer parti de son pipeline de bout en bout pour développer plusieurs avancées techniques propriétaires qui ont rendu possible ces résultats.

Comment Inflection-1 se compare-t-il aux autres LLMs ?

Selon un récent mémo technique publié par Inflection, Inflection-1 est le meilleur modèle dans sa catégorie de calcul, surpassant GPT-3.5, LLaMA, Chinchilla, et PaLM-540B sur un large éventail de benchmarks couramment utilisés pour comparer les LLMs.

En ce qui concerne le benchmark MMLU (Massive Multitask Language Understanding), qui teste un large éventail de connaissances académiques, Inflection-1 se distingue comme le modèle le plus performant dans sa catégorie, surpassant Meta's LLaMA, OpenAI's GPT 3.5, et Google's PaLM 540B.

Inflection-1 atteint 72,7% en moyenne sur les 57 tâches, avec une précision supérieure à 90% sur 5 tâches différentes. Sur 15 tâches, Inflection-1 atteint une précision supérieure à 85%. À titre de comparaison, un expert humain obtient en moyenne 89,8%, tandis qu'un évaluateur humain moyen obtient 34,5% en général.

Inflection-1 et les questions triviales

Sur TriviaQA et Natural Questions, deux benchmarks qui mesurent les capacités de réponse à des questions fermées d'un modèle de langue, Inflection-1 surpasse LLaMA, Chinchilla, et PaLM 540B, améliorant la performance de LLaMA sur TriviaQA de 2,1%. Sur Natural Questions, le modèle d'Inflection surpasse PaLM 540B de 8,6% et LLaMA de 6%. De fait, le modèle est compétitif avec le dernier modèle phare de Google, PaLM2-L.

Il convient de noter que les résultats présentés dans le mémo sont ceux du modèle de base Inflection-1 qui n'a subi aucun réglage fin ou alignement. Pi est alimenté par Inflection-1 qui a été encore transformé grâce à un processus d'adaptation propriétaire pour devenir une IA personnelle utile et sûre.

Pour plus de détails, vous pouvez consulter le mémo technique d'Inflection. Si vous êtes intéressé par la formation de modèles de base de classe mondiale et leur intégration dans une nouvelle génération de produits, n'hésitez pas à rejoindre Inflection dans sa mission.