OpenChatKit, une alternative open-source à ChatGPT a été publiée

Together a récemment annoncé la sortie de OpenChatKit, un chatbot open source conçu pour permettre la création de chatbots spécialisés et génériques pour diverses applications. En collaboration avec LAION et Ontocord, OpenChatKit est basé sur un jeu de données d'entraînement de haute qualité, qui permet d'obtenir des modèles de chatbots performants.

Une alternative open source

OpenChatKit est bien plus qu'une simple sortie de modèle. Il s'agit d'un projet open source dont les outils et les processus seront en constante amélioration grâce aux contributions de la communauté.

Together croit que les modèles open source sont plus inclusifs, transparents, robustes et capables. OpenChatKit est donc publié sous licence Apache-2.0, offrant un accès complet au code source, aux poids de modèle et aux jeux de données d'entraînement. Il s'agit d'un projet communautaire et Together est impatient de voir comment il se développera au fil du temps.

Ce que comprend OpenChatKit

Pour être efficace, un chatbot doit être capable de comprendre les instructions en langage naturel, de maintenir le contexte dans les dialogues et de modérer les réponses. OpenChatKit fournit un chatbot de base ainsi que les blocs de construction pour créer des chatbots spécialisés.

Le kit comprend quatre composants clés :

• Un grand modèle de langue adapté aux instructions, fine-tuné pour le chatbot à partir de GPT-NeoX-20B d'EleutherAI, avec plus de 43 millions d'instructions sur un calcul 100% neutre en carbone.
• Des recettes de personnalisation pour affiner le modèle et améliorer la précision des tâches spécifiques.
• Un système de récupération extensible permettant de compléter les réponses du chatbot avec des informations issues d'une base de données de documents, d'une API ou d'une autre source d'information en temps réel.
• Un modèle de modération, fine-tuné à partir de GPT-JT-6B, conçu pour filtrer les questions auxquelles le chatbot doit répondre.

Des outils pour la communauté

OpenChatKit inclut également des outils qui permettent aux utilisateurs de fournir des commentaires et aux membres de la communauté d'ajouter de nouveaux ensembles de données d'entraînement, contribuant ainsi à un corpus croissant de données d'entraînement ouvertes qui amélioreront les modèles de langue au fil du temps.

Source : Blog de Together