Comment nous avons créé Hyve, un chatbot IA pour WordPress – Première version désormais gratuite

Depuis quelques mois, nous expérimentons l’IA pour créer des outils innovants pour WordPress. L'un de nos projets récents, QuickWP, un constructeur de sites WordPress basé sur l'IA, était l'un de ces projets. En nous appuyant sur les choses que nous avons apprises lors de la création de QuickWP, nous sommes ravis de vous présenter quelque chose de totalement nouveau, mais lié !

Dans cet article, je veux tout vous dire sur Hyve, un chatbot IA pour WordPress. Hyve exploite votre contenu WordPress pour répondre intelligemment aux demandes des utilisateurs, en fournissant des réponses précises et contextuelles directement à partir des documents existants de votre site. D'accord, c'est une bouchée, alors décomposons-le :

En une phrase, Hyve travaille avec votre contenu existant, l'utilise comme base de connaissances et répond aux questions des utilisateurs en fonction des données fournies.

Nous avons lancé la version initiale de Hyve fin avril, et depuis lors, nous avons écouté de nombreux retours de nos utilisateurs pour améliorer le plugin afin de résoudre d'éventuels problèmes et le rendre plus utilisable pour nos utilisateurs dans la version 1.1. Aujourd'hui, nous sommes heureux d'annoncer que nous rendons Hyve 1.0.3 gratuit pour tous nos utilisateurs. Hyve est open source et sous licence GPLv3.

Mais d’abord, commençons par le début :

Qu’est-ce qu’Hyve ?

Encore une fois, en termes simples, Hyve est un chatbot IA pour WordPress qui utilise les API OpenAI en combinaison avec les données de votre site pour répondre aux questions de vos utilisateurs. Vous pouvez former Hyve sur le contenu de votre site Web, et il utilisera ces informations pour fournir des réponses précises et pertinentes. Avec Hyve, vous pouvez exploiter vos publications, vos pages et même vos données personnalisées comme source de connaissances, que nous appelons la base de connaissances.

Toutes les données restent dans votre compte WordPress et OpenAI. Vous n'avez pas besoin de vous connecter à des services supplémentaires pour utiliser Hyve. Pour la mise à jour de la version 1.1, nous avons créé cette vidéo pour donner à nos utilisateurs une présentation de Hyve :

Outre la base de connaissances, vous disposez également de davantage d'options pour personnaliser votre chatbot et découvrir les questions posées par vos utilisateurs et qui restent sans réponse. Cette fonctionnalité vous aide à vous assurer que vous ajoutez les bonnes questions à votre base de connaissances.

Un projet de hackathon raté

Laissez-moi vous raconter l'histoire de la naissance de Hyve.

Ce n’est pas l’histoire que vous avez demandée, mais néanmoins l’histoire dont vous aviez besoin.

En mars 2023, quelques mois seulement après la sortie de ChatGPT et la prise de contrôle de Twitter par des projets d’IA (oui, il s’appelait encore Twitter en mars 2023) ; nous avons décidé d'organiser un hackathon à distance de deux jours dans l'entreprise, centré sur l'IA.

Un développeur a choisi un projet visant à créer un chatbot IA pour WordPress à l’aide des API OpenAI et des données supprimées des documents de l’entreprise. À sa grande frustration, il a eu du mal à accomplir cette tâche et, finalement, le projet a échoué.

À ce stade, je dois souligner que j'étais le développeur.

Au cas où cela vous intéresserait, j'ai fini par soumettre un créateur automatique de commentaires de spam de dernière minute utilisant OpenAI qui comptait à peine 50 lignes de code.

Même si l'idée s'est éteinte après ce hackathon, l'équipe en a discuté plus tôt cette année, et cette fois, nous avons fait plus de recherches et de préparation avant d'écrire la première ligne de code. Et c'est ainsi qu'est né Hyve.

Alors pourquoi a-t-il échoué la première fois et pas la seconde ?

Ingénierie rapide, RAG et réglage fin

L'ingénierie rapide, la génération augmentée par récupération (RAG) et le réglage fin sont des techniques utilisées dans le développement d'outils d'IA. Lorsqu'elle est utilisée correctement, chacune de ces méthodes améliore considérablement la précision, la pertinence et les performances globales.

Mais il est également important de savoir exactement quand ne pas les utiliser. La première fois pour le projet hackathon, nous (ou plus précisément, moi) avons commis l’erreur de penser qu’un réglage fin était la réponse.

En tant que novice, j'ai compris que le réglage fin était le moyen de « former » un modèle d'IA à effectuer la tâche en lui montrant des centaines d'exemples sur la façon de répondre à chaque question. Mais j'avais tellement tort.

En théorie, le chatbot faisait exactement ce pour quoi il avait été formé. Il a répondu à une question de l'utilisateur avec des informations pour la plupart incorrectes dans le style d'écriture et le ton des documents de notre entreprise. Pour expliquer pourquoi, plongeons très rapidement dans le sens de toutes ces techniques :

Ingénierie rapide

Peut-être la technique la plus connue que connaissent tous ceux qui travaillent avec ChatGPT et d’autres outils d’IA. Nous donnons à notre modèle d’IA quelques instructions sur ce qu’il faut faire et spécifions comment il doit réagir. Par exemple, nous pourrions lui donner une liste de données provenant de 20 e-mails et lui demander de les résumer sur une ligne chacun. Il prendra les données et répondra avec quelque chose ressemblant à ceci :

• Mardi, Jeff vous a envoyé un e-mail concernant l'envoi d'impression.
• Vendredi, vous avez reçu les vœux d'anniversaire de Jeff et Matt.
• …et ainsi de suite

Cette approche est idéale pour les tâches simples lorsque nous savons exactement quelles informations donner à notre IA lorsque nous posons des questions, mais elle échoue lorsque les tâches sont beaucoup plus complexes.

Génération augmentée par récupération (RAG)

Comme mentionné précédemment, l’ingénierie rapide est efficace pour les tâches simples, mais peut s’avérer problématique pour les requêtes plus complexes. C’est là qu’intervient la génération de récupération augmentée (RAG). RAG améliore les capacités de l'IA en combinant des méthodes basées sur la récupération avec des modèles génératifs. Au lieu de s'appuyer uniquement sur l'invite donnée, RAG recherche dans une vaste base de données de documents pour trouver des informations pertinentes, qu'il utilise ensuite pour générer une réponse plus précise et plus riche en contexte.

Par exemple, l'utilisateur pourrait demander : « Proposez-vous des balades à vélo à Nice ? » Avec RAG, l’IA récupérera d’abord les articles pertinents à cette question, puis basera sa réponse sur les informations fournies dans ces articles.

Ou imaginez demander à l’IA des mises à jour météorologiques ou des cours boursiers. Tout cela nécessite qu'il récupère les informations d'accès à partir d'une autre source.

Cette approche est particulièrement utile lorsqu'il s'agit de grandes quantités de données ou lorsque les informations requises ne sont pas directement fournies dans l'invite initiale.

Chez Hyve, nous ne pouvons pas fournir toutes les données de la base de connaissances avec chaque requête. Ce serait trop peu pratique, nous devons donc utiliser la technique RAG pour d'abord rassembler les informations pertinentes pour la requête de l'utilisateur, puis les transmettre à l'IA avec la question de l'utilisateur.

Réglage fin

Le réglage fin implique de prendre un modèle d'IA pré-entraîné et de le former davantage sur un ensemble de données spécifique pour le rendre plus apte à des tâches ou des domaines particuliers. Le réglage fin consiste moins à dire à l’IA exactement quoi dire qu’à l’aider à comprendre comment répondre.

Par exemple, considérons le cas précédent de la section d'ingénierie des invites, où l'IA résume les e-mails :

• Mardi, Jeff vous a envoyé un e-mail concernant l'envoi d'impression.
• Vendredi, vous avez reçu les vœux d'anniversaire de Jeff et Matt.

Dans ce scénario, si l’IA n’était pas affinée, elle pourrait produire des réponses dont le ton ou le format varient, rendant les résumés incohérents ou moins utiles pour des cas d’utilisation particuliers. Un réglage précis peut normaliser les réponses de l'IA, en garantissant qu'elles suivent un style et un ton cohérents. Après un réglage fin, l'IA pourrait fournir des résumés plus uniformes comme celui-ci :

• Mardi, Jeff vous a informé de l'état de l'envoi d'impression.
• Vendredi, Jeff et Matt vous ont envoyé leurs vœux d'anniversaire.

De la même manière, dans le cadre du projet hackathon, la mise au point a permis d’atteindre l’objectif recherché. Même s'il répondait toujours par une mauvaise réponse, il répondait toujours dans le même format et le même ton que ceux que nous utilisons dans les documents de notre entreprise. Le réglage fin a bien fonctionné ; la faute résidait davantage dans la technique que nous avions choisie pour cette tâche.

Le réglage fin, lorsqu'il est utilisé correctement, peut être un outil très puissant pour créer des modèles d'IA pour des tâches très spécifiques. En fait, il peut être entraîné sur des modèles de rang inférieur tout en produisant de bien meilleurs résultats qu’un modèle de rang supérieur.

Choisir la bonne technique

Toutes les techniques mentionnées sont très utiles lorsqu’elles sont utilisées correctement. Mais lorsqu’ils sont mal utilisés, ils peuvent tout autant rendre vos outils d’IA moins efficaces dans l’accomplissement de ce qu’ils visent à faire.

La mise au point n’était pas la bonne approche pour notre projet de hackathon. Si nous nous étions limités à une ingénierie rapide avec RAG, les résultats auraient été bien meilleurs.

En règle générale, commencez toujours par une ingénierie rapide. S'il fait exactement ce que vous voulez, vous n'avez pas besoin d'utiliser RAG ou de réglage fin.

S'il ne produit pas le résultat souhaité, voyez s'il a besoin de plus d'informations contextuelles ou si le format/le ton est cohérent. Sur cette base, il peut être décidé si cela nécessite un RAG, un réglage fin ou les deux.

Je recommande vraiment de regarder cette conférence sur le compte YouTube d'OpenAI si vous souhaitez en savoir plus sur le choix de la bonne technique.

Comment fonctionne Hyve

Maintenant que nous avons discuté de certaines techniques de création d'outils d'IA, explorons comment nous les avons utilisées dans le développement d'un chatbot IA pour WordPress.

OpenAI offre plusieurs façons de créer des IA conversationnelles. Pour ce projet, nous avons choisi l'API Assistant plutôt que l'API Chat Completions. Les deux API ont leurs avantages et leurs inconvénients, mais nous avons préféré l'API Assistant car elle permet aux utilisateurs d'afficher facilement l'historique des discussions et de maintenir le contexte en traitant chaque conversation comme un fil de discussion. Cela s’est avéré particulièrement utile lors de la création de QuickWP, nous avons donc décidé de nous y tenir. D’autres pourraient préférer l’API Chat Completions, et c’est très bien aussi.

Avec l'API Assistant, nous créons un Assistant lorsque l'utilisateur connecte son compte OpenAI et y configurons l'invite. De cette façon, nous n'avons pas besoin d'envoyer l'invite à chaque requête, car OpenAI le gère.

Lorsque les utilisateurs envoient leur requête au chatbot, nous convertissons la question en intégrations à l'aide de l'API Embeddings d'OpenAI et exécutons un algorithme pour les comparer à la base de connaissances du site pour les correspondances les plus proches. Nous envoyons ensuite la meilleure correspondance avec la question de l'utilisateur à l'Assistant, garantissant ainsi que l'IA ne prend en compte que le contexte fourni lorsqu'elle répond à la requête.

Nous avons envisagé d'utiliser des réglages fins pour améliorer la qualité des réponses, mais nous avons décidé de ne pas le faire pour l'instant afin de simplifier les choses pour l'utilisateur. Cependant, nous pourrons affiner un modèle à l'avenir pour nous assurer qu'il suit strictement l'invite comme prévu. Pour l’instant, l’ingénierie rapide fonctionne assez bien sans ajouter de complexité.

Et maintenant Hyve v1.0 est gratuit

Nous avons lancé Hyve en avril et depuis lors, de nombreux clients ont fourni de précieux commentaires sur la manière d'améliorer ses fonctionnalités. Sur cette base, le mois dernier, nous avons lancé Hyve v1.1, qui inclut des fonctionnalités avancées telles que des informations détaillées pour les administrateurs de site sur les questions sans réponse, de plus grandes options de personnalisation pour l'Assistant et de nombreuses autres améliorations.

Nous sommes désormais ravis d'annoncer que Hyve v1.0.3 est gratuit pour tous les utilisateurs qui souhaitent l'essayer. Cette version est une version unique, ce qui signifie qu'elle ne recevra pas de mises à jour ni de support client. Hyve v1.0.3 inclut toutes les fonctionnalités de la version originale, ainsi que des correctifs pour tous les bugs connus.

En proposant cette version gratuite, nous espérons que davantage de personnes essaieront Hyve, nous fournissant ainsi des commentaires et des informations supplémentaires sur différents cas d'utilisation. Cela nous aidera à continuer à nous améliorer et à redonner à la communauté.

Qui sait, vous aimerez peut-être aussi Hyve et déciderez de vous abonner aux mises à jour. Si vous le faites, entrez simplement la clé de licence et vous commencerez à recevoir des mises à jour.

Nous avons également profité de cette opportunité pour partager notre parcours de création d’un chatbot IA pour WordPress avec la communauté. Les créateurs parmi vous pourraient trouver quelque chose d’utile, ou cela pourrait vous aider à expliquer comment les chatbots IA fonctionnent sous le capot.

Nous espérons que vous essayerez Hyve et que vous prendrez autant de plaisir à l’utiliser que nous aimons le construire. Si vous rencontrez des problèmes pour télécharger/installer Hyve ou si vous avez des questions à nous poser, laissez un commentaire ci-dessous. Et encore une fois, vous pouvez télécharger Hyve v1.0.3 en cliquant sur le lien ici. Et si vous souhaitez consulter la dernière version, vous pouvez la trouver sur la page produit de Hyve.