Cum am creat Hyve, un chatbot AI pentru WordPress – Prima versiune acum gratuită

În ultimele luni, am experimentat cu AI pentru a crea instrumente inovatoare pentru WordPress. Unul dintre proiectele noastre recente, QuickWP, un constructor de site-uri WordPress bazat pe inteligență artificială, a fost un astfel de proiect. Bazându-ne pe lucrurile pe care le-am învățat în timpul realizării QuickWP, suntem încântați să prezentăm ceva cu totul nou, dar înrudit!

În această postare, vreau să vă spun totul despre Hyve, un chatbot AI pentru WordPress. Hyve folosește conținutul dvs. WordPress pentru a răspunde la întrebările utilizatorilor în mod inteligent, oferind răspunsuri precise și conștiente de context direct din materialele existente ale site-ului dvs. Bine, este o gură, așa că hai să o descompunem:

Într-o propoziție, Hyve lucrează cu conținutul dvs. existent, îl folosește ca bază de cunoștințe și răspunde la întrebările utilizatorilor pe baza datelor furnizate.

Am lansat versiunea inițială a Hyve la sfârșitul lunii aprilie și, de atunci, am ascultat o mulțime de feedback de la utilizatorii noștri pentru a îmbunătăți pluginul pentru a rezolva eventualele probleme și a-l face mai utilizabil pentru utilizatorii noștri în versiunea 1.1. Astăzi, suntem bucuroși să anunțăm că facem Hyve 1.0.3 gratuit pentru toți utilizatorii noștri. Hyve este open source și licențiat conform GPLv3.

Dar mai întâi, să începem de la început:

Ce este Hyve?

Din nou, în termeni simpli, Hyve este un chatbot AI pentru WordPress care utilizează API-urile OpenAI în combinație cu datele site-ului dvs. pentru a răspunde la întrebările utilizatorilor dvs. Puteți instrui Hyve cu privire la conținutul site-ului dvs. și va folosi aceste informații pentru a oferi răspunsuri corecte și relevante. Cu Hyve, vă puteți folosi postările, paginile și chiar datele personalizate ca sursă de cunoștințe, la care numim baza de cunoștințe.

Toate datele rămân în contul dvs. WordPress și OpenAI. Nu trebuie să vă conectați la niciun serviciu suplimentar pentru a utiliza Hyve. Pentru actualizarea versiunii 1.1, am creat acest videoclip pentru a oferi utilizatorilor noștri o prezentare a Hyve:

În afară de baza de cunoștințe, aveți și mai multe opțiuni pentru a vă personaliza chatbot-ul și pentru a afla ce întrebări le pun utilizatorii și care rămân fără răspuns. Această caracteristică vă ajută să vă asigurați că adăugați întrebările potrivite în baza de cunoștințe.

Un proiect hackathon eșuat

Permiteți-mi să vă spun povestea cum s-a născut Hyve.

Nu este povestea pe care ai cerut-o, ci povestea de care aveai nevoie, totuși.

În martie 2023, la doar câteva luni după ce ChatGPT a fost lansat și proiectele AI preiau Twitter (da, se numea încă Twitter în martie 2023); am decis să organizăm un hackathon de două zile la distanță în companie, centrat pe AI.

Un dezvoltator a ales un proiect pentru a crea un chatbot AI pentru WordPress folosind API-uri OpenAI și date eliminate din documentele companiei. Spre frustrarea lui, s-a luptat cu sarcina și, în cele din urmă, proiectul a eșuat.

În acest moment, ar trebui să subliniez că eu am fost dezvoltatorul.

În cazul în care sunteți interesat, am ajuns să trimit un generator automat de comentarii spam de ultimă oră folosind OpenAI, care avea abia 50 de linii de cod.

În timp ce ideea s-a stins după acel hackathon, echipa a discutat-o ​​la începutul acestui an și, de data aceasta, am făcut mai multe cercetări și pregătiri înainte de a scrie prima linie de cod. Și așa s-a născut Hyve.

Deci de ce a eșuat prima dată și nu a doua?

Inginerie promptă, RAG și reglare fină

Prompt engineering, Retrieval-Augmented Generation (RAG) și reglarea fină sunt tehnici utilizate în dezvoltarea instrumentelor AI. Când este utilizată corect, fiecare dintre aceste metode îmbunătățește semnificativ acuratețea, relevanța și performanța generală.

Dar este, de asemenea, important să știi exact când să nu le folosești. Prima dată pentru proiectul hackathon, noi (sau mai precis, eu) am făcut greșeala de a crede că reglarea fină a fost răspunsul.

Ca începător, am înțeles că reglarea fină era modalitatea de a „antrena” un model AI pentru a îndeplini sarcina, arătându-i sute de exemple despre cum să răspund la fiecare întrebare. Dar am greșit atât de mult.

În teorie, chatbot-ul a făcut exact ceea ce a fost antrenat. A fost nevoie de o întrebare din partea utilizatorului și a răspuns cu câteva informații în mare parte incorecte în stilul și tonul de scriere a documentelor companiei noastre. Pentru a explica de ce, haideți să ne aprofundăm rapid în sensul tuturor acestor tehnici:

Inginerie promptă

Poate cea mai faimoasă tehnică de care o cunosc toată lumea care lucrează cu ChatGPT și alte instrumente AI. Oferim modelului nostru AI câteva instrucțiuni despre ce să facem și specificăm cum ar trebui să răspundă. De exemplu, i-am putea oferi o listă de date din 20 de e-mailuri și i-am cere să le rezumă într-un rând fiecare. Va prelua datele și va răspunde cu ceva care sună astfel:

• Marți, Jeff ți-a trimis un e-mail despre transportul tipărit.
• Vineri, ai primit urări de ziua de naștere de la Jeff și Matt.
• …și așa mai departe

Această abordare este excelentă pentru sarcini simple când știm exact ce informații să oferim inteligenței noastre artificiale atunci când punem întrebări, dar eșuează atunci când sarcinile sunt mult mai complexe.

Recuperare-Augmented Generation (RAG)

După cum am menționat, inginerie promptă este eficientă pentru sarcini simple, dar se poate lupta cu interogări mai complexe. Aici intră în joc Retrieval-Augmented Generation (RAG). RAG îmbunătățește capacitățile AI prin combinarea metodelor bazate pe recuperare cu modele generative. În loc să se bazeze doar pe promptul dat, RAG caută într-o bază de date mare de documente pentru a găsi informații relevante, pe care apoi le folosește pentru a genera un răspuns mai precis și mai bogat din punct de vedere contextual.

De exemplu, utilizatorul ar putea întreba: „Oferiți tururi cu bicicleta în Nisa?” Cu RAG, AI va prelua mai întâi articolele relevante pentru această întrebare și apoi își va baza răspunsul pe informațiile furnizate în acele articole.

Sau imaginați-vă că cereți AI actualizări meteo sau prețuri acțiunilor. Toate necesită ca acesta să preia informații de acces dintr-o altă sursă.

Această abordare este deosebit de utilă atunci când aveți de-a face cu cantități mari de date sau când informațiile necesare nu sunt furnizate direct în promptul inițial.

În Hyve, nu putem furniza toate datele din baza de cunoștințe cu fiecare interogare. Ar fi prea nepractic, așa că trebuie să folosim tehnica RAG pentru a aduna mai întâi ce informații sunt relevante pentru interogarea utilizatorului și apoi le transmitem AI împreună cu întrebarea utilizatorului.

Reglaj fin

Reglarea fină implică luarea unui model AI pregătit în prealabil și instruirea lui în continuare pe un anumit set de date pentru a-l face mai abil pentru anumite sarcini sau domenii. Reglarea fină este mai puțin despre a spune AI exact ce să spună și mai mult despre a-l ajuta să înțeleagă cum să răspundă.

De exemplu, luați în considerare cazul anterior din secțiunea de inginerie promptă, în care AI rezumă e-mailurile:

• Marți, Jeff ți-a trimis un e-mail despre transportul tipărit.
• Vineri, ai primit urări de ziua de naștere de la Jeff și Matt.

În acest scenariu, dacă AI nu a fost reglat fin, ar putea produce răspunsuri care variază ca ton sau format, făcând rezumatele inconsecvente sau mai puțin utile pentru anumite cazuri de utilizare. Reglajul fin poate standardiza răspunsurile AI, asigurându-se că urmează un stil și un ton consecvent. După reglare fină, AI-ul poate oferi rezumate mai uniforme, cum ar fi:

• Marți, Jeff v-a informat despre starea expedierii tipărite.
• Vineri, atât Jeff, cât și Matt ți-au trimis felicitări de ziua de naștere.

În mod similar, în proiectul hackathon, reglarea fină a realizat ceea ce era intenționat să facă. Deși a răspuns întotdeauna cu un răspuns greșit, a răspuns întotdeauna în același format și ton pe care le folosim în documentele companiei noastre. Reglajul fin a funcționat bine; vina stă mai mult în tehnica pe care am ales-o pentru sarcină.

Reglarea fină, atunci când este utilizată corect, poate fi un instrument foarte puternic pentru construirea de modele AI pentru sarcini foarte specifice. De fapt, poate fi antrenat pe modele de rang inferior și totuși poate produce rezultate mult mai bune decât un model de rang superior.

Alegerea tehnicii potrivite

Toate tehnicile menționate sunt foarte utile atunci când sunt utilizate corect. Dar atunci când sunt folosite greșit, ele pot înrăutăți la fel de mult instrumentele tale AI în ceea ce privește realizarea a ceea ce se adresează.

Reglarea fină nu a fost abordarea potrivită pentru proiectul nostru de hackathon. Dacă ne-am fi limitat la inginerie promptă cu RAG, rezultatele ar fi fost mult mai bune.

Ca regulă generală, începeți întotdeauna doar cu inginerie promptă. Dacă face exact ceea ce doriți să facă, atunci nu trebuie să utilizați RAG sau reglaj fin.

Dacă nu produce rezultatul pe care doriți să îl producă, vedeți dacă are nevoie de mai multe informații contextuale sau dacă formatul/tonul este consecvent. Pe baza acestui lucru, se poate decide dacă necesită RAG, reglaj fin sau ambele.

Vă recomand cu adevărat să vizionați această discuție pe contul de YouTube al OpenAI dacă doriți să aflați mai multe despre alegerea tehnicii potrivite.

Cum funcționează Hyve

Acum că am discutat câteva tehnici pentru construirea de instrumente AI, haideți să explorăm cum le-am folosit în dezvoltarea unui chatbot AI pentru WordPress.

OpenAI oferă mai multe moduri de a construi IA conversaționale. Pentru acest proiect, am ales API-ul Asistent în locul API-ului Chat Completions. Ambele API-uri au avantajele și dezavantajele lor, dar am preferat API-ul Asistent, deoarece permite utilizatorilor să vadă cu ușurință istoricul chat-urilor și să mențină contextul tratând fiecare conversație ca pe un fir de discuție. Acest lucru a fost deosebit de util la construirea QuickWP, așa că am decis să rămânem cu el. Alții ar putea prefera API-ul Chat Completions și asta este bine.

Cu API-ul Asistent, creăm un Asistent atunci când utilizatorul își conectează contul OpenAI și configurează promptul acolo. În acest fel, nu trebuie să trimitem promptul cu fiecare solicitare, deoarece OpenAI îl gestionează.

Când utilizatorii își trimit interogarea către chatbot, convertim întrebarea în înglobări folosind API-ul Embeddings de la OpenAI și rulăm un algoritm pentru a le compara cu baza de cunoștințe a site-ului pentru cele mai apropiate potriviri. Apoi trimitem cea mai bună potrivire alături de întrebarea utilizatorului către Asistent, asigurându-ne că AI ia în considerare doar contextul furnizat atunci când răspunde la interogare.

Ne-am gândit să folosim reglajul fin pentru a îmbunătăți calitatea răspunsului, dar ne-am decis deocamdată pentru a menține lucrurile simple pentru utilizator. Cu toate acestea, este posibil să reglam un model în viitor pentru a ne asigura că urmează cu strictețe solicitarea așa cum a fost prevăzut. Deocamdată, inginerie promptă funcționează suficient de bine fără a adăuga complexitate.

Și acum Hyve v1.0 este gratuit

Am lansat Hyve în aprilie și, de atunci, mulți clienți au oferit feedback valoros despre cum să-i îmbunătățească funcționalitatea. Pe baza acestuia, luna trecută, am lansat Hyve v1.1, care include funcții avansate, cum ar fi informații detaliate pentru administratorii site-urilor cu privire la întrebările fără răspuns, opțiuni mai mari de personalizare pentru Asistent și numeroase alte îmbunătățiri.

Acum, suntem încântați să anunțăm că Hyve v1.0.3 este gratuit pentru toți utilizatorii care doresc să o încerce. Această versiune este o lansare unică, ceea ce înseamnă că nu va primi actualizări sau asistență pentru clienți. Hyve v1.0.3 include toate caracteristicile versiunii originale, împreună cu remedieri pentru toate erorile cunoscute.

Oferind această versiune gratuită, sperăm că mai mulți oameni vor încerca Hyve, oferindu-ne feedback și informații suplimentare despre diferite cazuri de utilizare. Acest lucru ne va ajuta să continuăm să ne îmbunătățim și să dăm înapoi comunității.

Cine știe, s-ar putea să-ți placă și Hyve și să decizi să te abonezi pentru actualizări. Dacă o faceți, introduceți pur și simplu cheia de licență și veți începe să primiți actualizări.

De asemenea, am folosit această oportunitate pentru a împărtăși comunității călătoria noastră de a construi un chatbot AI pentru WordPress. Creatorii dintre voi s-ar putea să găsească ceva util sau s-ar putea să vă ajute să explicați cum funcționează chatbot-urile AI sub capotă.

Sperăm să încerci Hyve și să-l folosești la fel de mult pe cât ne place nouă să-l construim. Dacă întâmpinați probleme la descărcarea/instalarea Hyve sau aveți întrebări pentru noi, lăsați un comentariu mai jos. Și din nou, puteți descărca Hyve v1.0.3 făcând clic pe linkul de aici. Și dacă doriți să verificați cea mai recentă versiune, o puteți găsi pe pagina produsului Hyve.