Come abbiamo creato Hyve, un chatbot AI per WordPress: la prima versione è ora gratuita

Negli ultimi mesi abbiamo sperimentato l'intelligenza artificiale per creare strumenti innovativi per WordPress. Uno dei nostri progetti recenti, QuickWP, un costruttore di siti WordPress basato sull'intelligenza artificiale, era uno di questi progetti. Basandoci sulle cose che abbiamo imparato durante la realizzazione di QuickWP, siamo entusiasti di introdurre qualcosa di totalmente nuovo, ma correlato!

In questo post voglio raccontarti tutto di Hyve, un chatbot AI per WordPress. Hyve sfrutta i tuoi contenuti WordPress per rispondere in modo intelligente alle richieste degli utenti, fornendo risposte accurate e sensibili al contesto direttamente dai materiali esistenti del tuo sito. Ok, è un boccone, quindi analizziamolo:

In una frase, Hyve lavora con il tuo contenuto esistente, lo utilizza come base di conoscenza e risponde alle domande degli utenti in base ai dati forniti.

Abbiamo lanciato la versione iniziale di Hyve alla fine di aprile e da allora abbiamo ascoltato molti feedback dei nostri utenti per migliorare il plug-in per risolvere eventuali problemi e renderlo più utilizzabile per i nostri utenti nella versione 1.1. Oggi siamo lieti di annunciare che renderemo Hyve 1.0.3 gratuito per tutti i nostri utenti. Hyve è open source e concesso in licenza con GPLv3.

Ma prima, cominciamo dall'inizio:

Cos'è Hyve?

Ancora una volta, in termini semplici, Hyve è un chatbot AI per WordPress che utilizza le API OpenAI in combinazione con i dati del tuo sito per rispondere alle domande dei tuoi utenti. Puoi addestrare Hyve sui contenuti del tuo sito web e utilizzerà tali informazioni per fornire risposte accurate e pertinenti. Con Hyve, puoi sfruttare i tuoi post, le tue pagine e persino i dati personalizzati come fonte di conoscenza, a cui ci riferiamo come Knowledge Base.

Tutti i dati rimangono nel tuo account WordPress e OpenAI. Non è necessario connettersi ad alcun servizio aggiuntivo per utilizzare Hyve. Per l'aggiornamento alla versione 1.1, abbiamo creato questo video per offrire ai nostri utenti una panoramica di Hyve:

Oltre alla Knowledge Base, hai anche più opzioni per personalizzare il tuo chatbot e scoprire quali domande fanno i tuoi utenti e rimangono senza risposta. Questa funzionalità ti aiuta ad assicurarti di aggiungere le domande giuste alla tua Knowledge Base.

Un progetto hackathon fallito

Lascia che ti racconti la storia di come è nato Hyve.

Non è la storia che avevi chiesto, ma la storia di cui avevi comunque bisogno.

Nel marzo 2023, solo pochi mesi dopo il rilascio di ChatGPT e i progetti di intelligenza artificiale stavano prendendo il sopravvento su Twitter (sì, si chiamava ancora Twitter nel marzo 2023); abbiamo deciso di organizzare un hackathon remoto di due giorni in azienda incentrato sull'intelligenza artificiale.

Uno sviluppatore ha scelto un progetto per creare un chatbot AI per WordPress utilizzando le API OpenAI e dati recuperati dai documenti aziendali. Con sua grande frustrazione, ha lottato con il compito e, alla fine, il progetto è fallito.

A questo punto, dovrei sottolineare che ero lo sviluppatore.

Nel caso tu sia interessato, ho finito per inviare un creatore automatico di commenti spam dell'ultimo minuto utilizzando OpenAI che conteneva appena 50 righe di codice.

Anche se l'idea si è placata dopo l'hackathon, il team ne ha discusso all'inizio di quest'anno e questa volta abbiamo svolto ulteriori ricerche e preparativi prima di scrivere la prima riga di codice. Ed è così che è nata Hyve.

Allora perché ha fallito la prima volta e non la seconda?

Ingegneria rapida, RAG e messa a punto

Prompt engineering, Retrieval-Augmented Generation (RAG) e fine tuning sono tecniche utilizzate nello sviluppo di strumenti di intelligenza artificiale. Se utilizzato correttamente, ciascuno di questi metodi migliora significativamente l’accuratezza, la pertinenza e le prestazioni complessive.

Ma è importante anche sapere esattamente quando non utilizzarli. La prima volta per il progetto hackathon, noi (o più specificamente, io) abbiamo commesso l'errore di pensare che la messa a punto fosse la risposta.

Da principiante, ho capito che la messa a punto era il modo per “addestrare” un modello di intelligenza artificiale a svolgere l’attività mostrandogli centinaia di esempi di come rispondere a ciascuna domanda. Ma mi sbagliavo così tanto.

In teoria, il chatbot ha fatto esattamente quello per cui è stato addestrato. Ha ricevuto una domanda da parte dell'utente e ha risposto con alcune informazioni per lo più errate nello stile di scrittura e nel tono dei nostri documenti aziendali. Per spiegare perché, immergiamoci rapidamente nel significato di tutte queste tecniche:

Ingegneria tempestiva

Forse la tecnica più famosa di cui sono a conoscenza tutti coloro che lavorano con ChatGPT e altri strumenti di intelligenza artificiale. Diamo al nostro modello di intelligenza artificiale alcune istruzioni su cosa fare e specifichiamo come dovrebbe rispondere. Ad esempio, potremmo fornirgli un elenco di dati provenienti da 20 email e chiedergli di riassumerli in una riga ciascuno. Prenderà i dati e risponderà con qualcosa del genere:

• Martedì, Jeff ti ha inviato un'e-mail riguardo alla spedizione della stampa.
• Venerdì hai ricevuto gli auguri di compleanno da Jeff e Matt.
• …e così via

Questo approccio è ottimo per compiti semplici quando sappiamo esattamente quali informazioni fornire alla nostra intelligenza artificiale quando poniamo domande, ma fallisce quando i compiti sono molto più complessi.

Generazione aumentata di recupero (RAG)

Come accennato, il prompt engineering è efficace per compiti semplici ma può avere difficoltà con query più complesse. È qui che entra in gioco la Retrieval-Augmented Generation (RAG). RAG migliora le capacità dell'intelligenza artificiale combinando metodi basati sul recupero con modelli generativi. Invece di fare affidamento esclusivamente sulla richiesta fornita, RAG ricerca in un ampio database di documenti per trovare informazioni rilevanti, che poi utilizza per generare una risposta più accurata e contestualmente ricca.

Ad esempio, l'utente potrebbe chiedere: "Offrite tour in bicicletta a Nizza?" Con RAG, l'IA recupererà prima gli articoli rilevanti per questa domanda e poi baserà la sua risposta sulle informazioni fornite in tali articoli.

Oppure immagina di chiedere all’IA aggiornamenti meteo o prezzi delle azioni. Tutto ciò richiede che recuperi le informazioni di accesso da qualche altra fonte.

Questo approccio è particolarmente utile quando si ha a che fare con grandi quantità di dati o quando le informazioni richieste non vengono fornite direttamente nel prompt iniziale.

In Hyve non possiamo fornire tutti i dati della Knowledge Base con ogni singola query. Sarebbe troppo poco pratico, quindi dobbiamo utilizzare la tecnica RAG per raccogliere prima le informazioni rilevanti per la query dell'utente e poi trasmetterle all'intelligenza artificiale insieme alla domanda dell'utente.

Ritocchi

La messa a punto implica prendere un modello di intelligenza artificiale pre-addestrato e addestrarlo ulteriormente su un set di dati specifico per renderlo più adatto a compiti o domini particolari. La messa a punto non consiste tanto nel dire all’IA esattamente cosa dire, quanto nell’aiutarla a capire come rispondere.

Ad esempio, considera il caso precedente della sezione di prompt engineering, in cui l'intelligenza artificiale riassume le e-mail:

• Martedì, Jeff ti ha inviato un'e-mail riguardo alla spedizione della stampa.
• Venerdì hai ricevuto gli auguri di compleanno da Jeff e Matt.

In questo scenario, se l'intelligenza artificiale non fosse ottimizzata, potrebbe produrre risposte che variano nel tono o nel formato, rendendo i riepiloghi incoerenti o meno utili per casi d'uso particolari. La messa a punto può standardizzare le risposte dell'IA, garantendo che seguano uno stile e un tono coerenti. Dopo la messa a punto, l'intelligenza artificiale potrebbe fornire riepiloghi più uniformi come questo:

• Martedì, Jeff ti ha informato sullo stato della spedizione della stampa.
• Venerdì, sia Jeff che Matt ti hanno inviato gli auguri di compleanno.

Allo stesso modo, nel progetto dell’hackathon, la messa a punto ha raggiunto lo scopo previsto. Sebbene rispondesse sempre con una risposta sbagliata, rispondeva sempre nello stesso formato e tono che utilizziamo nei nostri documenti aziendali. La messa a punto ha funzionato bene; la colpa risiede più nella tecnica che abbiamo scelto per il compito.

La messa a punto, se utilizzata correttamente, può essere uno strumento molto potente per costruire modelli di intelligenza artificiale per compiti molto specifici. Infatti, può essere addestrato su modelli di rango inferiore e tuttavia produrre risultati molto migliori rispetto a un modello di rango superiore.

Scegliere la tecnica giusta

Tutte le tecniche menzionate sono molto utili se utilizzate correttamente. Ma se usati in modo sbagliato, possono altrettanto peggiorare i tuoi strumenti di intelligenza artificiale nel realizzare ciò che si propone di fare.

La messa a punto non era l’approccio giusto per il nostro progetto hackathon. Se ci fossimo limitati al prompt engineering con RAG i risultati sarebbero stati decisamente migliori.

Come regola generale, iniziare sempre solo con la pronta ingegneria. Se fa esattamente quello che vuoi, non è necessario utilizzare RAG o regolazioni precise.

Se non produce il risultato che desideri, verifica se ha bisogno di più informazioni contestuali o se il formato/tono è coerente. Sulla base di ciò, si può decidere se richiede RAG, messa a punto o entrambi.

Consiglio vivamente di guardare questo discorso sull'account YouTube di OpenAI se vuoi saperne di più sulla scelta della tecnica giusta.

Come funziona Hyve

Ora che abbiamo discusso alcune tecniche per creare strumenti di intelligenza artificiale, esploriamo come le abbiamo utilizzate nello sviluppo di un chatbot AI per WordPress.

OpenAI offre diversi modi per creare IA conversazionali. Per questo progetto, abbiamo scelto l'API Assistant rispetto all'API Chat Completions. Entrambe le API hanno i loro pro e contro, ma abbiamo preferito l'API Assistant poiché consente agli utenti di visualizzare facilmente la cronologia della chat e mantenere il contesto trattando ogni conversazione come un thread. Ciò è stato particolarmente utile durante la creazione di QuickWP, quindi abbiamo deciso di mantenerlo. Altri potrebbero preferire l'API Chat Completions, e anche questo va bene.

Con l'API Assistant, creiamo un Assistente quando l'utente collega il proprio account OpenAI e imposta lì il prompt. In questo modo, non dobbiamo inviare il prompt con ogni richiesta, poiché è OpenAI a gestirlo.

Quando gli utenti inviano la loro query al chatbot, convertiamo la domanda in incorporamenti utilizzando l'API Embeddings di OpenAI ed eseguiamo un algoritmo per confrontarli con la knowledge base del sito per le corrispondenze più vicine. Inviamo quindi la corrispondenza migliore insieme alla domanda dell'utente all'Assistente, assicurandoci che l'IA consideri solo il contesto fornito quando risponde alla query.

Abbiamo considerato l'utilizzo della messa a punto per migliorare la qualità della risposta, ma per il momento abbiamo deciso di non farlo per mantenere le cose semplici per l'utente. Tuttavia, potremmo perfezionare un modello in futuro per garantire che segua rigorosamente la richiesta come previsto. Per ora, il prompt engineering funziona abbastanza bene senza aggiungere complessità.

E ora Hyve v1.0 è gratuito

Abbiamo rilasciato Hyve ad aprile e da allora molti clienti ci hanno fornito preziosi feedback su come migliorarne le funzionalità. Sulla base di ciò, il mese scorso abbiamo lanciato Hyve v1.1, che include funzionalità avanzate come approfondimenti dettagliati per gli amministratori del sito su domande senza risposta, maggiori opzioni di personalizzazione per l'Assistente e numerosi altri miglioramenti.

Ora siamo lieti di annunciare che Hyve v1.0.3 è gratuito per tutti gli utenti che desiderano provarlo. Questa versione è una versione una tantum, il che significa che non riceverà aggiornamenti o assistenza clienti. Hyve v1.0.3 include tutte le funzionalità della versione originale, insieme alle correzioni per tutti i bug noti.

Offrendo questa versione gratuita, speriamo che più persone proveranno Hyve, fornendoci ulteriori feedback e approfondimenti su diversi casi d'uso. Questo ci aiuterà a continuare a migliorare e a restituire qualcosa alla comunità.

Chissà, potresti amare anche Hyve e decidere di iscriverti per ricevere aggiornamenti. In tal caso, inserisci semplicemente la chiave di licenza e inizierai a ricevere gli aggiornamenti.

Abbiamo anche sfruttato questa opportunità per condividere con la community il nostro viaggio nella creazione di un chatbot AI per WordPress. I creatori tra voi potrebbero trovare qualcosa di utile o potrebbe aiutarvi a spiegare come funzionano i chatbot di intelligenza artificiale.

Ci auguriamo che tu provi Hyve e che ti diverta ad usarlo tanto quanto a noi piace costruirlo. Se riscontri problemi durante il download/installazione di Hyve o hai domande per noi, lascia un commento qui sotto. E ancora, puoi scaricare Hyve v1.0.3 facendo clic sul collegamento qui. E se vuoi dare un'occhiata all'ultima versione, puoi trovarla sulla pagina del prodotto di Hyve.