Cómo creamos Hyve, un chatbot de IA para WordPress: la primera versión ahora es gratuita

Durante los últimos meses, hemos estado experimentando con IA para crear herramientas innovadoras para WordPress. Uno de nuestros proyectos recientes, QuickWP, un creador de sitios de WordPress impulsado por inteligencia artificial, fue uno de esos proyectos. Aprovechando lo que aprendimos mientras creamos QuickWP, estamos emocionados de presentar algo totalmente nuevo, ¡pero relacionado!

En esta publicación, quiero contarles todo sobre Hyve, un chatbot de IA para WordPress. Hyve aprovecha su contenido de WordPress para responder a las consultas de los usuarios de manera inteligente, brindando respuestas precisas y contextuales directamente desde los materiales existentes en su sitio. Bien, eso es un bocado, así que analicémoslo:

En una frase, Hyve trabaja con su contenido existente, lo utiliza como su base de conocimientos y responde a las preguntas de los usuarios basándose en los datos proporcionados.

Lanzamos la versión inicial de Hyve a finales de abril y, desde entonces, hemos escuchado muchos comentarios de nuestros usuarios para mejorar el complemento y abordar cualquier posible problema y hacerlo más utilizable para nuestros usuarios en la versión 1.1. Hoy, nos complace anunciar que haremos que Hyve 1.0.3 sea de uso gratuito para todos nuestros usuarios. Hyve es de código abierto y tiene licencia GPLv3.

Pero primero, empecemos desde el principio:

¿Qué es Hyve?

Nuevamente, en términos simples, Hyve es un chatbot de IA para WordPress que utiliza las API de OpenAI en combinación con los datos de su sitio para responder las preguntas de sus usuarios. Puede capacitar a Hyve sobre el contenido de su sitio web y utilizará esa información para brindar respuestas precisas y relevantes. Con Hyve, puede aprovechar sus publicaciones, páginas e incluso datos personalizados como fuente de conocimiento, a lo que nos referimos como Base de conocimiento.

Todos los datos permanecen en su cuenta de WordPress y OpenAI. No necesita conectarse a ningún servicio adicional para utilizar Hyve. Para la actualización de la versión 1.1, creamos este video para brindarles a nuestros usuarios un recorrido por Hyve:

Además de la base de conocimientos, también tienes más opciones para personalizar tu chatbot y saber qué preguntas hacen tus usuarios que quedan sin respuesta. Esta función le ayuda a asegurarse de agregar las preguntas correctas a su base de conocimientos.

Un proyecto de hackathon fallido

Déjame contarte la historia de cómo nació Hyve.

No es la historia que pediste, pero al menos es la historia que necesitabas.

En marzo de 2023, apenas unos meses después del lanzamiento de ChatGPT y los proyectos de inteligencia artificial se estaban apoderando de Twitter (sí, todavía se llamaba Twitter en marzo de 2023); Decidimos organizar un hackathon remoto de dos días en la empresa centrado en la IA.

Un desarrollador eligió un proyecto para crear un chatbot de IA para WordPress utilizando API de OpenAI y datos extraídos de documentos de la empresa. Para su frustración, tuvo dificultades con la tarea y, finalmente, el proyecto fracasó.

En este punto, debo señalar que yo fui el desarrollador.

En caso de que esté interesado, terminé enviando un creador automático de comentarios spam de última hora usando OpenAI que tenía apenas 50 líneas de código.

Si bien la idea desapareció después de ese hackathon, el equipo la discutió a principios de este año y esta vez investigamos y preparamos más antes de escribir la primera línea de código. Y así nació Hyve.

Entonces, ¿por qué falló la primera vez y no la segunda?

Ingeniería rápida, RAG y puesta a punto

La ingeniería rápida, la generación aumentada de recuperación (RAG) y el ajuste fino son técnicas utilizadas en el desarrollo de herramientas de inteligencia artificial. Cuando se utiliza correctamente, cada uno de estos métodos mejora significativamente la precisión, la relevancia y el rendimiento general.

Pero también es importante saber exactamente cuándo no utilizarlos. La primera vez que participamos en el proyecto hackathon, nosotros (o más específicamente, yo) cometimos el error de pensar que la respuesta era el ajuste.

Como novato, entendí que el ajuste era la forma de "entrenar" un modelo de IA para realizar la tarea mostrándole cientos de ejemplos de cómo responder a cada pregunta. Pero estaba tan equivocado.

En teoría, el chatbot hizo exactamente aquello para lo que fue entrenado. Se tomó una pregunta del usuario y se respondió con información en su mayoría incorrecta en el estilo de redacción y el tono de los documentos de nuestra empresa. Para explicar por qué, profundicemos rápidamente en el significado de todas estas técnicas:

Ingeniería rápida

Quizás la técnica más famosa que conocen todos los que trabajan con ChatGPT y otras herramientas de inteligencia artificial. Le damos a nuestro modelo de IA algunas instrucciones sobre qué hacer y especificamos cómo debe responder. Por ejemplo, podríamos darle una lista de datos de 20 correos electrónicos y pedirle que los resuma en una línea cada uno. Tomará los datos y responderá con algo como esto:

• El martes, Jeff le envió un correo electrónico sobre el envío de la impresión.
• El viernes recibiste deseos de cumpleaños de Jeff y Matt.
• …etcétera

Este enfoque es excelente para tareas simples cuando sabemos exactamente qué información darle a nuestra IA al hacer preguntas, pero falla cuando las tareas son mucho más complejas.

Recuperación-Generación Aumentada (RAG)

Como se mencionó, la ingeniería rápida es eficaz para tareas simples, pero puede tener dificultades con consultas más complejas. Aquí es donde entra en juego la Generación Aumentada de Recuperación (RAG). RAG mejora las capacidades de IA combinando métodos basados ​​en recuperación con modelos generativos. En lugar de depender únicamente del mensaje dado, RAG busca en una gran base de datos de documentos información relevante, que luego utiliza para generar una respuesta más precisa y contextualmente rica.

Por ejemplo, el usuario podría preguntar: "¿Ofrecen recorridos en bicicleta en Niza?" Con RAG, la IA primero recuperará los artículos relevantes para esta pregunta y luego basará su respuesta en la información proporcionada en esos artículos.

O imagine pedirle a la IA actualizaciones meteorológicas o precios de acciones. Todo ello requiere que obtenga información de acceso de alguna otra fuente.

Este enfoque es particularmente útil cuando se trata de grandes cantidades de datos o cuando la información requerida no se proporciona directamente en el mensaje inicial.

En Hyve, no podemos proporcionar todos los datos de la base de conocimientos con cada consulta. Sería demasiado poco práctico, por lo que debemos utilizar la técnica RAG para recopilar primero qué información es relevante para la consulta del usuario y luego pasarla a la IA junto con la pregunta del usuario.

Sintonia FINA

El ajuste implica tomar un modelo de IA previamente entrenado y entrenarlo más en un conjunto de datos específico para hacerlo más apto para tareas o dominios particulares. El ajuste fino se trata menos de decirle a la IA exactamente qué decir y más de ayudarla a comprender cómo responder.

Por ejemplo, considere el caso anterior de la sección de ingeniería rápida, donde la IA resume los correos electrónicos:

• El martes, Jeff le envió un correo electrónico sobre el envío de la impresión.
• El viernes recibiste deseos de cumpleaños de Jeff y Matt.

En este escenario, si la IA no estuviera afinada, podría producir respuestas que varíen en tono o formato, haciendo que los resúmenes sean inconsistentes o menos útiles para casos de uso particulares. El ajuste fino puede estandarizar las respuestas de la IA, asegurando que sigan un estilo y tono consistentes. Después de realizar ajustes, la IA podría proporcionar resúmenes más uniformes como este:

• El martes, Jeff le informó sobre el estado del envío de impresión.
• El viernes, tanto Jeff como Matt te enviaron felicitaciones de cumpleaños.

De manera similar, en el proyecto hackathon, el ajuste logró lo que se pretendía hacer. Si bien siempre respondió con una respuesta incorrecta, siempre respondió en el mismo formato y tono que usamos en los documentos de nuestra empresa. El ajuste funcionó bien; la culpa residía más en la técnica que elegimos para la tarea.

El ajuste, cuando se utiliza correctamente, puede ser una herramienta muy poderosa para crear modelos de IA para tareas muy específicas. De hecho, se puede entrenar en modelos de menor rango y aun así producir resultados mucho mejores que un modelo de mayor rango.

Elegir la técnica adecuada

Todas las técnicas mencionadas son muy útiles cuando se utilizan correctamente. Pero cuando se usan incorrectamente, también pueden empeorar las herramientas de inteligencia artificial para lograr lo que se propone hacer.

El ajuste fino no fue el enfoque correcto para nuestro proyecto de hackathon. Si nos hubiéramos limitado a realizar ingeniería rápida con RAG, los resultados habrían sido mucho mejores.

Como regla general, comience siempre con ingeniería rápida. Si hace exactamente lo que usted quiere que haga, entonces no necesita usar RAG ni realizar ajustes finos.

Si no produce el resultado que desea, vea si necesita más información contextual o si el formato/tono es consistente. En base a eso, se puede decidir si requiere RAG, ajuste fino o ambos.

Realmente recomiendo ver esta charla en la cuenta de YouTube de OpenAI si desea obtener más información sobre cómo elegir la técnica adecuada.

Cómo funciona Hyve

Ahora que hemos analizado algunas técnicas para crear herramientas de IA, exploremos cómo las usamos para desarrollar un chatbot de IA para WordPress.

OpenAI ofrece múltiples formas de crear IA conversacionales. Para este proyecto, elegimos la API del Asistente en lugar de la API de finalización del chat. Ambas API tienen sus ventajas y desventajas, pero preferimos la API Asistente porque permite a los usuarios ver fácilmente el historial de chat y mantener el contexto al tratar cada conversación como un hilo. Esto fue particularmente útil al crear QuickWP, por lo que decidimos seguir haciéndolo. Es posible que otros prefieran la API Chat Completions, y eso también está bien.

Con la API del Asistente, creamos un Asistente cuando el usuario conecta su cuenta OpenAI y configuramos el mensaje allí. De esta manera, no tenemos que enviar el mensaje con cada solicitud, ya que OpenAI lo gestiona.

Cuando los usuarios envían su consulta al chatbot, convertimos la pregunta en incrustaciones utilizando la API de incrustaciones de OpenAI y ejecutamos un algoritmo para compararlas con la base de conocimientos del sitio para obtener las coincidencias más cercanas. Luego enviamos la mejor coincidencia junto con la pregunta del usuario al Asistente, asegurando que la IA solo considere el contexto proporcionado al responder a la consulta.

Consideramos utilizar ajustes para mejorar la calidad de la respuesta, pero decidimos no hacerlo por ahora para simplificar las cosas para el usuario. Sin embargo, es posible que ajustemos un modelo en el futuro para garantizar que siga estrictamente las indicaciones según lo previsto. Por ahora, la ingeniería rápida funciona bastante bien sin añadir complejidad.

Y ahora Hyve v1.0 es gratis

Lanzamos Hyve en abril y, desde entonces, muchos clientes han brindado comentarios valiosos sobre cómo mejorar su funcionalidad. Basándonos en esto, el mes pasado lanzamos Hyve v1.1, que incluye funciones avanzadas como información detallada para los administradores del sitio sobre preguntas sin respuesta, mayores opciones de personalización para el Asistente y muchas otras mejoras.

Ahora, nos complace anunciar que Hyve v1.0.3 es gratuito para todos los usuarios que quieran probarlo. Esta versión es una versión única, lo que significa que no recibirá actualizaciones ni atención al cliente. Hyve v1.0.3 incluye todas las funciones de la versión original, junto con correcciones para todos los errores conocidos.

Al ofrecer esta versión gratuita, esperamos que más personas prueben Hyve, brindándonos comentarios e información adicional sobre diferentes casos de uso. Esto nos ayudará a continuar mejorando y retribuyendo a la comunidad.

Quién sabe, es posible que también te guste Hyve y decidas suscribirte para recibir actualizaciones. Si lo hace, simplemente ingrese la clave de licencia y comenzará a recibir actualizaciones.

También aprovechamos esta oportunidad para compartir con la comunidad nuestro viaje en la creación de un chatbot de IA para WordPress. Los creadores entre ustedes pueden encontrar algo útil o puede ayudarlos a explicar cómo funcionan los chatbots de IA en su interior.

Esperamos que pruebes Hyve y disfrutes usándolo tanto como nosotros disfrutamos creándolo. Si tiene algún problema para descargar/instalar Hyve o tiene alguna pregunta para nosotros, deje un comentario a continuación. Y nuevamente, puede descargar Hyve v1.0.3 haciendo clic en el enlace aquí. Y si desea consultar la última versión, puede encontrarla en la página del producto de Hyve.