Как мы создали Hyve, чат-бота с искусственным интеллектом для WordPress — первая версия теперь бесплатна

Последние несколько месяцев мы экспериментировали с искусственным интеллектом, создавая инновационные инструменты для WordPress. Один из наших недавних проектов, QuickWP, конструктор сайтов WordPress на базе искусственного интеллекта, был одним из таких проектов. Опираясь на то, чему мы научились при создании QuickWP, мы рады представить что-то совершенно новое, но связанное с ним!

В этом посте я хочу рассказать вам все о Hyve, чат-боте с искусственным интеллектом для WordPress. Hyve использует ваш контент WordPress для разумного ответа на запросы пользователей, предоставляя точные и контекстно-зависимые ответы непосредственно из существующих материалов вашего сайта. Ладно, это слишком громко, так что давайте разберемся:

Короче говоря, Hyve работает с вашим существующим контентом, использует его в качестве своей базы знаний и отвечает на вопросы пользователей на основе предоставленных данных.

Мы запустили первоначальную версию Hyve в конце апреля и с тех пор прислушались к множеству отзывов наших пользователей, чтобы улучшить плагин, устранить любые возможные проблемы и сделать его более удобным для наших пользователей в версии 1.1. Сегодня мы рады сообщить, что делаем Hyve 1.0.3 бесплатным для всех наших пользователей. Hyve имеет открытый исходный код и распространяется под лицензией GPLv3.

Но сначала начнем с самого начала:

Что такое Хайв?

Опять же, проще говоря, Hyve — это чат-бот с искусственным интеллектом для WordPress, который использует API-интерфейсы OpenAI в сочетании с данными вашего сайта, чтобы отвечать на вопросы ваших пользователей. Вы можете обучить Hyve работе с содержимым вашего веб-сайта, и он будет использовать эту информацию для предоставления точных и релевантных ответов. С Hyve вы можете использовать свои публикации, страницы и даже пользовательские данные в качестве источника знаний, который мы называем Базой знаний.

Все данные остаются в вашей учетной записи WordPress и OpenAI. Чтобы использовать Hyve, вам не нужно подключаться к каким-либо дополнительным сервисам. Для обновления версии 1.1 мы создали это видео, чтобы дать нашим пользователям возможность ознакомиться с Hyve:

Помимо базы знаний, у вас также есть больше возможностей настроить своего чат-бота и узнать, какие вопросы задают ваши пользователи, но остаются без ответа. Эта функция поможет вам убедиться, что вы добавляете правильные вопросы в свою базу знаний.

Неудавшийся проект хакатона

Позвольте мне рассказать вам историю о том, как родился Хайв.

Это не та история, о которой вы просили, но тем не менее та история, которая вам нужна.

Еще в марте 2023 года, всего через несколько месяцев после выпуска ChatGPT, и проекты искусственного интеллекта захватили Twitter (да, в марте 2023 года он все еще назывался Twitter); мы решили провести в компании двухдневный удаленный хакатон, посвященный искусственному интеллекту.

Один разработчик выбрал проект по созданию чат-бота с искусственным интеллектом для WordPress с использованием API-интерфейсов OpenAI и данных, взятых из документации компании. К его большому разочарованию, он с трудом справился с задачей, и в конечном итоге проект провалился.

Здесь я должен отметить, что я был разработчиком.

Если вам интересно, я в последнюю минуту отправил автоматический создатель спам-комментариев с использованием OpenAI, который содержал всего 50 строк кода.

Хотя после хакатона эта идея угасла, команда обсуждала ее ранее в этом году, и на этот раз мы провели дополнительные исследования и подготовку перед написанием первой строки кода. Так родился Хайв.

Так почему же это не удалось в первый раз, а не во второй?

Оперативное проектирование, RAG и тонкая настройка

Быстрое проектирование, поисково-дополненная генерация (RAG) и точная настройка — это методы, используемые при разработке инструментов искусственного интеллекта. При правильном использовании каждый из этих методов значительно повышает точность, актуальность и общую производительность.

Но также важно точно знать, когда их не следует использовать. Впервые в рамках проекта хакатона мы (точнее, я) допустили ошибку, полагая, что ответом будет тонкая настройка.

Будучи новичком, я понимал, что точная настройка — это способ «обучить» модель ИИ выполнению задачи, показывая ей сотни примеров того, как отвечать на каждый вопрос. Но я был так неправ.

Теоретически чат-бот делал именно то, чему его учили. Он ответил на вопрос пользователя и ответил, в основном, неверной информацией в стиле и тоне документации нашей компании. Чтобы объяснить почему, давайте быстро углубимся в значение всех этих техник:

Оперативное проектирование

Пожалуй, самый известный прием, о котором знают все, кто работает с ChatGPT и другими инструментами искусственного интеллекта. Мы даем нашей модели ИИ несколько инструкций о том, что делать, и указываем, как она должна реагировать. Например, мы можем предоставить ему список данных из 20 электронных писем и попросить суммировать их в одной строке каждое. Он возьмет данные и ответит примерно так:

• Во вторник Джефф написал вам по электронной почте о доставке печати.
• В пятницу вы получили поздравления с днем ​​рождения от Джеффа и Мэтта.
• …и так далее

Этот подход отлично подходит для простых задач, когда мы точно знаем, какую информацию предоставить нашему ИИ, задавая вопросы, но он не работает, когда задачи намного сложнее.

Поисково-дополненная генерация (RAG)

Как уже упоминалось, оперативное проектирование эффективно для простых задач, но может оказаться неэффективным при решении более сложных запросов. Именно здесь в игру вступает генерация с расширенным поиском (RAG). RAG расширяет возможности искусственного интеллекта, сочетая методы поиска с генеративными моделями. Вместо того, чтобы полагаться исключительно на заданную подсказку, RAG выполняет поиск в большой базе данных документов, чтобы найти соответствующую информацию, которую затем использует для создания более точного и контекстуально насыщенного ответа.

Например, пользователь может спросить: «Вы предлагаете велосипедные туры по Ницце?» С помощью RAG ИИ сначала получит статьи, относящиеся к этому вопросу, а затем будет основывать свой ответ на информации, представленной в этих статьях.

Или представьте, что вы просите у ИИ информацию о погоде или ценах на акции. Все это требует получения информации о доступе из какого-то другого источника.

Этот подход особенно полезен при работе с огромными объемами данных или когда необходимая информация не указана непосредственно в первоначальном приглашении.

В Hyve мы не можем предоставлять все данные из Базы знаний при каждом отдельном запросе. Это было бы слишком непрактично, поэтому нам нужно использовать технику RAG, чтобы сначала собрать информацию, соответствующую запросу пользователя, а затем передать ее ИИ вместе с вопросом пользователя.

Тонкая настройка

Точная настройка предполагает использование предварительно обученной модели ИИ и ее дальнейшее обучение на конкретном наборе данных, чтобы сделать ее более подходящей для конкретных задач или областей. Точная настройка заключается не столько в том, чтобы сказать ИИ, что именно сказать, сколько в том, чтобы помочь ему понять, как ответить.

Например, рассмотрим более ранний случай из раздела быстрого проектирования, где ИИ суммирует электронные письма:

• Во вторник Джефф написал вам по электронной почте о доставке печати.
• В пятницу вы получили поздравления с днем ​​рождения от Джеффа и Мэтта.

В этом сценарии, если ИИ не был точно настроен, он может давать ответы, которые различаются по тону или формату, что делает сводные данные непоследовательными или менее полезными для конкретных случаев использования. Точная настройка может стандартизировать ответы ИИ, гарантируя, что они будут соответствовать единому стилю и тону. После тонкой настройки ИИ может предоставить более единообразные сводки, например:

• Во вторник Джефф сообщил вам о состоянии отгрузки печати.
• В пятницу Джефф и Мэтт поздравили тебя с днем ​​рождения.

Точно так же в проекте хакатона точная настройка достигла того, для чего она была предназначена. Хотя он всегда давал неправильный ответ, он всегда отвечал в том же формате и тоне, которые мы используем в документах нашей компании. Точная настройка сработала хорошо; Ошибка заключалась скорее в технике, которую мы выбрали для этой задачи.

Точная настройка при правильном использовании может стать очень мощным инструментом для построения моделей ИИ для очень конкретных задач. Фактически, его можно обучить на моделях более низкого ранга, и при этом он даст гораздо лучшие результаты, чем модель с более высоким рейтингом.

Выбор правильной техники

Все упомянутые методы очень полезны при правильном использовании. Но при неправильном использовании они могут также ухудшить работу ваших инструментов ИИ при выполнении того, для чего они предназначены.

Тонкая настройка не была правильным подходом для нашего проекта хакатона. Если бы мы ограничились оперативным проектированием с помощью RAG, результаты были бы намного лучше.

Как правило, всегда начинайте только с оперативного проектирования. Если он делает именно то, что вы хотите, вам не нужно использовать RAG или тонкую настройку.

Если он не дает желаемого результата, посмотрите, нужно ли ему больше контекстной информации или соответствует ли формат/тон. На основании этого можно решить, требуется ли RAG, точная настройка или и то, и другое.

Я очень рекомендую посмотреть этот доклад на YouTube-аккаунте OpenAI, если вы хотите узнать больше о выборе правильной техники.

Как работает Хайв

Теперь, когда мы обсудили некоторые методы создания инструментов искусственного интеллекта, давайте рассмотрим, как мы использовали их при разработке чат-бота с искусственным интеллектом для WordPress.

OpenAI предлагает несколько способов создания диалогового ИИ. Для этого проекта мы выбрали Assistant API вместо API Chat Completions. Оба API имеют свои плюсы и минусы, но мы предпочли API Assistant, поскольку он позволяет пользователям легко просматривать историю чата и поддерживать контекст, рассматривая каждый разговор как цепочку. Это было особенно полезно при создании QuickWP, поэтому мы решили придерживаться этого. Другие могут предпочесть API-интерфейс Chat Completions, и это тоже нормально.

С помощью Assistant API мы создаем помощника, когда пользователь подключает свою учетную запись OpenAI и настраивает там приглашение. Таким образом, нам не нужно отправлять приглашение с каждым запросом, поскольку этим управляет OpenAI.

Когда пользователи отправляют свой запрос чат-боту, мы преобразуем вопрос во встраивания с помощью API Embeddings API OpenAI и запускаем алгоритм для сравнения их с базой знаний сайта на предмет наиболее близких совпадений. Затем мы отправляем первое совпадение вместе с вопросом пользователя Ассистенту, гарантируя, что ИИ учитывает только предоставленный контекст при ответе на запрос.

Мы рассматривали возможность использования тонкой настройки для улучшения качества ответа, но на данный момент отказались от этого, чтобы упростить задачу для пользователя. Однако в будущем мы можем настроить модель, чтобы она точно соответствовала заданному запросу. На данный момент оперативное проектирование работает достаточно хорошо, не добавляя сложности.

И теперь Hyve v1.0 бесплатен

Мы выпустили Hyve в апреле, и с тех пор многие клиенты предоставили ценные отзывы о том, как улучшить его функциональность. Основываясь на этом, в прошлом месяце мы запустили Hyve v1.1, который включает в себя расширенные функции, такие как подробная информация для администраторов сайта по вопросам, оставшимся без ответа, расширенные возможности настройки Ассистента и множество других улучшений.

Теперь мы рады сообщить, что Hyve v1.0.3 бесплатен для всех пользователей, которые хотят его попробовать. Эта версия является разовым выпуском, то есть она не будет получать обновления или поддержку клиентов. Hyve v1.0.3 включает в себя все функции оригинальной версии, а также исправления всех известных ошибок.

Предлагая эту бесплатную версию, мы надеемся, что больше людей попробуют Hyve, предоставив нам дополнительные отзывы и информацию о различных вариантах использования. Это поможет нам продолжать совершенствоваться и приносить пользу сообществу.

Кто знает, возможно, вам тоже понравится Hyve, и вы решите подписаться на обновления. Если да, просто введите лицензионный ключ, и вы начнете получать обновления.

Мы также воспользовались этой возможностью, чтобы поделиться с сообществом своим опытом создания чат-бота с искусственным интеллектом для WordPress. Создатели среди вас могут найти что-то полезное или помочь вам объяснить, как работают чат-боты с искусственным интеллектом.

Мы надеемся, что вы попробуете Hyve и получите от его использования столько же удовольствия, сколько нам от его создания. Если у вас возникнут какие-либо проблемы с загрузкой/установкой Hyve или у вас есть вопросы к нам, оставьте комментарий ниже. И снова, вы можете скачать Hyve v1.0.3, перейдя по ссылке здесь. А если вы хотите ознакомиться с последней версией, вы можете найти ее на странице продукта Hyve.