我們如何創建 Hyve,一個適用於 WordPress 的人工智慧聊天機器人 – 第一個版本現已免費
已發表: 2024-07-09在過去的幾個月裡,我們一直在嘗試使用人工智慧來為 WordPress 創建創新工具。 我們最近的專案之一 QuickWP(一個由人工智慧驅動的 WordPress 網站建立器)就是這樣的專案。 基於我們在製作 QuickWP 時學到的東西,我們很高興推出一些全新但相關的東西!
在這篇文章中,我想向您介紹 Hyve,這是一個適用於 WordPress 的人工智慧聊天機器人。 Hyve 利用您的 WordPress 內容聰明地回應使用者詢問,直接從您網站的現有資料提供準確且上下文相關的答案。 好吧,這有點拗口,所以我們來分解一下:
簡而言之,Hyve 使用您現有的內容,將其用作知識庫,並根據提供的數據回答使用者問題。
我們在 4 月底推出了 Hyve 的初始版本,從那時起,我們聽取了用戶的大量反饋,以改進插件以解決任何可能的問題,並使其在 1.1 版本中對用戶更可用。 今天,我們很高興地宣布,我們將向所有用戶免費使用 Hyve 1.0.3。 Hyve 是開源的,並根據 GPLv3 獲得許可。
👉 如果您想嘗試 Hyve,可以點擊此處的連結下載該外掛程式。
“但是有什麼問題呢?” 你可能會問。 在本文中,我將回答您的所有問題,分享創建 Hyve 的旅程,解釋我們為什麼要公開此版本等等。
但首先,讓我們從頭開始:
什麼是海維?
同樣,簡單來說,Hyve 是一個適用於 WordPress 的 AI 聊天機器人,它使用 OpenAI API 結合您網站的資料來回答使用者的問題。 您可以根據您網站的內容對 Hyve 進行培訓,它將使用該資訊來提供準確且相關的回應。 借助 Hyve,您可以利用您的貼文、頁面甚至自訂資料作為您的知識來源,我們稱之為知識庫。
所有資料都保留在您的 WordPress 和 OpenAI 帳戶中。 您無需連接到任何附加服務即可使用 Hyve。 對於 1.1 版本更新,我們建立了此影片來向使用者介紹 Hyve:
除了知識庫之外,您還可以使用更多選項來自訂聊天機器人並了解用戶提出的哪些問題未得到解答。 此功能可協助您確保將正確的問題新增至知識庫。
失敗的黑客松項目
讓我告訴您 Hyve 誕生的故事。
這不是您要求的故事,但卻是您需要的故事。
時間回到 2023 年 3 月,就在 ChatGPT 發布幾個月後,AI 專案正在接管 Twitter(是的,2023 年 3 月它仍然被稱為 Twitter); 我們決定在公司舉辦一場為期兩天的以人工智慧為主題的遠距黑客馬拉松。
一位開發人員選擇了一個項目,使用 OpenAI API 和從公司文件中刪除的資料為 WordPress 創建 AI 聊天機器人。 令他沮喪的是,他在這項任務上遇到了困難,最終該專案失敗了。
在這一點上,我應該指出我是開發人員。
如果您有興趣,我最終使用 OpenAI 提交了一個最後一刻的自動垃圾評論產生器,該程式碼僅有 50 行程式碼。
雖然這個想法在那次黑客馬拉松之後消失了,但團隊在今年早些時候討論了它,這一次,我們在編寫第一行程式碼之前做了更多的研究和準備。 Hyve 就這樣誕生了。
那為什麼第一次失敗而第二次卻失敗了呢?
快速工程、RAG 和微調
快速工程、檢索增強生成(RAG)和微調是人工智慧工具開發中使用的技術。 如果正確使用,這些方法中的每一種都可以顯著提高準確性、相關性和整體性能。
但確切知道何時不使用它們也很重要。 第一次參加黑客馬拉松計畫時,我們(或更具體地說,我)錯誤地認為微調就是答案。
作為一個新手,我明白微調是透過向人工智慧模型展示數百個如何回答每個問題的範例來「訓練」人工智慧模型來執行任務的方法。 但我錯了。
理論上,聊天機器人完全照訓練的要求去做。 它接受了用戶的提問,並以我們公司文件的寫作風格和語氣回答了一些大部分不正確的資訊。 為了解釋原因,讓我們快速深入了解所有這些技術的含義:
及時工程
也許使用 ChatGPT 和其他人工智慧工具的每個人都知道最著名的技術。 我們向人工智慧模型提供一些關於該做什麼的指令,並指定它應該如何回應。 例如,我們可以給它一個來自 20 封電子郵件的資料列表,並要求它每行總結它們。 它將獲取數據並回復如下內容:
- 週二,傑夫透過電子郵件向您發送了有關列印發貨的信息。
- 星期五,您收到了傑夫和馬特的生日祝福。
- …等等
當我們確切地知道在提問時要向人工智慧提供哪些資訊時,這種方法非常適合簡單的任務,但當任務複雜得多時,這種方法就會失敗。
檢索增強生成 (RAG)
如前所述,即時工程對於簡單任務非常有效,但對於更複雜的查詢可能會很困難。 這就是檢索增強生成(RAG)發揮作用的地方。 RAG 透過將基於檢索的方法與生成模型結合來增強 AI 功能。 RAG 不是僅依賴給定的提示,而是搜尋大型文件資料庫來尋找相關訊息,然後使用這些資訊產生更準確、更豐富的回應。
例如,用戶可能會問:“你們在尼斯提供自行車之旅嗎?” 透過 RAG,人工智慧將首先檢索與該問題相關的文章,然後根據這些文章中提供的資訊做出答案。
或者想像向人工智慧詢問天氣更新或股票價格。 所有這些都需要它從其他來源獲取存取資訊。
當處理大量資料或初始提示中未直接提供所需資訊時,此方法特別有用。
在 Hyve 中,我們無法為每個查詢提供知識庫中的所有資料。 這太不切實際了,所以我們需要使用RAG技術首先收集哪些資訊與用戶的查詢相關,然後將其與用戶的問題一起傳遞給AI。
微調
微調涉及採用預先訓練的人工智慧模型,並在特定資料集上對其進行進一步訓練,以使其更擅長特定任務或領域。 微調並不是告訴人工智慧到底要說什麼,而是幫助它理解如何回應。
例如,考慮提示工程部分的早期案例,其中人工智慧總結了電子郵件:
- 週二,傑夫透過電子郵件向您發送了有關列印發貨的信息。
- 星期五,您收到了傑夫和馬特的生日祝福。
在這種情況下,如果人工智慧沒有進行微調,它可能會產生語氣或格式不同的回應,使摘要不一致或對於特定用例不太有用。 微調可以標準化人工智慧的反應,確保它們遵循一致的風格和語氣。 經過微調後,人工智慧可能會提供更統一的摘要,如下所示:
- 週二,傑夫向您通報了印刷貨件的狀態。
- 星期五,傑夫和馬特都送上了生日祝福。
同樣,在黑客馬拉松專案中,微調也達到了預期目的。 雖然它總是回覆錯誤的答案,但它總是以我們在公司文件中使用的相同格式和語氣回應。 微調效果很好; 錯誤更多在於我們為任務所選擇的技術。
如果使用得當,微調可以成為為特定任務建立人工智慧模型的非常強大的工具。 事實上,它可以在較低排名的模型上進行訓練,但比較高排名的模型產生更好的結果。
選擇正確的技術
如果正確使用,所有提到的技術都非常有用。 但如果使用不當,它們也會讓你的人工智慧工具在完成其目標任務方面變得更糟。
對於我們的黑客馬拉松專案來說,微調並不是正確的方法。 如果我們限制自己使用 RAG 進行快速工程,結果會好得多。
根據經驗,始終從快速工程開始。 如果它完全按照您的要求執行,那麼您無需使用 RAG 或微調。
如果它沒有產生您想要的結果,請查看它是否需要更多上下文資訊或格式/語氣是否一致。 在此基礎上,可以決定是否需要 RAG、微調或兩者兼具。
如果您想了解有關選擇正確技術的更多信息,我強烈建議您在 OpenAI 的 YouTube 帳戶上觀看此演講。
Hyve 的工作原理
現在我們已經討論了建立 AI 工具的一些技術,讓我們探討如何使用這些技術為 WordPress 開發 AI 聊天機器人。
OpenAI 提供了多種建構對話式人工智慧的方法。 對於這個項目,我們選擇了 Assistant API 而不是 Chat Completions API。 這兩個 API 都有其優點和缺點,但我們更喜歡 Assistant API,因為它允許用戶輕鬆查看聊天歷史記錄並透過將每個對話視為一個線程來維護上下文。 這在建立 QuickWP 時特別有用,因此我們決定堅持使用它。 其他人可能更喜歡聊天完成 API,這也很好。
透過 Assistant API,當使用者連接其 OpenAI 帳戶並在那裡設定提示時,我們會建立 Assistant。 這樣,我們就不必為每個請求發送提示,因為 OpenAI 會對其進行管理。
當用戶將查詢發送到聊天機器人時,我們使用 OpenAI 的 Embeddings API 將問題轉換為嵌入,並運行演算法將它們與網站的知識庫進行比較以獲得最接近的匹配。 然後,我們將最匹配的內容與用戶的問題一起發送給助手,確保人工智慧在回應查詢時僅考慮提供的上下文。
我們考慮過使用微調來提高回應質量,但為了讓用戶保持簡單,我們暫時決定不這樣做。 但是,我們將來可能會對模型進行微調,以確保其嚴格遵循預期的提示。 目前,即時工程運作良好,不會增加複雜性。
現在 Hyve v1.0 是免費的
我們在四月發布了 Hyve,從那時起,許多客戶就如何增強其功能提供了寶貴的回饋。 在此基礎上,我們上個月推出了 Hyve v1.1,其中包括高級功能,例如為網站管理員提供有關未解答問題的詳細見解、為助理提供更多自訂選項以及許多其他改進。
現在,我們很高興地宣布 Hyve v1.0.3 對所有想要嘗試的用戶免費。 此版本是一次性版本,這意味著它不會收到更新或客戶支援。 Hyve v1.0.3 包含原始版本的所有功能,以及所有已知錯誤的修復。
透過提供這個免費版本,我們希望更多的人嘗試 Hyve,為我們提供更多回饋和對不同用例的見解。 這將有助於我們不斷改進並回饋社區。
誰知道呢,您可能也喜歡 Hyve,並決定訂閱更新。 如果您這樣做,只需輸入許可證密鑰,您就會開始接收更新。
我們也利用這個機會與社群分享了我們為 WordPress 建立 AI 聊天機器人的歷程。 你們中的創客可能會發現一些有用的東西,或者它可能會幫助你們解釋人工智慧聊天機器人是如何在幕後工作的。
我們希望您嘗試一下 Hyve,並享受使用它的樂趣,就像我們享受建造它一樣。 如果您在下載/安裝 Hyve 時遇到任何問題或對我們有任何疑問,請在下面發表評論。 同樣,您可以點擊此處的連結下載 Hyve v1.0.3。 如果您想查看最新版本,可以在 Hyve 的產品頁面上找到。