Bagaimana Kami Membuat Hyve, AI Chatbot untuk WordPress – Versi Pertama Sekarang Gratis

Selama beberapa bulan terakhir, kami telah bereksperimen dengan AI untuk menciptakan alat inovatif untuk WordPress. Salah satu proyek terbaru kami, QuickWP, pembuat situs WordPress bertenaga AI, adalah salah satu proyek tersebut. Berdasarkan hal-hal yang kami pelajari saat membuat QuickWP, kami sangat bersemangat untuk memperkenalkan sesuatu yang benar-benar baru, namun terkait!

Dalam postingan kali ini, saya ingin memberi tahu Anda semua tentang Hyve, chatbot AI untuk WordPress. Hyve memanfaatkan konten WordPress Anda untuk menanggapi pertanyaan pengguna secara cerdas, memberikan jawaban yang akurat dan peka konteks langsung dari materi situs Anda yang ada. Oke, itu cukup banyak, jadi mari kita uraikan:

Singkatnya, Hyve bekerja dengan konten Anda yang ada, menggunakannya sebagai Basis Pengetahuannya, dan menjawab pertanyaan pengguna berdasarkan data yang diberikan.

Kami meluncurkan versi awal Hyve pada akhir bulan April, dan sejak itu, kami telah mendengarkan banyak masukan dari pengguna kami untuk meningkatkan plugin guna mengatasi segala kemungkinan masalah dan membuatnya lebih berguna bagi pengguna kami di versi 1.1. Hari ini, kami dengan gembira mengumumkan bahwa kami membuat Hyve 1.0.3 gratis untuk digunakan oleh semua pengguna kami. Hyve adalah sumber terbuka dan berlisensi GPLv3.

Tapi pertama-tama, mari kita mulai dari awal:

Apa itu Hyve?

Sekali lagi, secara sederhana, Hyve adalah chatbot AI untuk WordPress yang menggunakan API OpenAI yang dikombinasikan dengan data situs Anda untuk menjawab pertanyaan pengguna. Anda dapat melatih Hyve tentang konten situs web Anda, dan Hyve akan menggunakan informasi tersebut untuk memberikan respons yang akurat dan relevan. Dengan Hyve, Anda dapat memanfaatkan postingan, halaman, dan bahkan data khusus Anda sebagai sumber pengetahuan, yang kami sebut sebagai Basis Pengetahuan.

Semua data tetap ada di akun WordPress dan OpenAI Anda. Anda tidak perlu terhubung ke layanan tambahan apa pun untuk menggunakan Hyve. Untuk pembaruan versi 1.1, kami membuat video ini untuk memberikan panduan tentang Hyve kepada pengguna kami:

Selain Basis Pengetahuan, Anda juga memiliki lebih banyak opsi untuk menyesuaikan chatbot Anda dan mempelajari pertanyaan apa yang diajukan pengguna Anda yang belum terjawab. Fitur ini membantu Anda memastikan Anda menambahkan pertanyaan yang tepat ke Basis Pengetahuan Anda.

Proyek hackathon yang gagal

Izinkan saya menceritakan kisah bagaimana Hyve dilahirkan.

Ini bukan cerita yang Anda minta, namun cerita yang Anda butuhkan.

Pada bulan Maret 2023, hanya beberapa bulan setelah ChatGPT dirilis dan proyek AI mengambil alih Twitter (ya, masih disebut Twitter pada bulan Maret 2023); kami memutuskan untuk mengadakan hackathon jarak jauh selama dua hari di perusahaan yang berpusat pada AI.

Salah satu pengembang memilih proyek untuk membuat chatbot AI untuk WordPress menggunakan API OpenAI dan data yang diambil dari dokumen perusahaan. Yang membuatnya sangat frustrasi, dia berjuang dengan tugas tersebut, dan akhirnya, proyek tersebut gagal.

Pada titik ini, saya harus menunjukkan bahwa saya adalah pengembangnya.

Jika Anda tertarik, saya akhirnya mengirimkan pembuat komentar spam otomatis di menit-menit terakhir menggunakan OpenAI yang hanya terdiri dari 50 baris kode.

Meskipun idenya mereda setelah hackathon tersebut, tim mendiskusikannya awal tahun ini, dan kali ini, kami melakukan lebih banyak penelitian dan persiapan sebelum menulis baris kode pertama. Dan begitulah Hyve dilahirkan.

Jadi mengapa gagal pada kali pertama dan bukan pada kali kedua?

Rekayasa cepat, RAG, dan penyempurnaan

Rekayasa cepat, Retrieval-Augmented Generation (RAG), dan penyesuaian adalah teknik yang digunakan dalam pengembangan alat AI. Jika digunakan dengan benar, masing-masing metode ini secara signifikan meningkatkan akurasi, relevansi, dan kinerja secara keseluruhan.

Namun penting juga untuk mengetahui secara pasti kapan tidak menggunakannya. Pertama kali dalam proyek hackathon, kami (atau lebih khusus lagi, saya) membuat kesalahan dengan berpikir bahwa penyesuaian adalah jawabannya.

Sebagai seorang pemula, saya memahami bahwa penyesuaian adalah cara untuk "melatih" model AI untuk melakukan tugas dengan menunjukkan ratusan contoh cara merespons setiap pertanyaan. Tapi aku salah besar.

Secara teori, chatbot melakukan persis seperti yang telah dilatihnya. Dibutuhkan pertanyaan dari pengguna dan menjawab dengan beberapa informasi yang sebagian besar salah dalam gaya penulisan dan nada dokumen perusahaan kami. Untuk menjelaskan alasannya, mari kita selami arti dari semua teknik ini dengan cepat:

Rekayasa yang cepat

Mungkin teknik paling terkenal yang diketahui oleh semua orang yang bekerja dengan ChatGPT dan alat AI lainnya. Kami memberikan model AI kami beberapa instruksi tentang apa yang harus dilakukan dan menentukan bagaimana model tersebut harus merespons. Misalnya, kami mungkin memberikan daftar data dari 20 email dan memintanya untuk meringkasnya dalam satu baris masing-masing. Ini akan mengambil data dan membalas dengan sesuatu yang terdengar seperti ini:

• Pada hari Selasa, Jeff mengirimi Anda email tentang pengiriman pencetakan.
• Pada hari Jumat, Anda menerima ucapan selamat ulang tahun dari Jeff dan Matt.
• …dan seterusnya

Pendekatan ini sangat bagus untuk tugas-tugas sederhana ketika kita tahu persis informasi apa yang harus diberikan kepada AI ketika mengajukan pertanyaan, namun gagal ketika tugas-tugas jauh lebih kompleks.

Generasi Augmented Pengambilan (RAG)

Seperti disebutkan, rekayasa cepat efektif untuk tugas-tugas sederhana tetapi dapat kesulitan dengan pertanyaan yang lebih kompleks. Di sinilah Retrieval-Augmented Generation (RAG) berperan. RAG meningkatkan kemampuan AI dengan menggabungkan metode berbasis pengambilan dengan model generatif. Daripada hanya mengandalkan perintah yang diberikan, RAG menelusuri database dokumen yang besar untuk menemukan informasi yang relevan, yang kemudian digunakan untuk menghasilkan respons yang lebih akurat dan kaya konteks.

Misalnya, pengguna mungkin bertanya, “Apakah Anda menawarkan tur sepeda di Nice?” Dengan RAG, AI pertama-tama akan mengambil artikel yang relevan dengan pertanyaan ini dan kemudian mendasarkan jawabannya pada informasi yang diberikan dalam artikel tersebut.

Atau bayangkan meminta AI untuk mengetahui informasi terkini cuaca atau harga saham. Semua itu memerlukannya untuk mengambil informasi akses dari beberapa sumber lain.

Pendekatan ini sangat berguna ketika berhadapan dengan data dalam jumlah besar atau ketika informasi yang diperlukan tidak diberikan secara langsung pada perintah awal.

Di Hyve, kami tidak dapat menyediakan semua data dari Basis Pengetahuan dengan setiap kueri. Ini akan terlalu tidak praktis, jadi kita perlu menggunakan teknik RAG untuk terlebih dahulu mengumpulkan informasi apa yang relevan dengan permintaan pengguna dan kemudian meneruskannya ke AI bersama dengan pertanyaan pengguna.

Mencari setelan

Penyempurnaan melibatkan pengambilan model AI yang telah dilatih sebelumnya dan melatihnya lebih lanjut pada kumpulan data tertentu agar lebih mahir dalam tugas atau domain tertentu. Penyempurnaan bukan tentang memberi tahu AI apa yang harus dikatakan, namun lebih tentang membantunya memahami cara membalas.

Misalnya, pertimbangkan kasus sebelumnya dari bagian rekayasa cepat, di mana AI merangkum email:

• Pada hari Selasa, Jeff mengirimi Anda email tentang pengiriman pencetakan.
• Pada hari Jumat, Anda menerima ucapan selamat ulang tahun dari Jeff dan Matt.

Dalam skenario ini, jika AI tidak disempurnakan, AI mungkin akan menghasilkan respons yang bervariasi dalam nada atau format, sehingga membuat ringkasan menjadi tidak konsisten atau kurang berguna untuk kasus penggunaan tertentu. Penyempurnaan dapat menstandardisasi respons AI, memastikan respons tersebut mengikuti gaya dan nada yang konsisten. Setelah penyesuaian, AI mungkin memberikan ringkasan yang lebih seragam seperti ini:

• Pada hari Selasa, Jeff memberi tahu Anda tentang status pengiriman pencetakan.
• Pada hari Jumat, Jeff dan Matt mengirimi Anda ucapan selamat ulang tahun.

Demikian pula, dalam proyek hackathon, penyesuaian mencapai apa yang diharapkan. Meskipun selalu menjawab dengan jawaban yang salah, selalu menjawab dalam format dan nada yang sama seperti yang kami gunakan di dokumen perusahaan kami. Penyempurnaan bekerja dengan baik; kesalahannya lebih terletak pada teknik yang kami pilih untuk tugas tersebut.

Penyempurnaan, bila digunakan dengan benar, dapat menjadi alat yang sangat ampuh untuk membangun model AI untuk tugas yang sangat spesifik. Faktanya, model ini dapat dilatih pada model berperingkat lebih rendah namun memberikan hasil yang jauh lebih baik daripada model berperingkat lebih tinggi.

Memilih teknik yang tepat

Semua teknik yang disebutkan sangat berguna bila digunakan dengan benar. Namun jika digunakan secara salah, hal tersebut dapat membuat alat AI Anda menjadi lebih buruk dalam mencapai tujuan yang ingin dicapai.

Penyempurnaan bukanlah pendekatan yang tepat untuk proyek hackathon kami. Jika kita membatasi diri pada rekayasa cepat dengan RAG, hasilnya akan jauh lebih baik.

Sebagai aturan praktis, selalu mulai dengan rekayasa yang cepat saja. Jika ia melakukan persis seperti yang Anda inginkan, maka Anda tidak perlu menggunakan RAG atau fine-tuning.

Jika tidak memberikan hasil yang Anda inginkan, lihat apakah memerlukan lebih banyak informasi kontekstual atau apakah format/nadanya konsisten. Berdasarkan hal tersebut, dapat diputuskan apakah memerlukan RAG, fine-tuning, atau keduanya.

Saya sangat merekomendasikan menonton pembicaraan ini di akun YouTube OpenAI jika Anda ingin mempelajari lebih lanjut tentang memilih teknik yang tepat.

Bagaimana Hyve bekerja

Sekarang kita telah membahas beberapa teknik untuk membuat alat AI, mari kita jelajahi bagaimana kami menggunakannya dalam mengembangkan chatbot AI untuk WordPress.

OpenAI menawarkan berbagai cara untuk membangun AI percakapan. Untuk proyek ini, kami memilih API Asisten daripada API Penyelesaian Obrolan. Kedua API memiliki kelebihan dan kekurangannya masing-masing, namun kami lebih memilih API Asisten karena memungkinkan pengguna melihat riwayat obrolan dengan mudah dan menjaga konteks dengan memperlakukan setiap percakapan sebagai rangkaian pesan. Ini sangat berguna ketika membangun QuickWP, jadi kami memutuskan untuk tetap menggunakannya. Orang lain mungkin lebih menyukai API Penyelesaian Obrolan, dan itu juga tidak masalah.

Dengan API Asisten, kami membuat Asisten saat pengguna menghubungkan akun OpenAI mereka dan menyiapkan perintah di sana. Dengan cara ini, kita tidak perlu mengirimkan prompt pada setiap permintaan, karena OpenAI yang mengelolanya.

Saat pengguna mengirimkan kueri mereka ke chatbot, kami mengubah pertanyaan menjadi penyematan menggunakan API Embeddings OpenAI, dan menjalankan algoritme untuk membandingkannya dengan basis pengetahuan situs untuk mendapatkan kecocokan terdekat. Kami kemudian mengirimkan kecocokan teratas bersama dengan pertanyaan pengguna ke Asisten, memastikan AI hanya mempertimbangkan konteks yang diberikan saat merespons kueri.

Kami mempertimbangkan untuk menggunakan penyesuaian untuk meningkatkan kualitas respons, namun kami memutuskan untuk tidak melakukannya saat ini demi menjaga kemudahan bagi pengguna. Namun, kami mungkin menyempurnakan model di masa mendatang untuk memastikan model tersebut benar-benar mengikuti petunjuk sebagaimana dimaksud. Untuk saat ini, rekayasa cepat berfungsi cukup baik tanpa menambah kerumitan.

Dan sekarang Hyve v1.0 gratis

Kami merilis Hyve pada bulan April, dan sejak itu, banyak pelanggan telah memberikan masukan berharga tentang cara meningkatkan fungsinya. Berdasarkan hal tersebut, bulan lalu, kami meluncurkan Hyve v1.1, yang mencakup fitur-fitur canggih seperti wawasan mendetail untuk admin situs tentang pertanyaan yang belum terjawab, opsi penyesuaian yang lebih baik untuk Asisten, dan banyak peningkatan lainnya.

Sekarang, kami dengan gembira mengumumkan bahwa Hyve v1.0.3 gratis untuk semua pengguna yang ingin mencobanya. Versi ini adalah rilis satu kali, artinya tidak akan menerima pembaruan atau dukungan pelanggan. Hyve v1.0.3 menyertakan semua fitur versi asli, bersama dengan perbaikan untuk semua bug yang diketahui.

Dengan menawarkan versi gratis ini, kami berharap lebih banyak orang akan mencoba Hyve, sehingga memberikan kami masukan dan wawasan tambahan tentang berbagai kasus penggunaan. Hal ini akan membantu kami untuk terus meningkatkan diri dan berkontribusi kembali kepada masyarakat.

Siapa tahu, Anda mungkin juga menyukai Hyve, dan memutuskan untuk berlangganan pembaruan. Jika ya, cukup masukkan kunci lisensi, dan Anda akan mulai menerima pembaruan.

Kami juga menggunakan kesempatan ini untuk berbagi perjalanan kami dalam membangun chatbot AI untuk WordPress dengan komunitas. Para pembuat di antara Anda mungkin menemukan sesuatu yang berguna, atau mungkin membantu Anda menjelaskan cara kerja chatbot AI.

Kami harap Anda mencoba Hyve dan menikmati penggunaannya sama seperti kami menikmati pembuatannya. Jika Anda menghadapi masalah saat mengunduh/menginstal Hyve atau memiliki pertanyaan untuk kami, tinggalkan komentar di bawah. Dan sekali lagi, Anda dapat mendownload Hyve v1.0.3 dengan mengklik link di sini. Dan jika Anda ingin melihat versi terbarunya, Anda dapat menemukannya di halaman produk Hyve.