WordPress için Yapay Zeka Sohbet Robotu Hyve'ı Nasıl Oluşturduk – İlk Sürüm Artık Ücretsiz

Son birkaç aydır WordPress için yenilikçi araçlar oluşturmak amacıyla yapay zekayla denemeler yapıyoruz. Son projelerimizden biri olan AI destekli WordPress site oluşturucusu QuickWP böyle bir projeydi. QuickWP'yi hazırlarken öğrendiklerimize dayanarak, tamamen yeni ama alakalı bir şeyi tanıtmanın heyecanını yaşıyoruz!

Bu yazıda size WordPress için yapay zeka sohbet robotu Hyve hakkında her şeyi anlatmak istiyorum. Hyve, kullanıcı sorularına akıllıca yanıt vermek için WordPress içeriğinizden yararlanır ve doğrudan sitenizin mevcut materyallerinden doğru ve bağlama duyarlı yanıtlar sağlar. Tamam, bu bir ağız dolusu, o yüzden hadi parçalayalım:

Kısaca Hyve, mevcut içeriğinizle çalışır, onu Bilgi Tabanı olarak kullanır ve sağlanan verilere dayanarak kullanıcı sorularına yanıt verir.

Hyve'ın ilk sürümünü Nisan ayının sonunda piyasaya sürdük ve o zamandan bu yana eklentiyi olası sorunları çözecek şekilde geliştirmek ve 1.1 sürümünde kullanıcılarımız için daha kullanışlı hale getirmek için kullanıcılarımızdan çok sayıda geri bildirim dinledik. Bugün Hyve 1.0.3'ü tüm kullanıcılarımızın kullanımına ücretsiz hale getirdiğimizi duyurmaktan mutluluk duyuyoruz. Hyve açık kaynaklıdır ve GPLv3 kapsamında lisanslıdır.

Ama önce en baştan başlayalım:

Hyve nedir?

Yine basit bir ifadeyle Hyve, kullanıcılarınızın sorularını yanıtlamak için sitenizin verileriyle birlikte OpenAI API'lerini kullanan WordPress için bir AI sohbet robotudur. Hyve'ı web sitenizin içeriği konusunda eğitebilirsiniz; Hyve, bu bilgileri doğru ve alakalı yanıtlar sağlamak için kullanacaktır. Hyve ile gönderilerinizi, sayfalarınızı ve hatta özel verilerinizi Bilgi Bankası olarak adlandırdığımız bilgi kaynağınız olarak kullanabilirsiniz.

Tüm veriler WordPress ve OpenAI hesabınızda kalır. Hyve'ı kullanmak için herhangi bir ek hizmete bağlanmanıza gerek yoktur. 1.1 sürüm güncellemesi için, kullanıcılarımıza Hyve hakkında genel bilgi vermek amacıyla bu videoyu oluşturduk:

Bilgi Tabanının yanı sıra, sohbet robotunuzu özelleştirmek ve kullanıcılarınızın sorduğu hangi soruların yanıtsız kaldığını öğrenmek için daha fazla seçeneğiniz de vardır. Bu özellik, Bilgi Tabanınıza doğru soruları eklediğinizden emin olmanıza yardımcı olur.

Başarısız bir hackathon projesi

Size Hyve'ın nasıl doğduğunun hikayesini anlatayım.

İstediğiniz hikaye değil ama yine de ihtiyacınız olan hikaye bu.

Mart 2023'te, ChatGPT'nin yayınlanmasından ve yapay zeka projelerinin Twitter'ı devralmasından sadece birkaç ay sonra (evet, Mart 2023'te hâlâ Twitter olarak adlandırılıyordu); şirkette yapay zeka odaklı iki günlük bir uzaktan hackathon düzenlemeye karar verdik.

Bir geliştirici, OpenAI API'lerini ve şirket belgelerinden alınan verileri kullanarak WordPress için bir AI sohbet robotu oluşturma projesini seçti. Hayal kırıklığına uğrasa da bu görevle mücadele etti ve sonuçta proje başarısız oldu.

Bu noktada geliştiricinin ben olduğumu belirtmeliyim.

İlginizi çekerse, OpenAI kullanan ancak 50 satırlık koddan oluşan bir son dakika otomatik spam yorum oluşturucuyu gönderdim.

Bu hackathon'dan sonra fikir geçerliliğini kaybetmiş olsa da ekip bunu bu yılın başlarında tartıştı ve bu kez kodun ilk satırını yazmadan önce daha fazla araştırma ve hazırlık yaptık. Hyve böyle doğdu.

Peki neden ikincisinde değil de ilkinde başarısız oldu?

Hızlı mühendislik, RAG ve ince ayar

Hızlı mühendislik, Erişimle Artırılmış Üretim (RAG) ve ince ayar, yapay zeka araçlarının geliştirilmesinde kullanılan tekniklerdir. Doğru kullanıldığında bu yöntemlerin her biri doğruluğu, alakayı ve genel performansı önemli ölçüde artırır.

Ancak bunları tam olarak ne zaman kullanmamanız gerektiğini bilmek de önemlidir. Hackathon projesine ilk katıldığımızda, biz (ya da daha doğrusu ben) çözümün ince ayar olduğunu düşünme hatasına düştük.

Bir acemi olarak, ince ayarın, bir yapay zeka modelini görevi yerine getirecek şekilde, her soruya nasıl yanıt verileceğini gösteren yüzlerce örnek göstererek "eğitmenin" yolu olduğunu anladım. Ama çok yanılmışım.

Teorik olarak, chatbot tam olarak yapmak üzere eğitildiği şeyi yaptı. Kullanıcıdan bir soru aldı ve şirket dokümanlarımızın yazı stili ve üslubunda çoğunlukla hatalı bazı bilgilerle yanıt verdi. Nedenini açıklamak için tüm bu tekniklerin anlamlarına hızlıca dalalım:

Hızlı mühendislik

Belki de ChatGPT ve diğer yapay zeka araçlarıyla çalışan herkesin bildiği en ünlü teknik. Yapay zeka modelimize ne yapması gerektiği konusunda bazı talimatlar veriyoruz ve nasıl yanıt vermesi gerektiğini belirliyoruz. Örneğin, ona 20 e-postadan alınan verilerin bir listesini verebilir ve bunları bir satırda özetlemesini isteyebiliriz. Verileri alacak ve şuna benzer bir şeyle cevap verecektir:

• Salı günü Jeff size baskı sevkiyatı hakkında e-posta gönderdi.
• Cuma günü Jeff ve Matt'ten doğum günü dileklerini aldınız.
• …ve benzeri

Bu yaklaşım, soru sorarken yapay zekamıza tam olarak hangi bilgiyi vereceğimizi bildiğimiz basit görevler için harikadır, ancak görevler çok daha karmaşık olduğunda başarısız olur.

Alma-Artırılmış Nesil (RAG)

Bahsedildiği gibi, hızlı mühendislik basit görevler için etkilidir ancak daha karmaşık sorgularda zorlanabilir. Geri Almayla Artırılmış Üretimin (RAG) devreye girdiği yer burasıdır. RAG, erişime dayalı yöntemleri üretken modellerle birleştirerek yapay zeka yeteneklerini geliştirir. RAG, yalnızca verilen istemlere güvenmek yerine, ilgili bilgileri bulmak için geniş bir belge veritabanında arama yapar ve daha sonra bu bilgileri daha doğru ve bağlam açısından zengin bir yanıt oluşturmak için kullanır.

Örneğin kullanıcı şu soruyu sorabilir: "Nice'de bisiklet turu sunuyor musunuz?" RAG ile yapay zeka, önce bu soruyla ilgili makaleleri alacak ve ardından yanıtını bu makalelerde sağlanan bilgilere dayandıracak.

Veya yapay zekadan hava durumu güncellemelerini veya hisse senedi fiyatlarını istediğinizi hayal edin. Bunların tümü, erişim bilgilerinin başka bir kaynaktan alınmasını gerektirir.

Bu yaklaşım özellikle büyük miktarda veriyle uğraşırken veya gerekli bilgiler ilk bilgi isteminde doğrudan sağlanmadığında faydalıdır.

Hyve'da her sorguyla Bilgi Tabanındaki tüm verileri sağlayamayız. Bu çok pratik olmayacaktır, bu nedenle öncelikle kullanıcının sorgusuyla ilgili hangi bilgilerin toplanıp daha sonra kullanıcının sorusuyla birlikte yapay zekaya iletilmesi için RAG tekniğini kullanmamız gerekir.

İnce ayar

İnce ayar, önceden eğitilmiş bir yapay zeka modelinin alınmasını ve onu belirli görevlerde veya alanlarda daha usta hale getirmek için belirli bir veri kümesi üzerinde daha fazla eğitmeyi içerir. İnce ayar, yapay zekaya tam olarak ne söyleyeceğini söylemekten çok, nasıl yanıt vereceğini anlamasına yardımcı olmakla ilgilidir.

Örneğin, yapay zekanın e-postaları özetlediği hızlı mühendislik bölümündeki önceki durumu ele alalım:

• Salı günü Jeff size baskı sevkiyatı hakkında e-posta gönderdi.
• Cuma günü Jeff ve Matt'ten doğum günü dileklerini aldınız.

Bu senaryoda, yapay zekaya ince ayar yapılmadıysa ton veya format açısından farklılık gösteren yanıtlar üretebilir, bu da özetlerin tutarsız veya belirli kullanım durumları için daha az kullanışlı olmasına neden olabilir. İnce ayar, yapay zekanın yanıtlarını standartlaştırarak tutarlı bir stil ve üslup izlemelerini sağlayabilir. İnce ayardan sonra yapay zeka bunun gibi daha tekdüze özetler sağlayabilir:

• Salı günü Jeff sizi baskı sevkiyatının durumu hakkında bilgilendirdi.
• Cuma günü hem Jeff hem de Matt sana doğum günü tebrikleri gönderdiler.

Benzer şekilde hackathon projesinde ince ayar yapılması amaçlanan şeyi başardı. Her zaman yanlış cevap vermekle birlikte, şirket dokümanlarımızda kullandığımız format ve tonla cevap verdi. İnce ayar iyi çalıştı; hata daha çok görev için seçtiğimiz teknikte yatıyordu.

Doğru kullanıldığında ince ayar, çok özel görevlere yönelik yapay zeka modelleri oluşturmak için çok güçlü bir araç olabilir. Aslında, daha düşük dereceli modeller üzerinde eğitilebilir ve yine de daha yüksek dereceli bir modele göre çok daha iyi sonuçlar üretebilir.

Doğru tekniği seçmek

Bahsedilen tekniklerin tümü doğru kullanıldığında oldukça faydalıdır. Ancak yanlış kullanıldıklarında yapay zeka araçlarınızın hedeflediği şeyi başarma konusunda daha da kötüleşmesine neden olabilirler.

Hackathon projemiz için ince ayar yapmak doğru bir yaklaşım değildi. Kendimizi RAG ile hızlı mühendislik yapmakla sınırlasaydık sonuçlar çok daha iyi olurdu.

Genel bir kural olarak, her zaman yalnızca hızlı mühendislikle başlayın. Tam olarak yapmasını istediğiniz şeyi yapıyorsa RAG veya ince ayar kullanmanıza gerek yoktur.

Üretmesini istediğiniz sonucu üretmiyorsa, daha fazla bağlamsal bilgiye ihtiyaç duyup duymadığına veya format/tonun tutarlı olup olmadığına bakın. Buna dayanarak RAG mı, ince ayar mı yoksa her ikisini birden mi gerektireceğine karar verilebilir.

Doğru tekniği seçme konusunda daha fazla bilgi edinmek istiyorsanız OpenAI'nin YouTube hesabındaki bu konuşmayı izlemenizi gerçekten tavsiye ederim.

Hyve nasıl çalışır?

Artık yapay zeka araçları oluşturmaya yönelik bazı teknikleri tartıştığımıza göre, bunları WordPress için yapay zeka sohbet robotu geliştirirken nasıl kullandığımızı inceleyelim.

OpenAI, konuşmaya dayalı yapay zekalar oluşturmanın birçok yolunu sunar. Bu proje için Sohbet Tamamlama API'si yerine Asistan API'sini seçtik. Her iki API'nin de artıları ve eksileri var, ancak kullanıcıların sohbet geçmişini kolayca görüntülemesine ve her konuşmayı bir mesaj dizisi olarak ele alarak bağlamı korumasına olanak tanıdığı için Asistan API'sini tercih ettik. Bu özellikle QuickWP'yi oluştururken faydalı oldu, bu yüzden buna bağlı kalmaya karar verdik. Diğerleri Sohbet Tamamlama API'sini tercih edebilir ve bu da sorun değil.

Assistant API ile kullanıcı OpenAI hesabını bağladığında ve istemi orada kurduğunda bir Asistan oluşturuyoruz. Bu şekilde, OpenAI yönettiği için her istekle birlikte istem göndermek zorunda kalmıyoruz.

Kullanıcılar sorgularını chatbot'a gönderdiğinde, OpenAI'nin Embeddings API'sini kullanarak soruyu yerleştirmelere dönüştürüyoruz ve bunları en yakın eşleşmeler için sitenin bilgi tabanıyla karşılaştıracak bir algoritma çalıştırıyoruz. Daha sonra kullanıcının sorusuyla birlikte en iyi eşleşmeyi Asistan'a göndererek AI'nin sorguya yanıt verirken yalnızca sağlanan bağlamı dikkate almasını sağlıyoruz.

Yanıt kalitesini artırmak için ince ayar yapmayı düşündük ancak işleri kullanıcı açısından basit tutmak adına şimdilik bundan vazgeçtik. Ancak gelecekte bir modelde, istemin amaçlandığı gibi tam olarak takip edilmesini sağlamak için ince ayar yapabiliriz. Şimdilik hızlı mühendislik, karmaşıklık yaratmadan yeterince iyi çalışıyor.

Ve artık Hyve v1.0 ücretsiz

Hyve'ı Nisan ayında piyasaya sürdük ve o zamandan bu yana pek çok müşteri, işlevselliğinin nasıl geliştirilebileceği konusunda değerli geri bildirimler sağladı. Buna dayanarak geçen ay, site yöneticileri için cevaplanmamış sorular hakkında ayrıntılı bilgiler, Asistan için daha fazla özelleştirme seçenekleri ve çok sayıda başka iyileştirme gibi gelişmiş özellikler içeren Hyve v1.1'i piyasaya sürdük.

Şimdi Hyve v1.0.3'ün denemek isteyen tüm kullanıcılar için ücretsiz olduğunu duyurmanın heyecanını yaşıyoruz. Bu sürüm tek seferlik bir sürümdür; yani güncelleme veya müşteri desteği almayacak. Hyve v1.0.3, orijinal sürümün tüm özelliklerini ve bilinen tüm hatalara yönelik düzeltmeleri içerir.

Bu ücretsiz sürümü sunarak daha fazla kişinin Hyve'ı deneyeceğini ve bize farklı kullanım durumlarına ilişkin ek geri bildirim ve bilgiler sağlayacağını umuyoruz. Bu, gelişmeye devam etmemize ve topluluğa geri vermemize yardımcı olacaktır.

Kim bilir belki siz de Hyve'ı sevebilir ve güncellemelere abone olmaya karar verebilirsiniz. Bunu yaparsanız, lisans anahtarını girmeniz yeterlidir; güncellemeleri almaya başlarsınız.

Bu fırsatı, WordPress için yapay zeka sohbet robotu oluşturma yolculuğumuzu toplulukla paylaşmak için de kullandık. Aranızdaki yapımcılar yararlı bir şeyler bulabilir veya AI sohbet robotlarının gizli olarak nasıl çalıştığını açıklamanıza yardımcı olabilir.

Hyve'ı deneyeceğinizi ve bizim onu ​​oluşturmaktan keyif aldığımız kadar kullanırken de keyif alacağınızı umuyoruz. Hyve'ı indirirken/kurarken herhangi bir sorunla karşılaşırsanız veya bize sorularınız varsa aşağıya bir yorum bırakın. Ve yine Hyve v1.0.3'ü buradaki bağlantıya tıklayarak indirebilirsiniz. En son sürüme göz atmak isterseniz Hyve'ın ürün sayfasında bulabilirsiniz.