Hizmetler

Yapay Zeka Modelleri için Fine-Tuning

Fine-tuning ile bir yapay zeka modelini şirketinize ait örneklerle eğitmeye devam ederiz; model sizin üslubunuzda, sizin formatlarınızda ve sektörünüzün diliyle çalışır hâle gelir. Bunun sizin için değip değmeyeceğini önceden söyler, farkı testlerle gösteririz.

Fine-tuning nedir?

Hazır bir dil modeli birçok şeyi yapabilir, ama çok azını tam olarak şirketinizin ihtiyaç duyduğu şekilde yapar. Fine-tuning (ince ayar) ile modeli kendi işinizden örneklerle eğitmeye devam ederiz. Her örnek bir girdi ve o girdiden beklediğiniz sonuçtan oluşur. Örneğin bir müşteri talebi ve en iyi çalışanınızın yazacağı yanıt. Ya da bir denetim raporu ve bu rapordan sisteminize girilmesi gereken bilgiler.

Bundan sonra model, her istekte uzun talimatlara gerek kalmadan bu örneklerdeki gibi yazar ve karar verir.

Fine-tuning'in işinizi istekteki iyi talimatlardan ya da belgelerinizde arama yapan RAG'den daha iyi çözüp çözmediğini sizinle birlikte inceliyoruz. Fine-tuning işinize yarayacaksa örnekleri hazırlıyor, modeli eğitiyor ve sonucu kendi test senaryolarınızla gösteriyoruz.

Fine-tuning mi, RAG mi?

İki yöntem farklı sorunları çözer. RAG (Retrieval-Augmented Generation), soru sorulduğu anda belgelerinizde arama yapar ve ilgili bölümleri modele okutur. Model ise olduğu gibi kalır: RAG bir eğitim değildir. Fine-tuning ise modelin kendisini değiştirir: nasıl yazdığını, hangi formata uyduğunu ve talepleri nasıl sınıflandırdığını.

Buradan basit bir kural çıkar: Fiyatlar, yönergeler ya da ürün bilgileri gibi değişen bilgiler için doğru yöntem RAG'dir. Aynı kalması gereken davranış içinse fine-tuning. Çoğu zaman ikisi birlikte çalışır: RAG bilgiyi getirir, ince ayarlı model onu sizin formatınıza dönüştürür. Farkların ayrıntısını RAG nedir? rehberimizde bulabilirsiniz.

Fine-tuning şirketler için ne zaman işe yarar?

Sonuç yalnızca prompt ile, yani daha iyi talimatlar ve istekteki örneklerle daha fazla iyileşmiyorsa fine-tuning işe yarar. Tipik durumlar:

  • Üslup: Müşterilerinize giden metinler genel bir asistan gibi değil, şirketiniz gibi konuşur.
  • Sabit formatlar: Model her seferinde aynı yapıyı verir; sistemleriniz bunu elle düzeltme gerekmeden işler.
  • Sektör terimleri: Sektörünüzün kavramları, kısaltmaları ve sınıflandırmaları, genel bir modelin yanıldığı yerlerde bile doğru çıkar.
  • Hız ve maliyet: İnce ayarlı küçük bir model, normalde büyük bir model gerektiren dar kapsamlı bir işi üstlenir. Daha hızlı yanıt verir, istek başına daha az maliyet çıkarır ve isterseniz kendi sunucularınızda çalışır.

Fine-tuning'e ne zaman ihtiyacınız yoktur?

Fine-tuning, bir modele şirket bilginizi öğretmenin yolu değildir. Model eğitimden edindiği bilgiyi bir kaynakla destekleyemez ve bu bilgideki her değişiklik yeniden eğitim demektir. Şu durumlarda fine-tuning'e ihtiyacınız yoktur:

  • Model öncelikle belgelerinizdeki bilgileri bilmeliyse. Bunun için RAG var.
  • İyi talimatlar ve istekteki birkaç örnek istediğiniz sonucu zaten veriyorsa.
  • İyi bir sonucun neye benzediğini gösteren örnekler henüz yoksa.
  • Her yanıtın kaynağını göstermesi gerekiyorsa.

Fine-tuning uygun değilse

Sizin durumunuz buysa bunu proje başlamadan önce söyleriz.

O zaman işinizi çözen yolu öneririz: istekte daha iyi talimatlar ve örnekler ya da yanıtı belgelerinizde arayıp kaynağını gösteren RAG.

Bir fine-tuning projesi nasıl ilerler?

İşe eğitimle değil, ölçümle başlarız:

  • İyi sonucun ölçütlerini sizinle birlikte belirler, beklenen yanıtlarıyla test senaryoları hazırlarız.
  • Mevcut bir modelin iyi bir prompt ile hangi sonucu verdiğini ölçeriz. Bu yeterliyse proje burada biter ve eğitime gerek kalmaz.
  • Yeterli değilse verilerinizden örnekler hazırlar ve modeli eğitiriz.
  • Ardından aynı senaryolarla eğitim öncesini ve sonrasını karşılaştırırız. Model kullanıma girmeden önce farkı rakamlarla görürsünüz.

Verileriniz, sizin projeniz

Verilerinizle fine-tuning'i yalnızca siz istediğinizde ve yalnızca sizin projeniz için yaparız; verilerinizi başka hiçbir şey için kullanmayız.

Eğitilen model, verilerinizin işlenmesine izin verilen yerde çalışır: kendi altyapınızda ya da veri işleme sözleşmesi bulunan ve verileri AB'de barındıran bir sağlayıcıda. Modellerin şirket içinde nasıl çalıştırıldığını yerel yapay zeka sayfamızda görebilirsiniz.

Sık sorulan sorular

Fine-tuning sonrasında model şirketimiz hakkında daha çok şey bilir mi?

Güvenilir şekilde bilmez. Fine-tuning modelin nasıl yazdığını ve karar verdiğini şekillendirir, ama bilgi deposu değildir. Asistanın belgelerinizi bilmesi gerekiyorsa onu RAG ile bu belgelere bağlarız; o zaman kaynağı da gösterir.

Fine-tuning için kaç örnek gerekir?

Bu, işin kendisine bağlıdır. Sayıdan daha önemlisi, her örneğin tam olarak istediğiniz sonucu göstermesidir. İşiniz için kaç örnek gerektiğini, test senaryolarınızla ölçtüğümüz ilk eğitim gösterir.

Hangi modellere fine-tuning yapılabilir?

İndirilip kendi sunucularınızda çalıştırılabilen Llama, Mistral veya Qwen gibi modellere ve API'leri üzerinden fine-tuning sunan sağlayıcıların modellerine. Hangisinin uygun olduğu, verilerinizin nerede işlenebileceğine ve modelin ne kadar hızlı ve ucuz yanıt vermesi gerektiğine bağlıdır.

İnce ayarlı bir modelin daha sonra yeniden eğitilmesi gerekir mi?

Yalnızca istediğiniz davranış değiştiğinde, örneğin yeni bir format gerektiğinde, ya da daha yeni bir temel modele geçtiğinizde. Yeni bilgi eğitim gerektirmez, RAG ile eklenir. İlk projedeki test senaryoları, her yeni eğitimden sonra modelin iyileşip iyileşmediğini gösterir.

Fine-tuning ne kadar tutar?

Fiyatı işin kapsamı, örneklerinizin sayısı ve kalitesi, modelin nerede çalışacağı belirler. Önce iyi bir prompt'un yetip yetmediğini ölçtüğümüz için eğitime yalnızca ölçüm prompt'un yetmediğini gösterdiğinde ödeme yaparsınız. İlk fiyat aralığını, projenizi birkaç dakikada soran Proje Sihirbazı'ndan alabilirsiniz.

Aklınızda bir proje mi var?

Yapay zeka destekli Proje Sihirbazımızı kullanarak anında analiz ve teklif alın.