Yapay Zeka Ajanları, RAG ve Size Özel Modeller
Günlük operasyonda çalışan yapay zeka: ürününüzde çalışan ajanlar, kendi belgelerinizden yanıt veren arama ve verilerinizin bulunduğu yerde çalışan modeller. Köln'de geliştiriyoruz.
Şirketler için yapay zeka danışmanlığı ve geliştirme
Yapay zekanın şirketinizde hangi işleri üstlenebileceğini sizinle birlikte belirliyor, ardından çözümü kendimiz geliştiriyoruz. Yazılımınızın içinde görev yürüten ajanlar, verileriniz üzerinde arama ve verilerinizin kalması gereken yerde çalışan modeller bu işin parçası.
Proje Sihirbazı da bizim geliştirdiğimiz bir araç: Projenizle ilgili sorular sorar, kapsamı belirler ve maliyeti hesaplar.
- Ürününüze ve iş akışlarınıza entegre yapay zeka ajanları
- Belgeleriniz, destek kayıtlarınız, kod tabanlarınız ve wiki'leriniz üzerinde RAG sistemleri
- Şirket asistanı: şirketinizin bilgi birikiminden yanıt veren, erişim yetkilerine uyan kurum içi bir sohbet aracı
- Kullandığınız uygulamalara yapay zeka özellikleri: taslak hazırlama, özetleme, sınıflandırma, belgelerden veri çıkarma
Yapay zeka ajanı yaptırmak
Yapay zeka ajanı, bir dil modelini araçlara bağlayan ve birkaç adımdan oluşan bir işi kendi başına tamamlayan yazılımdır. Verileri okur, sistemlerinize bağlanır ve hatanın pahalıya mal olacağı yerlerde sonucu onayınıza sunar. Her ajanın neyi okuduğunu, ne ürettiğini ve hangi kararın insanda kaldığını yapay zeka ajanı örnekleri yazımızda bulabilirsiniz.
Şirketler için geliştirdiğimiz ajanlardan dördü:
- Bilgi ajanı: çalışanlarınızın sorularını el kitaplarından, destek kayıtlarından ve wiki'lerden yanıtlar; her yanıtta kaynağı gösterir.
- Belge ajanı: gelen belgeleri okur, gereken bilgileri çıkarır ve bunlardan teklif, rapor ya da sözleşme taslağı hazırlar.
- Süreç ajanı: gelen e-postaları okur, takvimdeki boş saatlere bakar, teklif taslağını hazırlar ve onayınıza sunar.
- Destek ajanı: müşterilerin sorularını ürün belgelerinize dayanarak 7/24 yanıtlar, CRM'de kayıt açar, zor talepleri ekibinize devreder.
Bu türden hazır bir ajanı kendi ürünümüz olarak da sunuyoruz: Aven, yapay zeka destekli bilgi bankası. Aven, şirketinizin bilgi birikimiyle ilgili soruları kaynak göstererek yanıtlar ve belgeleri sizin şablonunuzda hazırlar.
Yapay zeka ajanlarıyla süreç otomasyonu
Sık tekrarlanan ve belirli kurallara göre yürüyen işleri otomatikleştiriyoruz: gelen talepleri ayırmak, belgelerdeki bilgileri sisteme aktarmak, taslak hazırlamak, verileri bir sistemden diğerine taşımak. Ajan bunun için e-posta, takvim, CRM ve kendi API'lerinizle çalışır.
Hatanın para kaybettireceği ya da doğrudan müşteriye ulaşacağı adımlarda, örneğin bir teklif gönderilirken, son onayı bir çalışanınız verir. Bu adımları geliştirmeye başlamadan önce sizinle birlikte belirleriz.
- Sistemlerinizin doğrudan işleyebileceği yapılandırılmış çıktılar
- Otomatik yeniden deneme, yedek çözümler ve her çalıştırmanın kaydı
RAG: belgelerinizden yanıt veren yapay zeka
RAG (retrieval-augmented generation) yönteminde sistem, dil modeli yanıt vermeden önce belgelerinizdeki ilgili bölümleri bulur; böylece her yanıtı kaynağından kontrol edebilirsiniz. Yöntemin adım adım nasıl işlediğini RAG nedir? yazımızda anlattık.
- Kaynaklar: belgeler, destek kayıtları, kod tabanları ve wiki'ler
- Erişim kontrolü: herkes yalnızca görmeye yetkili olduğu belgelerden yanıt alır
- Teknoloji: pgvector veya Qdrant, reranking ile hibrit arama
Mevcut sistemlerinize yapay zeka entegrasyonu
Yapay zeka özelliklerini hâlihazırda kullandığınız yazılımlara da ekliyoruz. Modelleri API'ler üzerinden uygulamalarınıza ve iş süreçlerinize bağlıyoruz.
İşin asıl kısmı arama kalitesi, testler, maliyet kontrolü ve modelin yanlış yanıtlarının yönetimidir. Proje süresinin büyük kısmını bu işlere ayırıyoruz.
- Canlı kullanımda test ve izleme
- Modelden bağımsız: OpenAI, Anthropic Claude, Google Gemini ya da vLLM ve Ollama üzerinden açık ağırlıklı (open-weight) modeller
- LangChain, LlamaIndex ya da bir yazılım çatısı (framework) gerekmiyorsa sade Python
- Bir sorun yapay zeka olmadan daha iyi çözülüyorsa bunu açıkça söyleriz
- Yapay zeka asistanlarını sistemlerinize kontrollü bağlayan MCP sunucuları
Kendi ürünlerimizden bir örnek: online tavla oyunumuz Tavla.Games. Oyundaki yapay zeka rakibi bir oyun motoruyla çalışır ve üç zorluk seviyesinde oynar.
Kendi sunucularınızda çalışan modeller ve fine-tuning
Bazı veriler şirketin dışına çıkmamalı. Bu veriler için açık ağırlıklı modelleri (Llama, Mistral, Qwen) kendi altyapınızda, yani AWS'de, Hetzner'de ya da kendi sunucularınızda çalıştırıyoruz. Modele gönderilen istemler (prompt) ve belgelerinizden üretilen vektörler (embedding) ağınızın içinde kalır.
Bir sağlayıcının API'si yeterliyse veri işleme sözleşmesi, AB içinde veri barındırma ve veri saklamayan (zero retention) bir API yapılandırmasıyla çalışırız. Hangi model boyutunun hangi donanımda çalıştığını on-premise yapay zeka rehberimiz açıklıyor.
Ton, sabit formatlar, sektöre özgü terimler ya da yanıt süresi artık prompt ile iyileşmiyorsa fine-tuning işe yarar. Sizin durumunuzda gerekip gerekmediğini önceden söyler, farkı testlerle gösteririz.
- Bulut sağlayıcınızdaki sanal özel ağınızda (VPC) veya kendi sunucularınızda özel büyük dil modeli (LLM) kurulumu
- Kendi verilerinizle fine-tuning ve test
- API çağrısının fazla yavaş ya da pahalı kaldığı veya verilerin ağınızdan çıkmaması gereken durumlar için göreve özel küçük modeller
- Veri işleme sözleşmesi, AB'de veri barındırma, verilerinizle model eğitilmez
Sektörlere göre yapay zeka kullanımı
Yapı taşları her sektörde aynıdır. Nasıl kullanılacaklarını sektörün kuralları belirler:
- Sağlık ve hukuk: gizli veriler için sizin altyapınızda çalışan belge yapay zekası ve asistanlar
- Finans ve sigorta: dolandırıcılık tespiti, hasar dosyası işlemleri ve risk değerlendirmesi (underwriting) için açıklanabilir modeller
- Üretim: SCADA, MES ve ERP verilerine dayalı kestirimci bakım, görüntü işlemeyle kalite kontrol
- Perakende: ürün önerileri, talep tahmini ve yoğun sezonda da tüm müşteri mesajlarını karşılayan sohbet desteği
Yapay zeka danışmanlığı: proje nasıl başlar?
Planınızı bize anlatırsınız. Ardından üç adım gelir:
- 24 saat içinde yazılı değerlendirme: yaklaşım, model seçimi, takvim ve riskler
- Gerçek verileriniz üzerinde iki ila dört haftalık kavram kanıtı (PoC)
- Bu sonuca göre planlanan canlıya geçiş
Kavram kanıtı, yaklaşımın verilerinizle işe yarayıp yaramadığını erkenden gösterir. Yaramıyorsa bunu ikinci haftada öğrenirsiniz.
Sisteminizi geliştiren kıdemli yazılımcılarla doğrudan çalışırsınız. Tüm çözümlerimiz GDPR uyumludur. Köln'deki yapay zeka danışmanlık ekibimiz, atölye çalışmaları ve toplantılar için isterseniz size gelir.
Sık sorulan sorular
Yapay zeka ajanı nedir?
Yapay zeka ajanı, bir dil modelini araçlara bağlayan ve birkaç adımdan oluşan bir işi kendi başına tamamlayan yazılımdır. Verileri okur, e-posta, takvim ya da CRM gibi sistemlerinize bağlanır ve hatanın pahalıya mal olacağı yerlerde sonucu onayınıza sunar.
Chatbot ile yapay zeka ajanı arasındaki fark nedir?
Chatbot soruları yanıtlar. Yapay zeka ajanı ise iş yapar: Sistemlere bağlanır, belge hazırlar ve bir süreci adım adım yürütür. İkisi birlikte de kullanılabilir: Sohbet ekranı arayüzdür, işi arka planda ajan yapar.
Yapay zeka ajanı yaptırmak ne kadar tutar?
Fiyatı kapsam belirler. En çok etkileyen iki şey, ajanın kaç sisteme bağlanacağı ve verilerinizin ne durumda olduğudur. Önce yazılı bir değerlendirme alırsınız, kapsam netleşince sabit fiyat veririz. Bu sitedeki Proje Sihirbazı, birkaç dakikada yaklaşık bir bütçe ve süre aralığı verir.
Yapay zeka ajanı geliştirmek ne kadar sürer?
Kavram kanıtı iki ila dört hafta sürer. Canlı kullanıma kadar geçen süreyi kapsam belirler. Takvimi ilk değerlendirmeyle birlikte bildiririz.
Şirketimizde RAG'ı nasıl kurarsınız?
Belgelerinizi, destek kayıtlarınızı, kod tabanlarınızı ve wiki'lerinizi sisteme bağlar, anahtar kelime aramasını anlama göre arayan vektör aramasıyla birleştirir ve sonuçları yeniden sıralarız (reranking). Bir RAG sisteminin yanıt kalitesini en çok arama belirler. Erişim yetkileriniz yanıtlarda da geçerlidir. Yanıt kalitesini kendi verileriniz üzerinde yaptığımız testlerle ölçeriz. Yeni bir belge dizine eklendiği anda kullanılabilir; modeli yeniden eğitmeye gerek kalmaz.
Yapay zeka danışmanlığı nasıl ilerler?
Projenizi anlatırsınız ve yaklaşımı, model seçimini, takvimi ve riskleri içeren yazılı bir değerlendirme alırsınız. Ardından gerçek verileriniz üzerinde kavram kanıtı yaparız ve canlı kullanımı bu sonuca göre planlarız.
Yapay zeka GDPR'ye uygun şekilde kullanılabilir mi?
Evet. Ağınızdan çıkmasında sakınca olmayan veriler için veri işleme sözleşmeli, AB'de veri barındıran ve veri saklamayan bir sağlayıcı API'si kullanırız. Çıkmaması gereken veriler için model kendi altyapınızda çalışır. Verileriniz model eğitiminde kullanılmaz.
Hazır API mi, kendi modeliniz mi?
Verilerinizin ağınızdan çıkmaması gerekiyorsa açık ağırlıklı bir model kendi altyapınızda çalışır; sakınca yoksa veri işleme sözleşmesi yapılan ve AB'de veri barındıran bir sağlayıcının uygulama programlama arayüzü (API) yeterlidir. Karşılaştırmayı yerel yapay zeka sayfamızda bulabilirsiniz.
Hangi yapay zeka modellerini kullanıyorsunuz?
Modeli işe göre seçiyoruz. OpenAI, Anthropic Claude ve Google Gemini'nin yanı sıra kendi altyapınızda çalışabilen Llama, Mistral ve Qwen gibi açık ağırlıklı modellerle çalışıyoruz.
Yapay zeka KOBİ'ler için de mantıklı mı?
Evet, sık tekrarlanan ve mevcut belgelere ya da verilere dayanan bir iş varsa. Yaklaşımın sizde işe yarayıp yaramadığını, verileriniz üzerinde yapılan kavram kanıtı gösterir.