WerasBlog

Yapay zekâ, yazılım, teknoloji ve bilimde olan biten; sade ve kaynağıyla.

Abone ol
Son Haberler
Yapay Zekâ

RAG Nedir? Şirket Dokümanlarıyla Çalışan Yapay Zekâ Asistanı

"Yapay zekâ bizim dokümanlarımızı bilsin" isteğinin arkasındaki yöntem RAG. Nasıl çalıştığını, nerede işe yaradığını ve başarısını belirleyen faktörleri sade bir dille açıklıyoruz.

RAG Nedir? Şirket Dokümanlarıyla Çalışan Yapay Zekâ Asistanı
Görsel: Wesley Tingey · Unsplash · Unsplash License

RAG nedir sorusunun kısa yanıtı şu: RAG (Retrieval-Augmented Generation, Türkçesiyle "bilgi getirmeyle desteklenmiş üretim"), bir dil modelinin soruyu yanıtlamadan önce şirketinin dokümanları arasından ilgili bölümleri bulup getirdiği ve yanıtını bu bölümlere dayandırdığı bir yöntemdir. Böylece model, eğitim verisinde olmayan güncel ve şirkete özel bilgileri kullanabilir, yanıtının hangi belgeye dayandığını gösterebilir. Şirket içi bilgi asistanları ve müşteri destek botları genellikle bu yönteme dayanır.

Yöneticilerden sık duyulan bir istek vardır: "Yapay zekâ bizim politikalarımızı, ürünlerimizi, süreçlerimizi bilsin." Bu isteği karşılamanın ilk akla gelen yolu modeli şirket verisiyle yeniden eğitmek gibi görünse de, çoğu iş senaryosunda daha pratik ve güncellenebilir çözüm RAG'dir.

RAG nedir, nasıl çalışır?

Bir RAG sistemini, açık kitap sınavına giren bir öğrenciye benzetebilirsin. Öğrenci her şeyi ezberlemek yerine, soruyu okuduktan sonra kitabın ilgili sayfasını bulur ve yanıtını o sayfaya dayanarak yazar. RAG sistemi de benzer adımlarla çalışır:

  1. Hazırlık: Şirket dokümanları (politikalar, kılavuzlar, ürün bilgileri, SSS'ler) küçük parçalara bölünür ve hızlı aranabilecek şekilde dizinlenir.
  2. Soru: Kullanıcı bir soru sorar: "Yurt dışı seyahatinde günlük harcırah limiti nedir?"
  3. Getirme: Sistem, soruyla anlamca en ilgili doküman parçalarını bulur.
  4. Üretim: Bulunan parçalar soruyla birlikte dil modeline verilir ve modelden yalnızca bu bilgilere dayanarak yanıt vermesi istenir.
  5. Kaynak gösterme: Yanıtla birlikte hangi dokümanın hangi bölümünün kullanıldığı gösterilir.

Bu yaklaşımın en büyük avantajı, dokümanlar güncellendiğinde sistemin de anında güncel bilgiyi kullanabilmesidir. Modeli yeniden eğitmeye gerek yoktur.

RAG ile modeli eğitmek arasındaki fark

ÖzellikRAGModeli yeniden eğitmek (ince ayar)
GüncellemeDoküman değişince hemen yansırYeniden eğitim gerekir
Kaynak göstermeMümkünGenellikle mümkün değil
Maliyet ve süreGörece düşükGörece yüksek
Uygun olduğu işBilgiye dayalı soru-cevapBelirli bir üslup veya görev biçimi öğretmek
Yetki kontrolüDoküman bazında uygulanabilirZor

İnce ayar, modelin belirli bir formatta veya tarzda yanıt vermesini öğretmek için kullanışlıdır; ancak modele yeni bilgi "öğretmek" için çoğu zaman en verimli yol değildir. Bilgiye dayalı işler için RAG genellikle ilk tercih olmalı.

Şirketlerde tipik kullanım alanları

  • İç bilgi asistanı: Çalışanların İK politikaları, masraf kuralları, BT prosedürleri hakkında soru sorabildiği bir asistan.
  • Müşteri destek botu: Ürün kılavuzları ve SSS'lere dayanarak müşteri sorularını yanıtlayan, emin olmadığında temsilciye devreden bir bot.
  • Satış ve teknik destek: Ürün özellikleri, teknik şartnameler ve geçmiş teklifler üzerinden hızlı bilgi bulma.
  • Mevzuat ve uyum: Şirketin iç prosedürleri ve ilgili düzenleme metinleri üzerinden soru-cevap (son yorum her zaman uzmanda kalmak üzere).
  • Yeni çalışan oryantasyonu: "Bunu kime sormalıyım?" sorularının önemli kısmını karşılayan bir başvuru noktası.

Başarıyı belirleyen faktörler

RAG, teknolojiden çok bilgi yönetimi disiplinine dayanır. Sistemin kalitesini en çok etkileyen faktörler şunlardır:

Doküman kalitesi

Çelişkili, güncel olmayan veya dağınık dokümanlar, sistemin de çelişkili ve yanlış yanıtlar vermesine yol açar. Aynı konuda üç farklı tarihte yazılmış üç politika varsa, sistem hangisinin geçerli olduğunu bilemez. Proje öncesinde doküman envanteri çıkarmak ve her konu için tek bir güncel kaynak belirlemek, en önemli hazırlık adımıdır.

Parçalama ve arama kalitesi

Dokümanların nasıl bölündüğü ve aramanın ne kadar isabetli olduğu, modele doğru bilginin ulaşıp ulaşmadığını belirler. Tablolar, uzun listeler ve çapraz referanslar içeren dokümanlar özel bir işlem gerektirebilir. Bu teknik bir konu ama sonuçları kullanıcı tarafından doğrudan hissedilir.

Doküman yazım biçimi de aramayı etkiler. Başlıkları açık, her bölümü tek bir konuya odaklanan ve kısaltmaları ilk kullanımda açıklayan dokümanlar, hem insanlar hem de RAG sistemi için daha kolay bulunur. Örneğin "Madde 4.2 – Bkz. Ek-3" gibi yalnızca başka bir yere atıf yapan bölümler, tek başına getirildiğinde modele hiçbir bilgi sağlamaz. Dokümanları düzenlerken "bu bölüm tek başına okunduğunda anlaşılır mı?" sorusunu sormak iyi bir ölçüttür.

Yetki kontrolü

Bir çalışan, normalde erişemediği bir belgeye asistan aracılığıyla da erişememeli. Maaş tabloları, yönetim kurulu notları veya kişisel dosyalar gibi kısıtlı belgeler, sistemde kullanıcının yetkisine göre filtrelenmeli. Bu kural tasarımın başında ele alınmazsa ciddi bir veri sızıntısı riski oluşur.

"Bilmiyorum" diyebilme

İyi bir RAG sistemi, ilgili bilgi bulamadığında tahmin yürütmek yerine bunu açıkça söylemeli ve kullanıcıyı doğru kişiye yönlendirmeli. Modelin talimatı şuna benzer bir kural içermeli:

Yalnızca sana verilen doküman parçalarına dayanarak yanıt ver.
Parçalarda yanıt yoksa "Bu konuda dokümanlarda bilgi bulamadım"
de ve kullanıcıyı [ilgili birim] birimine yönlendir.
Her yanıtın sonunda kullandığın dokümanın adını ve bölümünü belirt.
Dokümanlar arasında çelişki varsa bunu açıkça belirt.

RAG'in sınırları

RAG, halüsinasyon riskini azaltır ama ortadan kaldırmaz. Model, getirilen parçaları yanlış yorumlayabilir, birden fazla parçayı hatalı birleştirebilir veya ilgisiz bir parçaya dayanarak yanıt verebilir. Bu nedenle:

  • Yanıtlarla birlikte kaynak gösterimi zorunlu olmalı, böylece kullanıcı doğrulama yapabilir.
  • Kritik konularda (hukuki, finansal, güvenlik) yanıtlar bilgi amaçlı kabul edilmeli, karar için kaynak belgeye dönülmeli.
  • Kullanıcıların hatalı yanıtları bildirebileceği bir geri bildirim mekanizması bulunmalı.
  • Sistemin yanıt kalitesi, gerçek sorulardan oluşan bir test setiyle düzenli olarak ölçülmeli.

Projeye nasıl başlanır?

  1. Kapsamı daralt: Tüm şirket bilgisini değil, tek bir alanı (ör. İK politikaları) seç.
  2. Dokümanları düzenle: O alandaki dokümanları güncelle, çelişkileri gider, sahiplerini belirle.
  3. Test soruları topla: Çalışanların gerçekte sorduğu birkaç düzine soruyu ve doğru yanıtlarını listele.
  4. Pilot yap: Küçük bir kullanıcı grubuyla dene, yanıtları test setiyle karşılaştır.
  5. Genişlet: Sonuçlar tatmin ediciyse yeni doküman alanları ekle.

Weras Labs olarak şirketlerin kendi dokümanlarına dayanan, yetki kontrolü ve kaynak gösterimi içeren yapay zekâ asistanları ve entegrasyonları geliştiriyoruz.

Pilot sırasında kullanıcıların sorduğu ve sistemin yanıtlayamadığı soruları düzenli olarak incele. Bu sorular genellikle iki şeyden birini gösterir: ya ilgili bilgi hiçbir dokümanda yoktur ya da vardır ama bulunamayacak şekilde yazılmıştır. Her iki durumda da çözüm, dokümanların iyileştirilmesidir. Böylece RAG projesi, şirketin bilgi yönetimindeki eksikleri görünür kılan bir araca da dönüşür.

Sonuç

RAG, dil modellerinin şirketine özel ve güncel bilgilerle çalışmasını sağlayan pratik bir yöntemdir: Önce ilgili doküman parçaları bulunur, sonra model yanıtını bu parçalara dayandırır ve kaynağını gösterir. Başarısı büyük ölçüde doküman kalitesine, yetki kontrolüne ve modelin "bilmiyorum" diyebilmesine bağlıdır. Tek bir alanla başlayıp gerçek sorularla test ederek ilerlemek, en sağlıklı yoldur.

PaylaşWhatsAppTelegramXFacebookLinkedIn
#RAG#kurumsal yapay zekâ#bilgi yönetimi#yapay zekâ entegrasyonu

Weras Labs'ten

Bu konuda sana yardımcı olabiliriz

Okuduğun konuyu işletmen için çalışan bir ürüne dönüştürüyoruz. Kodu yazan kişiyle konuşursun; fiyat ve süre baştan net.

Sıkça sorulan sorular

RAG nedir, kısaca açıklar mısın?

RAG, dil modelinin bir soruyu yanıtlamadan önce şirket dokümanları arasından ilgili bölümleri bulup getirdiği ve yanıtını bu bölümlere dayandırdığı yöntemdir. Bu sayede model güncel ve şirkete özel bilgilerle, kaynak göstererek yanıt verebilir.

RAG için modeli şirket verisiyle eğitmek gerekir mi?

Hayır. RAG'in temel avantajı, modeli yeniden eğitmeden dokümanlardaki bilgiyi kullanabilmesidir. Doküman güncellendiğinde sistem de güncel bilgiyi hemen kullanır.

RAG halüsinasyonu tamamen önler mi?

Riski önemli ölçüde azaltır ama tamamen önlemez; model getirilen bilgileri yanlış yorumlayabilir. Bu nedenle kaynak gösterimi, geri bildirim mekanizması ve düzenli kalite testi gereklidir.

RAG projesinde en önemli hazırlık adımı nedir?

Doküman kalitesini sağlamaktır. Her konu için tek ve güncel bir kaynak belirlemek, çelişkili ve eski dokümanları ayıklamak sistemin doğruluğunu doğrudan etkiler.

Yazar hakkında

Habip Dayan

Habip Dayan

Weras Labs kurucusu

Habip Dayan, profesyoneller ve ekipler için yazılım ürünleri geliştiren Weras Labs'in kurucusu. 2018'den bu yana yazılım geliştiriyor; yapay zekâ, bulut mimarisi ve ürün tasarımı üzerine yazıyor.

Yorumlar

Saygılı ol; reklam ve kişisel veri paylaşma. Kurallara uymayan yorumlar silinir.