Bir yapay zeka demosu hazırlamak birkaç gün sürer; aynı çözümü binlerce belgeyle, gerçek kullanıcılarla ve denetim gereksinimleriyle üretimde çalıştırmak ise tamamen farklı bir iştir. Aradaki farkı kapatan şey mimaridir. Bu yazıda bir AI mimarı ve proje uzmanı olarak kurumsal yapay zeka projelerinde verdiğim temel kararları özetliyorum.
1. Doğru kullanım senaryosu
İyi bir ilk senaryonun üç özelliği vardır: sık tekrarlanır, kuralı bellidir ve hatası ölçülebilir. Tedarikçi faturası okuma, müşteri talebi sınıflandırma veya iç dokümanlar üzerinde soru-cevap bu tanıma uyar. "Şirketin tüm verisini anlayan asistan" gibi geniş hedefler ise ilk proje için uygun değildir; başarı ölçütü belirsiz kalır.
2. Veri katmanı ve RAG
Model şirketinizi tanımaz. Doğru yanıt üretmesi için ilgili bilgiyi o anda ona vermek gerekir; buna RAG (Retrieval-Augmented Generation) denir. Belgeler parçalara bölünür, aranabilir bir dizine eklenir ve her soruda en ilgili parçalar modele bağlam olarak verilir. Burada kalite; belge temizliğine, parçalama stratejisine ve erişim yetkilerinin korunmasına bağlıdır. Bir kullanıcı, yetkisi olmayan bir belgeden yanıt almamalıdır.
3. Yapılandırılmış çıktı ve doğrulama
ERP'ye veri yazacak bir çözümde modelden serbest metin değil, şeması tanımlı yapılandırılmış çıktı istenir. Çıktı; zorunlu alanlar, tarih ve tutar biçimleri ve ana veriyle eşleşme (ör. tedarikçi kodu gerçekten var mı?) açısından otomatik doğrulanır. Doğrulamadan geçemeyen kayıtlar insan onayına düşer.
4. ERP entegrasyonu
SAP gibi sistemlere yazma işlemleri yalnızca standart arayüzlerle (BAPI, OData) yapılır; bu sayede sistemin iş kuralları ve yetki kontrolleri devrede kalır. Yapay zeka katmanı ERP'ye doğrudan değil, onay ve kayıt adımlarından geçen bir ara servis üzerinden bağlanır.
5. Güvenlik, KVKK ve maliyet
- Veri minimizasyonu: modele yalnızca gereken alanlar gönderilir, kişisel veriler maskelenir.
- Sağlayıcı seçimi: veri saklamayan kurumsal API'ler veya kurum içinde çalışan modeller değerlendirilir.
- Anahtar yönetimi: API anahtarları ve sistem talimatları yalnızca sunucuda tutulur.
- Maliyet kontrolü: istek sınırları, önbellekleme ve işe uygun büyüklükte model seçimi.
6. Sağlayıcıdan bağımsız tasarım
Yapay zeka modelleri hızla değişiyor. Uygulama kodunu tek bir sağlayıcının API'sine sıkı bağlamak, her model değişikliğinde yeniden geliştirme demektir. İstemleri, şemaları ve model çağrılarını ayrı bir katmanda toplamak; modeli değiştirmeyi bir yapılandırma işine indirger.
7. Pilottan üretime geçiş kriterleri
- Doğruluk oranı, önceden belirlenen eşiğin üzerinde mi?
- Belge başına süre ve maliyet ölçülüyor ve hedefte mi?
- Hata durumlarında insan onayı ve geri alma yolu tanımlı mı?
- Kayıtlar denetim için yeterli mi?
- Kullanıcılar sonucu güvenilir buluyor ve gerçekten kullanıyor mu?
Bu soruların cevabı "evet" olduğunda kapsam ve otomasyon oranı kademeli olarak artırılabilir. Yapay zeka projelerinde başarı, en gelişmiş modeli seçmekten değil; veri, entegrasyon ve ölçümü doğru kurmaktan gelir.
Bu mimarinin parçaları için RAG, belge işlemede doğruluk ölçümü ve KVKK ve veri güvenliği yazılarına bakabilir; hizmet kapsamını yapay zeka çözüm mimarlığı sayfasında görebilirsiniz.
