Yapay Zekâ Uzmanı

Yapay zekâ uzmanı ne iş yapar?

• Doğru problemi seçer. Her iş yapay zekâ gerektirmez; bazen basit bir kural motoru daha ucuz ve daha güvenilirdir. Uzman, hangi noktada modelin gerçekten değer ürettiğini ayırır.
• Veriyi hazırlar. Modelin cevap vereceği kaynakları toplar, temizler, parçalara ayırır ve erişim yetkilerini kurar.
• RAG mimarisi kurar. Şirket verisini modele ezberletmek yerine, doğru anda doğru belgeyi getirerek cevap üretmesini sağlar.
• Prompt ve değerlendirme yazar. Cevabın doğruluğunu ölçen test setleri kurar; "iyi görünüyor" ile yetinmez.
• Maliyet ve gecikmeyi yönetir. Model yönlendirme, önbellekleme, daha küçük modeller ve akışlı cevap gibi yöntemlerle kullanım maliyetini düşürür.
• Güvenlik ve sınırlar koyar. Yetki kontrolü, kişisel veri maskeleme, insan onayı ve kötüye kullanım engelleri.
• Üretimde izler. Cevap kalitesi, hata oranı, gecikme ve maliyet metriklerini sürekli takip eder.

LLM, RAG ve ajan nedir?

LLM (büyük dil modeli), büyük miktarda metinle eğitilmiş, metni anlayıp üreten bir modeldir. Tek başına şirketinizin güncel verisini bilmez; bu yüzden çoğu kurumsal kullanımda tek başına yeterli değildir.

RAG (Retrieval-Augmented Generation), modelin cevap üretmeden önce ilgili belgeleri bir arama katmanından getirmesidir. Böylece cevap, sizin verinize dayanır ve kaynak gösterilebilir. Politika, ürün dokümanı, sözleşme, hasta bilgisi gibi alanlarda kritik olan budur.

Ajan, bir hedefe ulaşmak için adım adım karar veren ve araçları (arama, veritabanı, dosya, API) kullanabilen sistemdir. Ajanlar güçlüdür ama yetki sınırı, onay noktası ve denetim kaydı olmadan üretime alınmamalıdır.

Yapay zekâ ne zaman mantıklı, ne zaman değil?

• Mantıklı: serbest metin anlama, özetleme, sınıflandırma, belge içinden cevap bulma, müşteri desteği, içerik üretimi ve çok adımlı iş akışları.
• Dikkatli olunmalı: kesin hesap, hukuki sonuç doğuran karar, yüksek riskli tıbbi yönlendirme ve denetlenemeyen otomatik işlemler.
• Gerekli olmayabilir: kurallarla çözülebilen işler, veri olmayan alanlar ve tek seferlik küçük görevler.

Üretimde yapay zekânın gerçek sorunları

• Halüsinasyon. Model emin görünerek yanlış cevap verebilir; RAG ve kaynak gösterimi bunu azaltır ama sıfırlamaz.
• Maliyet. Kullanım arttıkça token maliyeti büyür; model yönlendirme ve önbellekleme şarttır.
• Gecikme. Kullanıcı deneyimi için akışlı cevap, ön hesaplama ve doğru model seçimi gerekir.
• Gizlilik. Kişisel veya hassas veri modele gönderilmeden önce maskeleme ve sağlayıcı tercihi yapılmalıdır.
• Değerlendirme. "Örneklerde iyi çalışıyor" yeterli değildir; ölçülebilir test seti ve düzenli kontrol gerekir.
• Model değişimi. Sağlayıcılar modelleri günceller; sistem tek sağlayıcıya kilitlenmemelidir.

Deneyimim

KaiMoi, kurduğum yapay zekâ ajanı ve backend ürünü. Kai (otonom geliştirici) ve Moi (gözden geçiren ve orkestratör) rollerinden oluşan çoklu ajan çalışma zamanı tasarladım. Sistem, DeepSeek, Claude ve Anthropic arasında maliyet duyarlı yönlendirme yapıyor. Cogentic adlı açık kaynak çoklu ajan orkestrasyon çerçevesini de geliştiriyorum.

DoktorAsistan'da hasta ve doktor iletişimi için LLM ve RAG tabanlı soru-cevap, içerik üretimi ve asistan akışları kurdum. Çok kanallı bildirim, otomatik e-posta akışları, CRM zenginleştirme ve analitik aynı sistemde çalışıyor.

AI'ın bir siteyi veya ürünü tamamen yönetip yönetemeyeceğini yapay zekâ ile yönetilen web siteleri yazımda ayrıca değerlendirdim.

Süreç nasıl ilerler?

1. Keşif. Hangi iş, hangi veriyle, hangi başarı ölçütüyle çözülecek?
2. Veri ve mimari. Kaynaklar, erişim, RAG yapısı, model seçimi ve gizlilik sınırları.
3. Küçük MVP. Tek bir akışta çalışan, ölçülebilir bir prototip.
4. Değerlendirme. Doğruluk, maliyet, gecikme ve kullanıcı geri bildirimi.
5. Üretim. İzleme, hata yönetimi, insan onayı ve sürekli iyileştirme.