Önce iş: yapay zeka uygulamada ne yapacak?
En çok işe yarayan senaryolar belli: müşteri sorularını cevaplayan destek asistanı, uzun içeriği özetleme, ürün ya da içerik önerisi, fotoğraftan bilgi çıkarma (fiş, belge, ürün), serbest metinden yapılandırılmış veri üretme ve arama kutusunu doğal dille çalıştırma. “Uygulamaya yapay zeka ekleyelim” cümlesi tek başına kapsam değildir; hangi ekranda, hangi girdiyle, hangi çıktıyı üreteceği yazılmalıdır.
Model seçimi
Üç yol var:
- Hazır model API’si: OpenAI, Anthropic, Google gibi sağlayıcıların modelleri kullanım başına ücretlendirilir. En hızlı başlangıç budur; metin, görüntü ve ses için hazır yetenek sunar.
- Cihaz üzerinde çalışan küçük modeller: İnternetsiz çalışması gereken ya da verinin cihazdan çıkmaması istenen işlerde kullanılır; yetenekleri sınırlıdır.
- Kendi sunucunuzda açık model: Yüksek hacimde ya da sıkı veri gereksinimlerinde tercih edilir; altyapı ve bakım yükü size geçer.
İş uygulamalarının büyük kısmı için ilk seçenekle başlamak, hacim büyüyünce diğerlerini değerlendirmek doğru sıradır.
Mimari: uygulama modele doğrudan bağlanmaz
API anahtarı uygulamanın içine gömülmez; gömülürse herkes çıkarıp sizin hesabınızdan kullanır. Doğru akış şudur: uygulama kendi sunucunuza istek atar, sunucu isteği modele iletir, cevabı işleyip uygulamaya döner. Böylece anahtar güvende kalır, kullanıcı başına limit koyabilir, cevapları önbelleğe alabilir ve modeli değiştirdiğinizde uygulamayı güncellemek zorunda kalmazsınız.
Maliyet nasıl sınırlanır?
Model ücretleri işlenen metin miktarına göre hesaplanır; sınırsız kullanım sınırsız fatura demektir. Kullanıcı başına günlük limit, kısa ve iyi tasarlanmış komutlar, tekrar eden sorular için önbellek ve gereksiz uzun geçmişin gönderilmemesi maliyeti kontrol altında tutar. Test aşamasında gerçek kullanıcı sayısıyla bir tahmin çıkarılmalıdır.
Veri gizliliği
Kullanıcı verisi modele gidiyorsa KVKK aydınlatma metninde bu aktarım yazmalıdır; sağlayıcıların sunucuları çoğunlukla yurt dışındadır. Kişisel veriyi gönderilmeden önce maskelemek, yalnızca gereken alanı göndermek ve sağlayıcının veriyi eğitimde kullanmadığı planı seçmek temel önlemlerdir.
Adım adım süreç
- Kullanım senaryosunu ve başarı ölçütünü yazın (örnek: destek sorularının yüzde kaçı insana düşmeden çözülecek).
- Modeli ve komut tasarımını küçük bir veri setiyle deneyin; kaliteyi ölçün.
- Sunucu uç noktasını, limitleri ve önbelleği kurun.
- Uygulamada arayüzü ekleyin: bekleme durumu, hata durumu ve “yanlış cevap” geri bildirimi olmadan yayına çıkmayın.
- Gerçek kullanıcıyla test edin, maliyet ve kalite ölçümünü izleyin.
Nerede dikkatli olmalı?
Modeller emin görünen yanlış cevaplar üretebilir; sağlık, hukuk ve finans gibi alanlarda cevapların kaynağını göstermek ya da insan onayı eklemek gerekir. Mağaza kuralları da yapay zeka üreten uygulamalarda içerik denetimi ve şikâyet mekanizması ister. Mevcut bir uygulamaya yapay zeka eklemek istiyorsanız kapsamı nasıl kurduğumuzu yapay zeka entegrasyonu sayfasında anlattık.