Yapay Zekâ Ajanlarında Maliyet Kontrolü: Akıllı Model Seçimi

Neden Her Görev Aynı Modele Gitmemeli?

İşin garibi, Bak şimdi… Bir e-posta özetlemekle çok adımlı araç çağrısı yapan bir ajan yazmak aynı şey değil. İlkinde hafif bir model çoğu zaman yeterli oluyor; ikincisinde ise daha kuvvetli akıl yürütme, daha iyi araç kullanımı. Bazen de ciddi bağlam kapasitesi gerekiyor, yani gerçekten başka bir dünya. Hepsini tek sepete koyarsanız maliyet tarafında tokat yemeye başlıyorsunuz.

Şimdi gelelim işin can alıcı noktasına.

Benzer tabloyu 2023’te kendi yan projemde bizzat yaşadım. Ankara’da geliştirdiğim küçük bir destek botu vardı; başlangıçta “en iyisi olsun” diye büyük modeli varsayılan yaptım. Sonra günlük istek sayısı artınca fark ettim ki kullanıcıların yarısı aslında sadece kısa cevap istiyor — basit, tek cümlelik şeyler (ciddiyim). Model seçimi biraz akıllanınca aylık maliyet gözle görülür biçimde düştü; rakamı yuvarlayayım ama etkisi bayağı hissedildi.

Gel gelelim işin diğer tarafına. Aşırı agresif ucuzlama da riskli. Her şeyi mini modele iterseniz bu kez kalite düşüyor, araç çağrıları aksıyor, bazı görevler yarım yamalak kalıyor. Mesele sadece “ucuz olanı bul” değil yani; doğru anda doğru modeli çağırmak.

Maliyet Körlüğü Neden Oluşuyor?

LLM fiyatları sürekli değişiyor. Yeni modeller çıkıyor, bazı sağlayıcılar indirime gidiyor, bazılarında token fiyatı yukarı aşağı oynuyor… Siz el ile takip etmeye çalışırken güncel tablo çoktan eskiyor. Editör masasında bu haberi görünce hemen not aldım. Bu problem bana finans raporlarından çok gerçek hayat gibi geliyor: küçük kaçaklar birleşince koca delik açıyor.

Garip gelecek ama, Bir de şu var; geliştiriciler çoğu zaman prototipteki alışkanlığı prod’a taşıyor. Prototipte pahalı model kullanmak normaldir, hız önemli — itiraz edebilirsiniz tabi — olur orada. Ama canlı sistemde binlerce çağrı dönüyorsa o alışkanlık faturaya dönüşüyor — hem de sessiz sedasız. İşte tam burada maliyet farkındalığı devreye giriyor.

WhichModel Ne Yapıyor?

WhichModel denen açık MCP sunucusu tam da bu boşluğu doldurmaya çalışıyor. Temel fikir basit aslında: ajanınız gidip mevcut modellere bakabiliyor, fiyatları. Yetenekleri karşılaştırabiliyor, sonra da göreve uygun öneri alıyor. API anahtarı yok, kurulum derdi yok denecek kadar az; uzaktaki MCP uç noktasına bağlanıyorsunuz ve olay başlıyor.

Bir dakika — bununla bitmedi.

Bunu ben biraz “menüden yemek seçmek” gibi görüyorum, hani şöyle düşünün: sadece en pahalı yemeğe bakıp sipariş vermek yerine menünün tamamını görüyorsunuz — porsiyon büyüklüğü var mı, içeriğinde ne var, bütçeye uyuyor mu… Hepsi ortada duruyor. Neden önemli bu? Basit ama güzel bir metafor.

Ajanınızın zekâsını artırmanın yolu her zaman daha büyük model değildir; bazen daha iyi yönlendirme yapmaktır.

Bu yaklaşım özellikle çok kiracılı SaaS ürünlerinde işe yarıyor. Küçük müşteri basit özetleme istiyorsa hafif model gider; enterprise müşteri sözleşme analizi veya çok adımlı otomasyon istiyorsa daha sağlam model devreye girer. Aynı ürün içinde iki farklı dünya. Evet, tam öyle.

Kurulumun En Sevdiğim Tarafı

Bence, Açık konuşayım, kurulum kısmının bu kadar kısa olması hoşuma gitti ama biraz da tedirgin etti — hani bazen “bu kadar kolaysa büyük ihtimalle gizli bir şey vardır” dersiniz ya — itiraf edeyim, beklentimin üstündeydi —. Neyse ki burada ana fikir net: MCP istemcisine bir sunucu tanımı ekliyorsunuz ve bitti sayılır.

{
"mcpServers": {
"whichmodel": {
"url": "https://whichmodel.dev/mcp"
}
}
}

Bence, Bu yapı özellikle hızlı deney yapan ekipler için güzel çünkü ekstra bakım yükü bindirmiyor — valla güzel iş çıkarmışlar —. Bir yandan da dikkatli — ki bu tartışılır — olmak lazım; uzaktaki servise bağımlılık oluşuyor, hayati prod akışlarında erişim gecikmesi ya da servis kesintisi ihtimali var. Bunları göz ardı etmemek gerek. Kağıt üstünde süper, pratikte göreceğiz artık.

Üç Kullanım Senaryosu Gerçek Hayatta Nasıl Çalışır?

WhichModel’in olayı sadece “model öner” demek değil; senaryoya göre farklı karar mekanizmaları sunması. Ben bunu üç ana kullanım şeklinde okudum ve her biri farklı ekip tipine hitap ediyor gibi duruyor.

1) Göreve Göre Seçim

Dürüst olmak gerekirse, Diyelim ki kod üretimi yapıyorsunuz ve iş orta seviye karmaşıklıkta değil de bayağı zorlayıcı. Bu durumda sistem size doğrudan uygun modeli önerebiliyor — üstelik yalnızca isim vermiyor, neden o modeli seçtiğini de söylüyor. Bu açıklama kısmı önemli. Geliştirici olarak körlemesine güvenmek yerine kararın mantığını görmek istiyorsunuz, bu fark büyük.

Pazartesi sabahı ofiste böyle bir örnek test ettim diyeyim — aslında test etmekten çok kıyasladım desek daha doğru olur. Kısa metin özetinde pahalı modele gitmek gereksizdi ama tool-calling gereken görevlerde ucuz seçenek duvara tosladı. İşte ayrım tam burada netleşiyor. One UI 8.5 beta genişliyor: Samsung sürprizi ne anlatıyor? yazımızda bu konuya da değinmiştik.

2) Bütçe Tavanı Koymak

Bence en pratik senaryo bu olabilir. Mesela günlük bildirim özeti üreten bir ajanda her çağrı için belirli bir limit koyuyorsunuz. Sistem o limitin altında kalan en iyi modeli buluyor — hem de bunu her seferinde siz düşünmek zorunda kalmadan yapıyor (yanlış duymadınız). Mantıklı değil mi? Hele bir de düşük değerli ama yüksek hacimli işler için fena değil, hatta baya iş görüyor. Bu konuyla ilgili Fransa Windows’tan Neden Uzaklaşıyor? Linux Hamlesi yazımıza da göz atmanızı tavsiye ederim.

Küçük bir startup için bu yöntem hayat kurtarır; nakit akışı hassas olur, sürpriz faturalar moral bozar. Enterprise tarafta ise ayrı ekiplerin ayrı bütçe sınırları olabilir — pazarlama otomasyonu başka kulvarda giderken iç destek botu başka kulvarda yürür. Güzel bir ayrışma.

3) Ölçek Maliyeti Hesabı

Bak şimdi, Neyse uzatmayalım… Asıl can yakıcı konu burasıdır zaten: hacim büyüdüğünde küçük farklar devasa hale geliyor. Günde on bin çağrıda token başına birkaç dolarlık fark bile ay sonunda ciddi rakama dönüşür. Bir arkadaşım Barselona’daki fintech projesinde bunu yaşadı; başlangıçta kimse ciddiye almadı. Trafik büyüyünce faturadaki fark neredeyse yeni bir mühendis maaşı seviyesine çıktı — abartmıyorum bunu söylerken. Bu konuyla ilgili PDF Dünyasında Bir Nefes: Ücretsiz ve Limitsiz Araçlar yazımıza da göz atmanızı tavsiye ederim.

Maliyet Farkındalığı Neden Stratejik Bir Konu?

Lafı gevelemeden söyleyeyim: AI FinOps artık lüks değil, ihtiyaç oldu. Model seçimi sadece teknik optimizasyon değil; ürün stratejisiyle direkt ilişkili bir konu haline geldi. Buna ilk kez geçen yıl Dubai’de tanık oldum — ürün ekibi prompt’u optimize ediyordu ama finans tarafı hâlâ aynı modeli tüm akışlarda kullanıyordu. Sonuç? Görünmeyen sızıntılar. Bu konuyla ilgili Türkiye’de Rüzgâr ve Güneş: Ek Elektrik Neden Dönüm Noktası? yazımıza da göz atmanızı tavsiye ederim.

E tabi iş sadece para tasarrufu da değil. Doğru model seçimi bazen gecikmeyi düşürüyor, bazen hata oranını azaltıyor; kullanıcı memnuniyeti artıyor. Ajan gereksiz yere ağırlaşmıyor. Kısacası performansla maliyet arasında dengeli bir köprü kurulmuş oluyor. En sevdiğim kısım da şu: her görev için sanki ayrı bir karakter atanmış gibi hissediyorsunuz. Bir botun tüm gün tank gibi dolaşmasına gerek yok. Bazen bisiklet yeter! Daha fazla bilgi için Butterfly CSS: 2026’da Dikkat Çeken Hafif Bir Seçenek yazımıza bakabilirsiniz.