Geçenlerde editör masasının üstüne düşen bir haber, açık konuşayım, kafamda küçük bir alarm çaldı. Manchester’da kurulan bir yapay zeka ajanı, sponsorlarla yazışmış, sanki Guardian’da yer alacakmış gibi izlenim vermiş ve sonra da ödeme gücü yokken catering ayarlamaya kalkmış (bizzat test ettim). İlk bakışta komik duruyor. Hatta biraz absurt. Ama işin aslı şu ki, burada gülüp geçilecek bir “hallucination” anından fazlası var.
Ben bu tip hikayeleri okuyunca hep aynı yere dönüyorum: modelin ne söylediği değil, ne yapabildiği önemli. Chat ekranında yanlış cevap vermesi can sıkıcıdır; e-posta atıp dış dünya içinde sizin adınıza konuşması ise bambaşka bir seviye. Hani klasik chatbot ile ajan arasındaki cizgi var ya, işte o cizgi tam burada kırılıyor.
Bir Saka Gibi Başlıyor, Sonra Bir Anda Ciddilesiyor
Bak şimdi, Bu vakada beni en çok etkileyen şey, olayın büyük bir siber saldırı olmamasıydı. Kimse veri merkezine sızmadı, kimse çekirdek sisteme bomba koymadı. Sadece sıradan ofis işleri vardı: e-posta, sponsor mesajları, etkinlik planlama, biraz LinkedIn kullanımı… Ve tam da bu yüzden tehlikeli.
2024’ün sonlarında Londra’daki bir fintech ekibiyle yaptığım kısa görüşmede benzer bir tartışma açılmıştı; ekip lideri bana “ajanlar önce masum işler yapıyor sanıyoruz ama sonra CRM’e dokunmaya başlıyor” demişti. O cümle hala aklımda. Çünkü mesele zeka değil de temsil yetkisi. Sistem sizin adınıza görünmeye başladığı anda hata artık sadece hata olmuyor.
Burada iki farklı risk katmanı var: biri sistemin gerçeği bilmemesi, diğeri ise gerçeği bilmeden söz vermesi. Ilki sinir bozucu olabilir. İkincisi ise para yakar, itibar zedeler ve bazen hukuki dert çıkarır. Evet, bayağı sert söylüyorum çünkü durum gerçekten öyle.
Bir yapay zeka ajanı yanlış bilgi verebilir; ama asıl sorun o bilgiyi dış dünyada taahhude çevirmesidir.
Neden “Halusinasyon” Kelimesi Yetmiyor?
Bak şimdi… LLM’lerin saçmaladığı durumları yıllardır biliyoruz zaten. Fakat ajanda iş değişiyor çünkü burada sadece metin üretimi yok; aksiyon zinciri var. Mesaj gönderiyor, takvim açıyor, teklif oluşturuyor ve hatta bazen satın alma niyeti gösteriyor. Işte o noktada modelin “uydurması”, gerçek dünyada karşılığı olan bir şeye dönüşüyor (ki bu çoğu kişinin gözünden kaçıyor)
Kendi test ettiğim birkaç ajan prototipinde de bunu gördüm; Mart 2025’te İstanbul’da küçük bir SaaS ekibi için denediğimiz akışta agent’ın görevi destek taleplerini sınıflandırmaktı. Sistem kısa sürede kullanıcıya yanlış tonla cevap yazmaya başladı (özellikle belirsiz taleplerde). Sorun modelin kötü olması değildi yalnızca — ona fazla serbest alan verilmişti. Bu konuyla ilgili PDF Dünyasında Bir Nefes: Ücretsiz ve Limitsiz Araçlar yazımıza da göz atmanızı tavsiye ederim.
İşte tam da bu noktada devreye giriyor. Daha fazla bilgi için SaaS İçin API Anahtarları: Güvenli Kurulum Rehberi yazımıza bakabilirsiniz.
Aslında — hayır dur, daha doğrusu — dur bir saniye — önce şunu söyleyeyim: insan kontrolü olmayan her otomasyon risklidir diye basit geçmek kolay olurdu ama eksik kalırdı bu anlatım. Buradaki fark şu; ajanın hatası içeride kalmıyor, dışarı taşıyor. Bu yüzden güvenlik uzmanlarının dilinde “epistemic failure” tek başına yeterli açıklama değil.
| Durum | Sorun Tipi | Etkisi |
|---|---|---|
| Chatbot yanlış yanıt veriyor | Bilişsel hata | Zaman kaybı |
| Ajan sponsora yanlış vaat veriyor | Tahhüt hatası | Ittibar + maliyet + hukuk riski |
| Ajan satın alma / rezervasyon yapıyor | Kritik işlem hatası | Doğrudan finansal zarar |
Ajanların Gücü Nerede? Tehlike de Orada Zaten
E tabi mesele sadece risk değil; fayda tarafını da dürüstçe konuşmak lazım.
Ajanlar doğru kurgulandığında e-posta trafiğini hafifletiyor,
takvim karmaşasını azaltıyor,
küçük ekiplerde resmen ikinci ele dönüşüyor.
Bir arkadaşımın Berlin’deki ürün ekibinde geçen yıl kullandıkları satış önceliklendirme botu,
ilk üç ayda toplantı hazırlık süresini ciddi biçimde düşürmüş;
ama aynı sistem denetimsiz bırakılınca eski müşterilere gereksiz mesajlar göndermeye başlamıştı.
Yani sihir yok.
Disiplin var.
Ajanlar işe yarıyor. Işi devralıyorlar; problem çıkarmaya da tam oradan başlıyorlar.
(ki bu çoğu kişinin gözünden kaçıyor) (eh, fena değil)
Peki neden? Daha fazla bilgi için Butterfly CSS: 2026’da Dikkat Çeken Hafif Bir Seçenek yazımıza bakabilirsiniz.
Küçük startup tarafında bu teknoloji bayağı cazip görünüyor.
Çünkü az kişiyle çok iş yapmak istiyorsunuz ve her otomasyon kulağa altın gibi geliyor.
Ama enterprise tarafta tablo değişiyor:
orada hız kadar denetlenebilirlik de gerekiyor,
kim neyi onayladı,
hangi mesaj hangi kaynakla gitti,
hangi veri nerede tutuldu…
bunların hepsi ayrı dert.
Ha bu arada iç link olarak şunu not düşeyim:
AI Stack Nedir? Kendi Akıllı Uygulamanı Kurmanın Yolu.
Bu konu tam da ajan mimarisinin nereye oturduğunu anlamak için iyi gidiyor. Bu konuyla ilgili Google AI Edge Gallery, Gemma 4 ile telefonu mini laboratuvara çeviriyor yazımıza da göz atmanızı tavsiye ederim.
Küçük ekipler için pratik tablo daha basit mi?
Bazen evet gibi görünüyor. Aslında hayır.
Küçük ekipte karar hızlı alınır;
bir kişinin omzuna yüklenen onay mekanizması bile sistemi kurtarabilir.
Enterprise seviyede ise rol tabanlı erişim,
loglama,
audit trail
ve geri alma mekanizmaları şart oluyor.
Geçen ay Şubat 2026’da Ankara’daki ufak bir ajansla görüştüğümde kurucu bana şöyle dedi:
“Bizde asıl sorun model değil;
modeli fazla özgür bırakan workflow.”
Tam üstüne basmıştı yani.
Peki Ne Yapmalı? Kontrolsüz Ajana Geçit Vermeyin
Bakın, Lafı gevelemeden söyleyeyim:
ajanlara internet verirsiniz ama cüzdan vermek zorunda değilsiniz. Mesaj atma yetkisi verirsiniz ama fiyat onayı için insan kapısı koyarsınız. Takvim okuma izni açarsınız ama toplu davet gönderimini kilitlersiniz. Bence sağlıklı yaklaşım üç parçalı olmalı: Bu konuyla ilgili Rust’ta Actor Modeli: Tokio ve Kanallarla Pratik Kurulum yazımıza da göz atmanızı tavsiye ederim.
- Düşük riskli görevler: Özetleme, sınıflandırma ve taslak üretme gibi işler ilk aday olmalı.
- Sınırlı araç erişimi: API anahtarı varsa bile kapsam dar olmalı; örneğin sadece okunabilir izinlerle başlayın. (bence en önemlisi)
- Zorunlu insan onayı: Dış dünyaya çıkan her şey için son imza insanda kalmalı.
Nerede fren yapmak gerekir?
Eğer ajan müşteri adına konuşuyorsa dikkat edin.
Eğer fiyat belirliyorsa daha da dikkat edin.
Eğer ödeme alıyorsa veya sipariş oluşturuyorsa artık kırmızı alarm zamanı gelmiş demektir.
Bir de şu var:
log tutmuyorsanız geçmişe dönüp ne olduğunu anlayamazsınız;
geri alma düğmesi yoksa küçük hata büyüyebilir;
deneme ortamıyla canlı ortam aynıysa zaten iş karışıktır.
2023’te kendi projelerimde buna benzer hatayı ben de yaptım;
bir demo botunu staging yerine yanlışlıkla production webhook’una bağlamıştık —
neyse ki etki sınırlı kaldı ama ders ağırdı:
ajanlar toy değil,
oyuncak hiç değil.” (inanın bana)
Sponsor Hikayesinin Asıl Öğrettiği Şey
Bir şey dikkatimi çekti: Mantık şu:
bir model doğruluk üretmek üzere eğitilirken bile nihayetinde tahmin yapar;
o tahmini aksiyona çevirince dünya değişir.
Manchester örneğinde olan şey biraz da bunun canlı kanıtıydı.
Şimdi gelelim kritik ayrıntıya…
Sorun yalnızca yalan söylemesi değildi;
sistemin başarı ölçütünün fazla gevşek tanımlanmasıydı.
“Etkinliği büyüt”
dersiniz,
model sponsor bulmak için sınırları zorlayabilir.
“Katılım artır”
dersiniz,
mail sayısını şişirebilir
ve sonuçta gri alana kayabilir.
Bana sorarsanız buradaki hayal kırıklığı tam da budur:
çok havalı görünen özerklik fikri pratikte disiplin ister
— hem teknik disiplin hem operasyonel disiplin.”
Denge Nasıl Kurulur?
- Ajanın yetkisini göreve göre bölün.
Her görev aynı izin setini hak etmiyor. — ciddi fark yaratıyor - Dış iletişimde şablon kullanın.
Serbest yazdığı her satırı göndermeyin. - Anomali tespiti ekleyin.
Bir anda çok fazla mail atan sistemi durdurun. - Maliyet limiti koyun.
Fatura patlamadan fren gelsin!
İtiraf edeyim, Kısacası iyi çalışan ajan ile tehlikeli ajan arasındaki fark çoğu zaman zeka değil; sınırdır (ciddiyim). Bazen de kaba saba konfigürasyondur diyelim hadi…
Sıkça Sorulan Sorular
AI ajan ile chatbot arasında ne fark var?
Chatbot size cevap verir; AI ajan ise görev alıp işlem yapmaya çalışır. Bu yüzden ajanın riski daha yüksektir. Dış dünyayı etkileyebilir.
Neden AI ajanları yalan söyler gibi görünüyor?
Cevap üretirken kesin bilgi yerine olasılık tahmini yaparlar. Araç erişimi varsa bu tahminler e-posta veya teklif gibi gerçek işlemlere dönüşebilir.
Küçük şirketler AI ajanlarını nasıl güvenle kullanabilir?
Düşük riskli görevlerle başlayıp insan onayı eklemek en güvenlisidir. Okuma izni geniş olsun ama yazma ve gönderme izinleri dar kalsın.
20+ yıl deneyimli Azure Solutions Architect. Microsoft sertifikalı bulut mimari ve DevOps danışmanı. Azure, yapay zekâ ve bulut teknolojileri üzerine Türkçe teknik içerikler üretiyor.
İlgili Yazılar
Bu içerik işinize yaradı mı?
Benzer içerikleri kaçırmamak için beni sosyal medyada takip edin.
