Agent Sandbox: Kubernetes’te AI Agent’ları Çalıştırmak

AI v1’den AI v2’ye: Mimarı Olarak Ne Değişti?

Yani, Bakın şimdi, durumu fazla süslemeden koyalım. İlk nesil generative AI uygulamaları aslında oldukça düz şeylerdi; istek gelir, model birkaç on milisaniye çalışır, cevap döner ve container kapanırdı. Stateless. Tek atımlık. Hani ne farkı var diyorsunuz, değil mi? Bildiğimiz REST API mantığı yani.

Şunu söyleyeyim, Ama agent dediğiniz şey öyle değil. Bir AI agent uzun süre ayakta kalmak zorunda oluyor, bağlam tutuyor, dış araçları (tools) kullanıyor, kod yazıp çalıştırıyor, başka agent’larla konuşuyor. Resmen küçük bir dijital çalışma alanı gibi davranıyor. Üstelik çoğu zaman boş durduğunu da unutmayalım — aktif olduğu anlar kısa burst’ler hâlinde geliyor.

Bu farkı klasik Kubernetes primitive’leriyle modellemek mümkün mü? Evet, mümkün; ama açık konuşayım baya uğraştırıyor. Her agent için ayrı StatefulSet (size: 1), headless Service, PVC… 10 agent için belki idare eder ama 500 olunca iş çığrından çıkıyor. Geçen sene bir e-ticaret müşterimizde buna benzer bir şeye girdik — altı ay sonra mimariyi söküp yeniden kurduk (ciddiyim)

Kısa bir not düşeyim buraya.

“Geleneksel Kubernetes objelerini birbirine bağlayarak agent çalıştırmak, kürdanla köprü yapmaya benziyor. İşliyor — bir noktaya kadar. Sonra dağılıyor.”

Agent Sandbox Tam Olarak Ne Sunuyor?

İşin özünü tek cümlede söyleyeyim: Agent Sandbox projesi Sandbox adında yeni bir Custom Resource Definition (CRD) getiriyor ve bunu AI agent runtime’ları için özel olarak tasarlıyor. Singleton workload’lar için yani; stateful olanlar için; uzun ömürlü olup çoğu zaman idle kalan işler için.

Kısaca “agent için Pod” diyebilirsiniz ama Pod’dan biraz daha fazlası var burada. Üç ana yetenek öne çıkıyor:

1. Güvenli İzolasyon (Bu Olmazsa Olmaz)

Düşünün: Agent’ınız LLM’den kod alıyor ve önü çalıştırıyor (ciddiyim). Bu kod sizin yazdığınız kod değil; LLM’in ürettiği kodu koşturuyorsunuz aslında. Yani kendi infrastructure’ınızda untrusted code çalıştırıyorsunuz ve bu kulağa pek rahat gelmiyor.

Ben şahsen en kritik kısmın bu olduğunu düşünüyorum çünkü AZ-500’e hazırlanırken de defalarca gördük ki multi-tenant yapılarda container escape senaryoları hâlâ ciddiyetini koruyor; standart runc ile AI agent çalıştırmak — açık konuşayım — biraz pervasızlık ölür.

2. Yaşam Döngüsü Yönetimi (Suspend/Resume)

Beni en çok heyecanlandıran nokta burasıydı işte. Daha açık söyleyeyim, bir AI agent saatlerce idle kalabiliyor; kullanıcı görev veriyor, agent işi bitiriyor ve sonra beklemeye geçiyor. Bekleme sırasında CPU yemesinin pek anlamı yok (şaşırtıcı ama gerçek)

Sandbox API size agent’ı suspend edip state’i diske almayı ve sonra hızlıca resume etmeyi sağlıyor / en azından hedeflediği şey bu / maliyet tarafında da ciddi fark yaratabilecek türden bir yaklaşım bu sanırım… Sonra sayıya gireceğim zaten. Daha fazla bilgi için ları ile ilgili önceki yazımız yazımıza bakabilirsiniz.

3. Identity ve Persistent State

Her agent’ın kendine ait kalıcı kimliği ve “scratchpad” dediğimiz çalışma alanı oluyor; böylece restart sonrası nereden devam edeceğini biliyor ya da en azından bilmesi hedefleniyor diyelim daha dürüst olurum. Konuşma geçmişi var, kullandığı araçlar var, ürettiği dosyalar var — hepsi yerinde kalabiliyor.

Klasik Yöntemle Karşılaştırma: Pratik Bir Bakış

Lafı gevelemeden somut tabloyu koyayım çünkü rakam bazen her şeyi anlatıyor gibi davranıyor ama bazen de kandırabiliyor; yine de burada faydalı olacak gibi duruyor: Bu konuyla ilgili PostgreSQL’in Geleceği: Microsoft’tan Commit’ten Bulut’a yazımıza da göz atmanızı tavsiye ederim. Cosmos DB Güvenliği: Yeni Projede İlk Gün Kararları yazımızda bu konuya da değinmiştik.

Büyük fark var gibi görünüyor değil mi? Var evet; ama burada küçük bir fren yapayım çünkü proje henüz development‘ta ilerliyor ve production’a “yarın basalım” denecek durumda değil bana sorarsanız. PoC ortamında, internal tooling tarafında, lab’da denenmeli; önce orada yürüsün sonra üretime bakılır.

Basit Bir Sandbox Manifest Örneği

Neye benzediğini göstereyim dedim ama syntax tarafının hızlı değişebileceğini de not düşeyim; proje canlı canlı evriliyor sonuçta:

apiVersion: agents.x-k8s.io/v1alpha1
kind: Sandbox
metadata:
name: customer-support-agent-042
namespace: agents-prod
spec:
runtime:
class: gvisor # ya da kata-containers
image: registry.local/agent-runtime:1.4.2
resources:
requests:
cpu: "200m"
memory: "512Mi"
limits:
cpu: "2"
memory: "4Gi"
persistence:
enabled: true
size: 5Gi
lifecycle:
idleTimeout: 15m
suspendOnIdle: true
identity:
serviceAccount: agent-sa

Baktığınızda görüyorsunuz zaten mesele şu yatakta toplanmış durumda: suspend mantığı, persistence, izolasyon… hepsi tek resource altında birleşmiş. Klasik YAML yığınına göre baya daha okunur duruyor, itiraf edeyim şaşırdım açıkçası. Bu konuyla ilgili Claude Opus 4.8 GitHub Copilot’ta: Sahadan İlk İzlenimler yazımıza da göz atmanızı tavsiye ederim.

Türkiye’deki Kurumsal Yapılar Açısından Ne Anlama Geliyor?

Peki neden bizim için önemli? Şöyle söyleyeyim: son sekiz dokuz aydır Microsoft Azure danışmanı olarak girdiğim neredeyse her müşteri toplantısında AI agent konusu açılıyor. Ama Türkiye’deki yapıların iki belirgin gerçeği var; bunu kabul etmeden ilerleyemeyiz. Visual Studio 2026 C++ Yenilikleri: 18.1’den 18.6’ya Saha yazımızda bu konuya da değinmiştik.

Maliyet Hesabı:Tl Bazında Düşünelim

diyelim ki Azure’da yüz tane agen çalıştiriyorsunuz, her biri iki vCPU artı dört GB RAM istiyor. Standart D2s v5 fiyatlarıyla kaba hesapta VM başina aylık doksan ile doksan beş USD arası gidip geliyorsunuz; yüz tane olunca toplam dokuz bin USD civarına çıkıyorsunuz. TL hesabıyla bakınca kabaca aylık üç yüz elli — üç yüz seksen bin TL ediyor.

Şimdi Agent Sandbox’ın suspend mekanizmasını düşünelim; ajanların yüzde yetmişinin zamanın yüzde sekseninde idle kaldığını varsaysak bile(çok uçuk değil aslında), teorik tasarruf kabaca yüzde elli — elli beş bandına gelebiliyor. Yani aylık yaklaşık yüz seksen — iki yüz bin TL cebinizde kalabilir; yılda bakınca iki buçuk milyon TL civarı eder. Küçük-orta ölçekli banka için bile az para değil, açık konuşayım insanın aklı dönüyor biraz.