DEVSECOPS

Cloudflare OS Test Drive: AI'ı kendi hesabımda kurdum, aklımda kalanlar

Cloudflare OS Test Drive lab'inde AI Gateway, DLP, Guardrails, MCP Portal ve Dynamic Routing'i kendi hesabımda kurdum. Takıldığım yerler, şaşırdığım maliyet kalemi ve kurumda denemeden önce bakılacaklar.

Tek cümlelik özet

Cloudflare OS Test Drive'da AI çağrılarını AI Gateway'den geçirip DLP, Guardrails ve MCP Portal ile kontrol altına aldım; en çok işime yarayan şey takıldığım yerler oldu ve hepsini adım adım bir teknik dokümana yazdım.

Dün Cloudflare'in Cloudflare OS Test Drive atölyesindeydim. Gün, Cloudflare CIO'su Sam Rhea'nın açılış konuşmasıyla başladı, sonra yaklaşık 4 saat boyunca herkes kendi laptop'unda aynı lab'i yaptı. Ben de sonuna kadar gidip bütün adımları tamamladım.

Lab biter bitmez yaptığım her şeyi, girdiğim değerleri ve prompt'ları tekrar edilebilir bir teknik dokümana çevirdim. Bu yazı o dokümanın kısa hali sayılmaz; daha çok "ne kurdum, nerede takıldım, kafamda ne kaldı" notu. Kurulumu adım adım yapmak isteyen dokümana geçebilir.

Lab sırasında masam: iki projeksiyon ekranı ve laptop

Ne kurduk?

Lab'in fikri basit ama kapsamı geniş: kurumun bütün AI kullanımını tek bir kontrol noktasından geçirmek. Cloudflare OS'u kendi hesabımdaki Workers üzerine kurdum, girişini Cloudflare Access ile tek kullanımlık kodla korudum ve OS'un yaptığı her model çağrısını AI Gateway'den geçirdim. Modeller Workers AI üzerinde çalıştığı için ücretli bir sağlayıcının API key'ine ya da kredi kartına gerek kalmadı.

Bunun üzerine sırasıyla şunları ekledim: kart numarasını modele göndermeyen bir DLP kuralı, zararlı içerik ve jailbreak denemelerini durduran Guardrails, rate limit ve spend limit. Sonra kendi MCP server'ımı yazdım, MCP Portal'ın arkasına koydum ve OS'a bağladım. Günün sonunda her hafta içi 08:30'da e-postama rapor atan zamanlanmış bir görevim ve tek komutla sunum hazırlayan bir skill'im vardı.

DLP açık ama hiçbir şey yakalamıyor

İlk takıldığım yer DLP oldu. Policy'yi ekledim, anahtarı açtım, test için içinde test kart numarası olan bir mesaj gönderdim ve mesaj modele gitti. Bir süre policy'yi yanlış kurduğumu düşündüm. Sonra fark ettim ki hazır DLP profillerinin içindeki tespit kuralları varsayılan olarak kapalı geliyor. Financial Information profilinde Visa, Mastercard ve American Express kurallarını tek tek açınca aynı mesaj modele ulaşmadan 424, code 2030 ile engellendi.

Bunu kurumsal açıdan önemli buluyorum, çünkü policy listesine bakan biri "DLP açık" diye rapor yazabilir ama aslında hiçbir şey taranmıyor olabilir. Kontrol listesine "profil içindeki tespit kuralları açık mı?" maddesini eklemek gerekiyor.

Güvenliğin de bir faturası var

Guardrails tarafında jailbreak ve zararlı kod isteyen prompt'lar beklediğim gibi 2016 ile durdu. Beni asıl şaşırtan şey Analytics ekranı oldu: en çok token'ı ve maliyeti sohbet modelleri değil, Guardrails'in arka planda her istek için çalıştırdığı llama-guard-3-8b tüketiyordu.

Bunun iki pratik sonucu var. Birincisi, maliyet planlarken her sohbet isteğine bir de tarama inference'ı eklemek gerekiyor. İkincisi, rate limit bu taramaları da sayıyor; limiti düşük tuttuğumda normal mesajlarım bile 2016 ile engellendi, çünkü tarama limite takılınca gateway güvenli tarafta kalıp mesajı durduruyor. Hata kodu "zararlı içerik" gibi görünse de asıl sebep rate limit'ti.

Kimlik yoksa kimin harcadığı da yok

User Insights ekranında bütün harcama "Unidentified" olarak göründü. Sebep basit: gateway'im Access arkasında değildi, dolayısıyla istekler bir kullanıcıya atfedilemedi. Lab'in sonunda ürettiğim raporda da isteklerin önemli bir kısmı "untagged" çıktı. Kurumda "kim, hangi modele, ne kadar harcıyor" sorusuna cevap vermek istiyorsan gateway'i en baştan kimlikle bağlamak gerekiyor.

MCP araç açıklamaları birer prompt

Kendi MCP server'ımı yazarken fark ettiğim şey, araç açıklamalarının modelin davranışını doğrudan yönlendirmesi oldu. Açıklamada "bu aracı ne zaman kullan" diye yazdığın cümle, model için bir talimat. MCP Portal bu açıklamaları değiştirmene, araçlara takma ad vermene ve kullanıcının hangi araçları göreceğini seçmene izin veriyor; ama bu aynı zamanda araç açıklamalarının da kod gibi review edilmesi gerektiği anlamına geliyor. Kötü niyetli ya da özensiz bir açıklama, modeli yanlış aracı çağırmaya itebilir.

Rehberde portalda bir aracı kapatma adımı vardı; bunu test edemedim, çünkü araç menüsünde sadece Edit seçeneği vardı. Arayüz rehberin yazıldığı sürümden farklı olabilir; dokümanda bunu not ettim.

Kota dolunca ucuz modele geçmek

Lab'in en hoşuma giden kısmı Dynamic Routing oldu. Koddaki model adı yerine gateway'de tanımlı bir route çağırıyorsun; route kullanıcı başına saatte 2 istek kotası uyguluyor, kota içindeki detaylı raporları GLM 5.2 yazıyor, kota dolunca istekler Mistral Small 3.1'e düşüyor. Kod hiç değişmiyor, akışı dashboard'da düzenleyip deploy ediyorsun.

Burada da küçük bir hata yaptım: rate limit birimini yanlışlıkla Requests per minute seçtim. Rapor istekleri arasında zaten bir dakikadan fazla geçtiği için fallback hiç tetiklenmedi ve akışın çalışmadığını düşündüm. Birimi saate çevirince üçüncü istek beklendiği gibi ucuz modele gitti. Tek bir açılır menünün bütün maliyet kontrolünü etkisiz bırakabildiğini görmek iyi bir hatırlatma oldu.

Cloudflare OS Test Drive katılımcıları

Kurumda denemeden önce bakacaklarım

Bu lab'i kurumda bir PoC'ye çevirecek olsam önce şu listeyle başlardım:

  1. DLP: Policy'nin yanında profil içindeki tespit kurallarının da tek tek açık olduğunu doğrula ve gerçek bir test verisiyle dene.
  2. Guardrails maliyeti: Her istek için ek bir inference çalıştığını bütçeye ve rate limit hesabına kat.
  3. Kimlik: Gateway'i Access arkasına al; yoksa harcama ve güvenlik olayları kişiye atfedilmiyor.
  4. MCP araç açıklamaları: Açıklamaları kod gibi review et, portalda kullanıcı başına gereken araçları aç.
  5. Spend limit: Kuralların sadece Unified Billing ve BYOK isteklerinde engellediğini bil; Standard billing'de bütçe kontrolünü Dynamic Routing ile kur.
  6. Token izinleri: Bir Worker başka bir Cloudflare API'sini çağırıyorsa izinleri baştan doğru ver; ilk hata büyük ihtimalle oradan gelecek.

Aynı lab'i yapacaksan ya da bu ürünleri kurumunda değerlendiriyorsan teknik dokümanı yanında açık tut. Sorusu olan olursa seve seve yardımcı olurum.

Kaynaklar: Cloudflare AI Gateway dokümantasyonu · Cloudflare Zero Trust (Cloudflare One) dokümantasyonu · Workers AI dokümantasyonu

Sedat Özdemir

SEDAT ÖZDEMİR

Sr. Expert Pentest & Vulnerability Management Engineer

On yıla yakın ofansif güvenlik deneyimi. Sızma testi, red team, zafiyet yönetimi ve DevSecOps üzerine yazıyor.